KI-Tools im Unternehmen
ChatGPT, Claude, Copilot & Co. – welches Tool für welche Daten, ohne Shadow-AI und ohne CLOUD-Act-Falle.
Das Thema in drei Schritten.
Inhalt 9 Kapitel
- 01 Der Ausgangspunkt: Shadow AI
- 02 Auswahlheuristik statt Tool-Listicle
- 03 Fünf Tarif-Fallen, die KMU regelmäßig treffen
- 04 Pragmatische Einstiegswege
- 05 Die Regel, die das Ganze zusammenhält
- 06 Rote Linie: DeepSeek
- 07 Wie das angegangen wird
- 08 Wenn das Frontend mehr leisten soll als ein Chat-Fenster
- 09 Häufige Rückfragen
Der Ausgangspunkt: Shadow AI
Bitkom hat 2025 Unternehmen ab 20 Beschäftigten gefragt: In 8 % ist private KI-Nutzung ohne Freigabe der IT weit verbreitet, in weiteren 17 % gibt es Einzelfälle, beides mit steigender Tendenz; nur 29 % sind sicher, dass es keine gibt. Regeln für den Umgang mit KI haben erst 23 %. 27 % der GenAI-Ausgaben in Unternehmen laufen über Product-Led-Growth – Mitarbeitende mit privater Kreditkarte, ohne Wissen der IT (Menlo Ventures 2025). Die Free-Version von ChatGPT hat keinen AVV und kein Training-Opt-Out – jede Eingabe mit personenbezogenen Daten ist ein DSGVO-Verstoß und potenziell meldepflichtig nach Art. 33.
Die zentrale Diagnosefrage: „Weißt Du, welche KI-Tools Deine Mitarbeitenden gerade nutzen?“ Die ehrliche Antwort führt direkt zum Handlungsbedarf.
Und die zweite Frage vor jeder Tool-Wahl: Wofür? Ein Assistent für die persönliche Arbeit, ein Baustein in einem Ablauf und ein Kundenassistent sind drei verschiedene Werkzeugklassen mit drei Rechtsrahmen. Die Einordnung steht unter Drei Felder der KI-Wertschöpfung →.
Auswahlheuristik statt Tool-Listicle
Die pragmatische Frage ist nicht „EU oder US“, sondern welches Tool für welche Daten:
| Datenklasse | Empfehlung |
|---|---|
| Keine personenbezogenen Daten | Auch kostenlose Tools zulässig |
| Standard-Business (Ampel 1) | ChatGPT Team, Claude Team oder Copilot M365 Business – jeweils mit AVV; Inferenzort pro Modell prüfen, nicht nur den Speicherort |
| Mandanten-/Patientendaten (Ampel 2–3) | Mistral Le Chat Teams, Self-Hosting offener Gewichte (auch Kolibri-1 von Aleph Alpha), DATEV-KI (Steuer), medatixx/CGM (Arzt) |
| Hochrisiko-KI nach Anhang III AI Act | Zusätzliche Pflichten unabhängig vom Tool |
Eine zweite Frage entscheidet mit, und sie steht in keinem Vergleichstest: Auf welche Daten und Systeme hat das Werkzeug Zugriff, und auf welche nicht. Nicht das Modell allein bestimmt, was ein Produkt kann, sondern der Rahmen, in dem es läuft – dieselbe Modellfamilie verhält sich in einer Büroumgebung anders als in einer Entwicklungsumgebung, weil beide eigene Systemanweisungen und Voreinstellungen mitbringen. Praktisch heißt das zweierlei: Die Frage nach dem Zugriff beantwortet mehr als jeder Benchmark. Und wer sich an ein Werkzeug gewöhnt hat, muss beim Wechsel damit rechnen, dass die eigene Erfahrung nur begrenzt mitzieht.
Fünf Tarif-Fallen, die KMU regelmäßig treffen
- „Team“ ≠ Business, aber Nachprüfung lohnt sich. ChatGPT Team hat einen
AVV. Bei Claude Team hat sich der Stand seit Mai 2026 geändert:
Anthropic bindet seine kommerziellen Pläne – Team und Enterprise – seit
- Januar 2026 automatisch in einen DPA nach Art. 28 DSGVO ein (inkl. SCCs für Drittlandtransfers), abrufbar im Kundenportal (console.anthropic.com). Kostenlose und Pro-Accounts bleiben weiterhin ohne AVV. Trotzdem gilt: Vertragsdokumente des jeweiligen Plans vor Einführung immer selbst prüfen, da sich Konditionen kurzfristig ändern können.
- EU Data Residency ≠ DSGVO-sicher, und Speicherort ≠ Rechenort. Serverstandort allein schützt nicht vor dem CLOUD Act, solange der Mutterkonzern US-amerikanisch ist. Dazu kommt eine Unterscheidung, die viele Anbieterseiten verwischen: Ein Tarif kann EU-Datenspeicherung zusagen und die Inferenz trotzdem in den USA rechnen. Stand August 2026 gilt zum Beispiel: Anthropic bietet direkt keine EU-Inferenz an, in der EU rechnet Claude nur über AWS Bedrock oder Google Vertex (je rund 10 % Aufschlag); OpenAI hat EU-Inferenz seit Januar 2026, aber nur für Enterprise und nur in neu angelegten Workspaces; bei Google Gemini reicht die EU-Datenresidenz nach vorliegenden Angaben nur bis Gemini 3.5 Flash, neuere Flash-Modelle laufen global. Wer EU-Verarbeitung zusagt, prüft das pro Modell, nicht pro Anbieter. Welche Route welchen Beleg trägt, steht in der Entscheidungskarte Direktvertrag vs. Hyperscaler vs. Gateway vs. Eigenbetrieb.
- Consumer-Abo mit Geschäftsdaten = Verstoß. Private ChatGPT-Plus-Accounts, M365-Familie-Abos, Gemini Advanced (privat) – kein AVV, auch mit Opt-out nicht DSGVO-konform für Firmendaten.
- Training-Opt-out ist nicht Nulllinie. Auch ohne Training laufen Prompts durch Logging, Missbrauchserkennung und Sub-Prozessoren. Erst ein AVV bindet das vertraglich.
- AGB-Haftungsausschluss gilt für alle. Microsoft Copilot-AGB: „for entertainment purposes only“. Der Nutzer haftet für jede weitergegebene KI-Ausgabe – Prüfpflicht bleibt operativ.
Pragmatische Einstiegswege
Eine Ebene, die in Tool-Übersichten meist fehlt: Werkzeuge, die nicht antworten, sondern arbeiten – auf Ordnern, im Browser, im eigenen Tenant. Für Häuser ohne Entwicklungsteam ist das inzwischen der übliche erste Kontakt mit Agenten, mit eigenen Datenschutz- und Kostenfragen. Eingeordnet in Agenten ohne Entwicklungsteam.
- Ohne neues Werkzeug anfangen: Der niedrigschwelligste Einstieg ist kein Kauf, sondern eine Datei. Wer im vorhandenen Zugang einen Projektbereich anlegt und dort einmal hinterlegt, was der Betrieb macht, wie er schreibt und welche Angaben nie hineingehören, muss das nicht in jedem Chat wiederholen. Das kostet eine Stunde, ist reversibel und zeigt schneller als jede Demo, ob die Aufgabe überhaupt zum Werkzeug passt.
- Bestehender M365-Tenant: Microsoft Copilot Business ist oft der unkomplizierteste KMU-Einstieg – AVV bereits im M365-Vertrag enthalten. Caveat: CLOUD-Act-Exposition bei sehr sensiblen Daten. Außerdem kann „Flex Routing“ bei Lastspitzen außerhalb der EU rechnen; für Tenants ist es seit 25.03.2026 standardmäßig an und lässt sich im Admin Center abschalten. Seit 2026 bindet Microsoft zusätzlich Anthropic-Modelle (Claude) als Sub-Prozessor in Copilot ein; für Tenants in EU/EFTA/UK steht dieser Schalter standardmäßig auf Aus und muss aktiv zugeschaltet werden – Admin-Einstellung „AI providers operating as Microsoft subprocessors“ im M365 Admin Center vor Rollout prüfen.
- EU-Souveränität gewünscht: Mistral Le Chat Teams (FR) ist der einzige europäische Anbieter mit eigener Spitzenmodell-Reihe und EU-Hosting. Aleph Alpha (DE) führen wir als gehosteten Dienst nicht mehr als KMU-Option: PhariaAI gibt es nur noch als Enterprise-Angebot über STACKIT, der Zusammenschluss mit Cohere ist seit 16.09.2026 verbindlich vereinbart, der Abschluss steht aus (sekundäre Quellenlage, vor einer Entscheidung beim Anbieter verifizieren). Davon unabhängig hat Aleph Alpha am 03.10.2026 Kolibri-1 mit offenen Gewichten unter Apache 2.0 veröffentlicht, mit Schwerpunkt Deutsch; das ist eine Option für den eigenen Betrieb (siehe Self-Hosting). Deutsche Arbeitsplattformen wie Langdock oder Nele.ai setzen ohnehin auf Pass-through zu fremden Modellen – die Residenzfrage verschiebt sich damit auf das Modell dahinter, sie verschwindet nicht.
- Übersetzung / Umformulierung: DeepL Pro (DE) statt ChatGPT/Claude – für diese Tasks rechtssicherer Ersatz.
- Self-Hosting: Llama, Mistral Open, Gemma auf IONOS/Hetzner/OVHcloud. Neu aus Deutschland: Kolibri-1 von Aleph Alpha, auf eigenem Server oder bei einem EU-Hoster; Mindesthardware laut Modellkarte zwei A100 mit 80 GB oder eine H200.
Die Regel, die das Ganze zusammenhält
Eine Werkzeugauswahl ohne schriftliche Regel hält genau so lange, wie sich alle an die mündliche Absprache erinnern. Was in eine KI-Richtlinie gehört, damit sie mehr ist als ein Bekenntnis, steht unter KI-Richtlinie – inklusive der Mitbestimmungsfrage, die unabhängig von der Risikoklasse entsteht.
Rote Linie: DeepSeek
Für KMU-Geschäftsdaten weiterhin ausgeschlossen – kein AVV für Unternehmenskunden, Datenabfluss nach China, dokumentierte Datenlecks. Sieben deutsche Landesdatenschutzbehörden (u. a. Baden-Württemberg, Hessen, Berlin, Rheinland-Pfalz) führen seit Februar 2025 ein koordiniertes Prüfverfahren, zunächst zur fehlenden EU-Vertretung nach Art. 27 DSGVO. Eine im Januar 2026 nachgereichte Datenschutzerklärung mit benanntem EU-Kontakt wurde von den Behörden als nicht ausreichend bewertet – das Verfahren war zu Redaktionsschluss noch nicht abgeschlossen. Der Berliner Datenschutzbeauftragte hatte zusätzlich bereits 2025 die Entfernung der App aus deutschen App-Stores gefordert. Auch für anonymisierte Prompts kritisch, weil Geschäftsgeheimnisse (Strategie, Produktideen) trotzdem abfließen.
Wie das angegangen wird
Ein Tool-Audit als Einstiegs-Deliverable: KI-Inventar erfassen, Shadow-AI sichtbar machen, pro Datenklasse einen Empfehlungspfad geben. Häufigster Befund: private Consumer-Accounts auf Firmenhandys. Cleanup-Strategie statt Verbote – die enthusiastischsten Shadow-AI-Nutzer werden zu formalen Pilot-Nutzern.
Wenn das Frontend mehr leisten soll als ein Chat-Fenster
Sobald mehrere Mitarbeitende auf einem gemeinsamen Tool-Stack arbeiten, lohnt der Schritt von Einzel-Accounts zu einem agentischen Betriebssystem mit Multi-User, Rollen, SSO und integrierter Wissensbasis. Für KMU mit 5–50 MA ist OpenWebUI ein guter Standard: Self-Hosted in der EU, RBAC, RAG-Engine, DSGVO-konform, bis 50 aktive Nutzer ohne Lizenzkosten (eigene Source-available-Lizenz seit April 2025, vor einer Entscheidung beim Anbieter prüfen). Das Audit-Log ist ab Werk ausgeschaltet; wer Nachweise braucht, schaltet es bei der Einrichtung ein. Praxis: Mitarbeiter-Chat auf eigenem Wissen →.
Tiefer einsteigen: Tool-Landkarte mit go4ai-Einordnung pro Werkzeug. Und wenn die Wahl getroffen ist: Den KI-Assistenten einrichten beschreibt, wie aus dem leeren Chat ein Werkzeug wird, das den eigenen Betrieb kennt.
Häufige Rückfragen
Können wir nicht einfach das nehmen, was schon im Haus ist? Oft ja, und das ist meist die günstigste Antwort. Prüfen solltest Du zwei Dinge: ob der Vertrag die Nutzung abdeckt und wo tatsächlich gerechnet wird. Beides steht nicht auf der Produktseite.
Warum reicht die kostenlose Version nicht? Weil ihr in aller Regel der Auftragsverarbeitungsvertrag fehlt und Eingaben ins Training fließen können. Für Texte ohne Personenbezug ist sie zulässig, für alles andere nicht, unabhängig davon, wie gut sie funktioniert.
Wie viele Werkzeuge brauchen wir? Weniger als angeboten werden. Ein Zugang für den Alltag, geklärt für die eigenen Datenklassen, deckt den größten Teil ab. Ein zweiter kommt dazu, wenn eine Tätigkeit ihn erzwingt, nicht wenn ein Anbieter eine Funktion bewirbt.
Was, wenn Beschäftigte längst private Konten benutzen? Dann hast Du eine Bestandsaufnahme geschenkt bekommen. Ein Verbot verlagert das Verhalten nur; was hilft, ist die erlaubte Alternative mit klarer Regel.