Zwölf Sätze über KI, die so nicht stimmen

Über KI wird viel behauptet, und das meiste hat einen wahren Kern. Genau der macht die Sätze zäh: Sie klingen plausibel, weil an ihnen etwas dran ist, und führen trotzdem in die falsche Richtung. Zwölf davon begegnen mir immer wieder. Jeder steht hier in drei Teilen: was stimmt, wo es kippt, und was stattdessen gilt.

„Datenschutz verbietet KI.“

Was stimmt. Vorsicht ist berechtigt. Sprachmodelle bringen Risiken mit, die es vorher nicht gab: Sie behalten Trainingsdaten in ihren Gewichten, sie erfinden Angaben über Personen, und sie leiten aus harmlosen Eingaben Rückschlüsse ab. Kostenlose Konten haben in aller Regel keinen Auftragsverarbeitungsvertrag.

Wo es kippt. Die DSGVO verbietet keine Technologie. Sie regelt, wie mit personenbezogenen Daten umgegangen wird, und das gilt für ein Sprachmodell wie für jede andere Software, in der Kundendaten auftauchen. Pauschal gestellt bleibt die Frage „Dürfen wir das?“ unbeantwortbar. Je Tätigkeit gestellt, ist sie es nicht: Welche Daten fließen hinein, auf welcher Rechtsgrundlage, dokumentiert wo?

Was stattdessen gilt. Die Datenklasse entscheidet über die Werkzeugklasse. Ohne Personenbezug ist fast alles zulässig, bei personenbezogenen Daten braucht es Vertrag und Verarbeitung in der EU, bei Gesundheitsdaten und Berufsgeheimnissen die eigene Umgebung. Die Reihenfolge steht unter KI-Compliance, die Vertiefung unter DSGVO & KI.

„Wenn die Daten in der EU liegen, wird auch in der EU gerechnet.“

Was stimmt. Der Speicherort ist eine echte Prüfdimension, und viele Anbieter werben zu Recht damit. Wo Daten ruhen, lässt sich vertraglich zusagen und prüfen.

Wo es kippt. Speicherort und Rechenort sind zwei verschiedene Fragen, und die zweite wird pro Modell und pro Tarif unterschiedlich beantwortet. Dasselbe Modell rechnet über den Direktvertrag außerhalb der EU und über einen Hyperscaler in Irland oder Frankfurt. Umgekehrt sagt eine EU-Zusage zur Speicherung nichts darüber, wo bei Lastspitzen gerechnet wird.

Was stattdessen gilt. Für die meisten Anwendungsfälle reichen Speicherort und Auftragsverarbeitungsvertrag. Für Patientendaten und alles unter § 203 StGB gehört der Rechenort in die Datenschutz-Folgenabschätzung. Welche Bezugswege ihn belegen können, steht unter Direktvertrag vs. Hyperscaler vs. Gateway vs. Eigenbetrieb.

„Namen schwärzen reicht.“

Was stimmt. Namen zu ersetzen ist der richtige erste Griff, und maschinell funktioniert er bei formatgebundenen Angaben nahezu vollständig. Bankverbindung, Steuernummer, Kennzeichen, Telefonnummer: Diese Typen werden zuverlässig gefunden.

Wo es kippt. Anonym ist eine hohe Schwelle, kein Platzhalter. Solange eine Person aus Inhalt, Zusammenhang und verfügbarem Zusatzwissen erkennbar bleibt, liegt weiter ein personenbezogener Datensatz vor. Bei Namen und Organisationen sinkt die maschinelle Erkennung messbar ab, und bei Unterlagen aus der Texterkennung verschiebt sich das Bild noch einmal: Getrennte Nummern und verwechselte Zeichen laufen an den Mustern vorbei.

Was stattdessen gilt. Für Vorgänge mit Rückbezug ist Pseudonymisierung der realistische Weg, echte Anonymisierung passt zu Statistik und Test. Die gemessenen Werte stehen unter Erkennung personenbezogener Daten, die Abwägung der drei Wege unter Pseudonymisieren vs. anonymisieren vs. lokal rechnen.

„Halluzinationen sind ein Fehler, der bald behoben ist.“

Was stimmt. Neuere Modelle erfinden seltener als ihre Vorgänger. Der Fortschritt ist real und im Alltag spürbar.

Wo es kippt. Ein Sprachmodell erzeugt wahrscheinliche Fortsetzungen. Es weiß nichts, es schätzt. Das ist keine Schwäche, die eine Version später wegfällt, sondern eine Eigenschaft der Bauart. Gefährlich ist dabei nicht die grobe Falschaussage, sondern die spezifische: erfundene Aktenzeichen, plausible Paragrafen, überzeugend formatierte Summen. Am heikelsten ist das Kaschieren von Nichtwissen, weil ein hilfsbereites Modell lieber „üblicherweise“ schreibt, als eine Lücke zuzugeben.

Was stattdessen gilt. Je spezifischer die Ausgabe klingt, desto kritischer gehört sie geprüft. Und die Auswahl der Aufgaben folgt daraus: Infrage kommt nur, was ein Mensch schnell prüfen kann. Wer wann prüft, klärt Human-in-the-Loop.

„Ein Kompetenznachweis ist Pflicht, sonst droht ein Bußgeld.“

Was stimmt. Der EU AI Act verlangt von Betrieben, die KI einsetzen, etwas zum Thema Kompetenz. Ein Dokument mit Schulungsplan und Teilnahmenachweis ist sinnvoll und trägt die Rechenschaft gegenüber Behörde und Betriebsrat.

Wo es kippt. Seit dem 27. Juli 2026 verlangt Artikel 4 in der Fassung des Digital Omnibus, „Maßnahmen zu ergreifen, um KI-Kompetenz zu fördern“. Vorher hieß es „sicherstellen“. Der Unterschied ist keine Formalie: Ein bestimmtes Kompetenzniveau pro Person ist nicht mehr geschuldet. Die Drohkulisse „Schulungsnachweis, sonst Bußgeld“ ist in dieser Schärfe nicht haltbar, und sie wird von vielen Angeboten trotzdem mitgeliefert.

Was stattdessen gilt. Die Maßnahme lohnt sich, das Drohszenario nicht. Was ein Betrieb tatsächlich vorhalten sollte, steht unter KI-Richtlinie und EU AI Act.

„Lokal ist sicherer und billiger.“

Was stimmt. Für Berufsgeheimnisse und Gesundheitsdaten ist die eigene Umgebung oft der einzige gangbare Weg. Der erste Teil des Satzes trägt also, je nach Datenklasse.

Wo es kippt. Der zweite Teil trägt selten. Unterhalb von rund hunderttausend Token am Tag liegt die Cloud-Nutzung im Bereich weniger Euro im Monat, während eine Hardware für lokale Inferenz vierstellig beginnt und sich bei diesem Volumen nicht amortisiert. Dazu kommen Betrieb, Aktualisierung und die Personenzeit, die in keiner Anschaffungsrechnung steht.

Was stattdessen gilt. Lokale KI rechnet sich über Datenschutz oder über Volumen, nicht über den Tokenpreis. Die vier Kostenebenen und die Rechnung, ab wann Hardware trägt, stehen unter Was KI kostet.

„Erst braucht es eine Strategie, dann darf man anfangen.“

Was stimmt. Ohne Richtung laufen KI-Vorhaben ins Leere. Wer wahllos Werkzeuge einführt, ohne zu wissen, was sie lösen sollen, verbrennt Budget und Motivation.

Wo es kippt. In der Praxis wird „Strategie zuerst“ zur Endlosschleife aus Workshops und Konzeptpapieren, während sich kein einziger Ablauf verbessert. Für den ersten Schritt braucht es kein Strategiedokument, sondern eine Tätigkeit, die jede Woche wiederkommt, gezählte Minuten und einen vorab festgelegten Schwellwert, ab dem die Sache ausgeweitet wird.

Was stattdessen gilt. Die Reihenfolge ist Tätigkeit, Daten, Werkzeug, und sie passt auf ein Blatt Papier. Sie steht unter Prozessanalyse & Werkzeugwahl, als zehn Fragen unter Checkliste für den Einstieg.

„Mit unordentlichen Daten braucht man gar nicht anzufangen.“

Was stimmt. Schlechte Datenqualität ist eine der häufigsten Ursachen gescheiterter KI-Projekte. Der Aufwand liegt bis heute zu etwa vier Fünfteln in der Aufbereitung und nur zu einem Fünftel im eigentlichen Modelleinsatz, und daran haben weder der Hype noch neue Werkzeuge etwas geändert.

Wo es kippt. Der Trugschluss steckt im „also gar nicht erst anfangen“. Unstrukturierte Daten sind nicht die Ausnahme, sondern der Ausgangszustand fast jedes Betriebs. Wer darauf wartet, dass sie sich von selbst ordnen, wartet unbegrenzt.

Was stattdessen gilt. Daten vor Modell, aber im Kleinen: eine Tätigkeit, die zugehörigen Unterlagen, und die in Ordnung bringen. Das ist zugleich die Arbeit, die ohnehin fällig wäre. Wie daraus eine belastbare Wissensbasis wird, steht unter Wissensbasis & RAG.

„Wenn die Demo läuft, läuft es auch produktiv.“

Was stimmt. Gute Vorführungen sind keine Täuschung. Sie zeigen ein System unter Bedingungen, die der Anbieter kennt und beherrscht.

Wo es kippt. Genau das ist der Unterschied zum Alltag mit den eigenen Daten, den eigenen Nutzern und den eigenen Sonderfällen. Der Abstand ist messbar: Zwei Drittel der Organisationen kommen über das Experimentieren nicht hinaus, und nur ein kleiner einstelliger Anteil erzielt einen deutlichen Ergebnisbeitrag. Was dazwischen liegt, ist selten Technik. Es sind Abläufe, die nicht neu gedacht wurden.

Was stattdessen gilt. Ein Pilot braucht echte Daten, einen überschaubaren Kreis, ein festes Zeitfenster und ein vorher verabredetes Ergebnis, ab dem er endet. Was Piloten in den Regelbetrieb bringt, steht unter Skalierte KI-Adoption.

„Je mehr Kontext, desto besser.“

Was stimmt. Kontext hilft, und zwar erheblich. Wer sein Anliegen ausführlich schildert, mit Vorgeschichte, Randbedingungen und dem, was schon schiefging, bekommt bessere Ergebnisse als mit einem Einzeiler. Unsortiert gesprochenes Material ist dafür brauchbar, das Modell ordnet es.

Wo es kippt. Der Satz wird falsch, sobald er auf Daten statt auf Auftrag angewendet wird. Den gesamten Datenraum hineinzukippen verbessert nichts: Das Fenster ist begrenzt, alles darin konkurriert um Aufmerksamkeit, und jede Zeile kostet. Der Unterschied liegt darin, wessen Kontext gemeint ist. Deiner hilft, das Archiv nicht.

Was stattdessen gilt. Ziel, die wirklich nötigen Unterlagen, das gewünschte Format. Nachladen, wenn ein Schritt es verlangt. Wie das Fenster rechnet, steht unter Token.

„Für Agenten braucht man ein Entwicklungsteam.“

Was stimmt. Eigenentwicklung ist teuer und verlangt Spezialwissen. Wer einen Agenten von Grund auf baut, braucht Kapazität, die die meisten Betriebe nicht haben, und scheitert damit statistisch häufiger als mit gekauften Lösungen.

Wo es kippt. KI-Einsatz und KI-Entwicklung sind zwei verschiedene Dinge. Die nützlichen Anwendungen laufen auf fertigen Werkzeugen, die auf Dateien, im Browser und in vorhandenen Büroumgebungen arbeiten, ohne dass jemand programmiert. Entscheidend ist nicht das Budget, sondern das Wissen über den eigenen Ablauf.

Wo es trotzdem eng wird. Ohne Programmierung heißt nicht ohne Verantwortung. Rechte, Datenklassen und ein Punkt, an dem ein Mensch prüft, gehören trotzdem geklärt. Was solche Werkzeuge tragen und wo sie kippen, steht unter Agenten ohne Entwicklungsteam.

„Ein Chatbot löst das Problem, dass niemand die Informationen findet.“

Was stimmt. Suchen kostet real Zeit, und wenn die Unterlagen sauber, aktuell und verantwortlich gepflegt sind, kann ein Chatbot auf ihnen sofort helfen.

Wo es kippt. Häufig ist das Suchen nicht die Ursache, sondern das Symptom. Wenn es keine Vorlage gibt, jeder Fall anders läuft und das Wissen bei einer einzigen Person liegt, ist das kein Informationsproblem, sondern ein ungeklärter Ablauf. Ein Chatbot verkleidet ihn dann freundlich, statt ihn zu lösen, und die Antworten werden so uneinheitlich wie die Praxis dahinter.

Was stattdessen gilt. Vor dem Werkzeug stehen drei Fragen: Welche Reibung soll es lösen, sind die Informationen gepflegt, und was passiert nach der Antwort. Der Prozess-Check trennt beide Fälle in zwei Minuten.

Warum diese Seite so aufgebaut ist

Eine Behauptung, die man nur bestreitet, kommt zurück. Deshalb steht bei jedem Punkt zuerst, was daran stimmt: Wer den wahren Kern nicht ernst nimmt, hat die Diskussion schon verloren, und meistens hat der wahre Kern auch praktische Folgen. Interessant ist erst die Stelle, an der ein plausibler Satz kippt.

Wenn Dir eine Behauptung fehlt, die Dir im Betrieb regelmäßig begegnet, schreib sie mir. Der Kontakt läuft ohne Formular.