KI-Strategie

Wo der deutsche Mittelstand 2026 steht

Wer 2026 eine Zahl zur KI-Nutzung im Mittelstand liest, sollte zuerst fragen, was gezählt wurde. Die seriösen Erhebungen liegen zwischen 20 und 55 Prozent, und der Unterschied ist keine Messungenauigkeit, sondern eine andere Frage:

Für die eigene Standortbestimmung ist die KfW-Zahl die ehrlichere: Ein Fünftel des Mittelstands nutzt KI so, dass es im Geschäft ankommt. Destatis weist für Betriebe mit 10 bis 49 Beschäftigten 23 Prozent aus, für die ab 250 dagegen 57 Prozent. Der Abstand nach Größe ist dabei deutlicher als der nach Branche – 36 Prozent ab 50 Beschäftigten gegenüber 19 Prozent unter fünf. Und er hängt an der Organisation, nicht am Werkzeug: Wo eine Digitalstrategie existiert, liegt die Nutzung bei 35 Prozent, ohne Innovationsaktivität bei 8 Prozent.

Die zweite Zahl, die 2026 neu dazugekommen ist, betrifft das Geld: 33 Prozent der Unternehmen berichten, KI sei teurer geworden als geplant (Bitkom 05/2026). Die Treiber sind laut Erhebung Token-Verbrauch, GPU-Kosten, Integration und Governance – nicht die Lizenzpreise, über die vorher gesprochen wurde.

Bevor eine Strategie Werkzeuge nennt, sollte sie sagen, in welchem Feld KI wirken soll: bei einzelnen Mitarbeitenden, in Abläufen oder im Produkt. Die Einteilung samt Beispielen aus deutschen Betrieben steht unter Drei Felder der KI-Wertschöpfung →.

Was eine echte KI-Strategie enthält

• Drei konkrete Use Cases mit Aufwand, quantitativem Schwellwert und erwartbarem Output (z. B. „70 % Automationsquote, sonst kein Rollout“).
• Tool-Setup entlang Datenklassen – was wird gekauft, was gebaut, was bewusst weggelassen.
• Daten-Inventar: welche Stammdaten sind vorhanden, welche fehlen, welche dürfen genutzt werden.
• Team-Plan: wer macht was, wer wird geschult. AI-Literacy nach Art. 4 KI-VO ist seit Februar 2025 Pflicht und seit dem 02.08.2026 prüffähig, mit Teilnahmeliste und dokumentiertem Schulungsstand. Der Digital Omnibus entschärft die Formulierung leicht („angemessene Kompetenz fördern“ statt „sicherstellen“), die Nachweispflicht selbst bleibt. Eines von drei Pflicht- Dokumenten neben Risikoregister und KI-Policy.
• Förderpfad: BAFA, INQA-Zukunftszentren, Mittelstand-Digital – typisch 30–80 % Förderquote.
• Budget: realistische Zahlen, 2–3× der Anfangsschätzung einplanen. Die vier Kostenebenen sind Lizenz beziehungsweise Seat, Token-Verbrauch, Integration und laufende Governance – die letzten drei tauchen in keinem Angebot auf und sind der Grund für den Bitkom-Befund oben. Wie sich die vier einzeln schätzen lassen, steht unter Was KI kostet.

Was eine echte KI-Strategie nicht enthält

• „AI-First-Mindset“
• „Disruption durch generative KI“
• „Transformation des gesamten Geschäftsmodells“
• 50-Folien-Slidedecks mit Stockfotos

Der dritte Punkt braucht eine Erklärung, weil er nach einer Auslassung aussieht. Dass KI Geschäftsmodelle verändert, stimmt. Nur ist das für einen Betrieb mit zwölf Beschäftigten selten die Frage, die als Nächstes ansteht, und sie lässt sich ohnehin nicht beantworten, bevor die eigenen Abläufe verstanden sind. Diese Seiten beginnen deshalb bei der Tätigkeit. Wer von dort aus feststellt, dass sich sein Angebot ändern lässt, hat den besseren Ausgangspunkt als jeder Workshop, der mit dem Geschäftsmodell anfängt.

Die richtige Reihenfolge: Daten vor Modell

Wer mit „Wir brauchen ChatGPT Enterprise“ anfängt, hat schon verloren. Die richtige Reihenfolge:

1. Stammdaten-Klarheit – welches System ist führend für Artikel, Kunden, Personal, Standorte?
2. Datenkatalog + Governance – Klassifikation, Berechtigungen, Guardrails. Dazu gehört die Festlegung, welche Datenklassen überhaupt in einen Prompt dürfen und was vorher ersetzt werden muss – siehe Pseudonymisierung & Anonymisierung.
3. Architektur-Entscheidung – Reifegrad-Stufen für Daten.
4. Use Case mit Schwellwert – konkretes Problem, quantitatives Ziel.
5. Tool-Wahl – erst jetzt, nicht zuerst.

Dass die Tool-Wahl ans Ende gehört, ist dabei kein Ordnungsprinzip, sondern hat einen handfesten Grund: Dieselbe Tätigkeitsliste, die den Nutzen rechnet, beantwortet auch die Rechtsfrage und grenzt die zulässige Werkzeugklasse ein – DSGVO und KI-Verordnung klassifizieren Tätigkeiten, keine Produkte. Wie die Ableitungskette Tätigkeit -> Datenfluss -> Werkzeugklasse -> Werkzeug funktioniert, steht unter Prozessanalyse & Werkzeugwahl.

Drei Typen, drei Einstiegspfade

Für die erste Orientierung lassen sich drei typische Ausgangslagen unterscheiden. Viele Organisationen liegen zwischen A und B:

Welcher Klärungsumfang sinnvoll ist

Wie umfangreich die Klärung wird, hängt von Datenlage, Beteiligten und Entscheidungsreife ab. Als Ergebnis sollte ein kompakter Entscheidungsrahmen entstehen, den Führung und Fachbereiche gemeinsam nutzen können.

Häufige Rückfragen

Wir sind zwölf Leute. Brauchen wir überhaupt eine Strategie? Nicht in dem Sinn, den das Wort nahelegt. Was Du brauchst, ist eine Reihenfolge und eine Entscheidung darüber, was Du zuerst nicht tust. Beides passt auf eine Seite. Der Aufwand, der sich lohnt, richtet sich nach dem Klärungsumfang oben, nicht nach einer Vorlage.

Wie lange hält so eine Festlegung, wenn sich die Werkzeuge alle drei Monate ändern? Länger als die Werkzeuge, wenn sie an Tätigkeiten und Daten festgemacht ist statt an Produktnamen. Was Du über Deine Abläufe und Datenklassen herausfindest, bleibt richtig, wenn ein Anbieter seine Tarife umbaut.

Unsere Daten sind unordentlich. Erst aufräumen oder erst anfangen? Beides in klein. Nicht der gesamte Datenbestand muss in Ordnung sein, sondern die Unterlagen zu der einen Tätigkeit, mit der Du beginnst. Die Reihenfolge Daten vor Modell meint genau diesen Ausschnitt, nicht ein Datenprojekt vorweg.

Wer sollte das im Betrieb treiben? Nicht die IT allein. Sie kann Systeme einführen, aber nicht entscheiden, welche Tätigkeit den Aufwand wert ist. Wie die Rollen dabei verteilt sind, steht unter Team & Führung.