Tokens in Sprachmodellen – einfach erklärt

Ein Token ist ein kleines Stück Text, das ein Sprachmodell verarbeiten kann. Es kann ein ganzes Wort sein, ein Wortteil, ein Leerzeichen mit einem Wortteil oder ein Satzzeichen. Bevor ein Modell einen Text verarbeitet, zerlegt ein Tokenizer ihn in solche Stücke und ersetzt jedes Stück durch eine Zahl; mit diesen Zahlen arbeitet das Modell weiter.

Tokens sind deshalb weder Wörter noch Zeichen und auch keine „Gedanken“ der KI. Sie sind die Recheneinheiten, in denen Text gelesen, im Kontext gehalten und Wort für Wort weitergeschrieben wird.

Was das für deinen Betrieb heißt

Für die tägliche Nutzung genügt eine einfache Faustregel: Gib der KI das Ziel, die wirklich nötigen Unterlagen und das gewünschte Ergebnisformat – nicht den gesamten Datenraum. Bei wiederkehrenden Workflows helfen kurze, stabile Anweisungen und gezielt ausgewählte Dokumentausschnitte dabei, Kosten, Wartezeit und Fehleranfälligkeit zu begrenzen.

Bei API- oder Agentenprojekten sollte ein Team Input-Tokens, Output-Tokens, Laufzeit und Ergebnisqualität pro Workflow beobachten. Nicht die niedrigste Tokenzahl ist das Ziel, sondern ein verlässliches Ergebnis zu vertretbaren Kosten.

Dass das in der Breite nicht passiert, zeigt die Bitkom-Studie 2026 (n = 604, ab 20 Beschäftigte; Zahlen über Sekundärquellen, Recherche: Aktualität KI-Themen für KMU, August 2026): 33 % der Unternehmen melden höhere KI-Kosten als geplant, als Treiber werden Token, GPU, Integration und Governance genannt, nicht die Lizenz. Die Tokenzahl ist der Teil davon, den ein KMU am einfachsten selbst messen kann.

Für die Frage „lokal oder Cloud“ kursiert eine Break-even-Rechnung (Anbieterangabe aus mehreren Beraterseiten, aber nachrechenbar): Unter 100.000 Token pro Tag kostet die Cloud-Nutzung weniger als 50 € im Monat; eine Hardware von 4.000 € für lokale Inferenz amortisiert sich bei diesem Volumen nicht. Lokale KI rechnet sich also über Datenschutz oder Volumen, nicht über den Tokenpreis.