KI am Telefon

Worum es geht

„KI-Telefonassistent“ ist eine der am schnellsten wachsenden Suchanfragen aus dem Mittelstand – rund 1.600 Anfragen im Monat, das thematische Umfeld etwa 8.200 (Erhebung über einen Anbieter zitiert, sekundär). Das Interesse kommt nicht aus der Technikbegeisterung, sondern aus einer Lücke: Ein Handwerksbetrieb auf der Baustelle nimmt den Anruf nicht an, eine Praxis mit zwei Leitungen auch nicht, und ein Anrufer, der niemanden erreicht, ruft beim Nächsten an.

Die Frage ist deshalb selten, ob so etwas geht. Sie ist, welche Gespräche ein Agent heute zuverlässig führt und welche nicht – und was seit dem 2. August 2026 zwingend zu Beginn jedes Gesprächs gesagt werden muss.

Wichtig für die Einordnung: Hier geht es um einen Agenten, der ein Gespräch führt. Wenn Sprache nur als Eingabe für einen Menschen dient – Diktat, Sprachnotiz, Befund – ist das eine andere Sache mit anderen Regeln, siehe Voice & Erfassung.

Was heute trägt und was nicht

Bei der Terminvereinbarung liegen die berichteten Abschlussquoten zwischen 70 und 90 Prozent bei 60 bis 120 Sekunden Gesprächsdauer. Für Kleinstbetriebe ist der wahrgenommene Hauptnutzen die Erreichbarkeit außerhalb der Geschäftszeiten.

Die wichtigste Einschränkung für den deutschen Markt steht in der vorletzten Zeile. Hersteller nennen Erkennungsgenauigkeiten von 95 bis 99 Prozent, unabhängige Tests bei starkem Dialekt kommen auf rund 62 Prozent. Diese Diskrepanz ist nicht abschließend geklärt, aber sie ist in einem Land mit ausgeprägter Dialektlandschaft keine Randnotiz: Ein Assistent, der jeden dritten Anrufer nicht versteht, verschlechtert die Erreichbarkeit, statt sie zu verbessern. Wer das prüfen will, testet mit den eigenen Anrufern, nicht mit Hochdeutsch aus dem Demo-Skript.

Die letzte Zeile ist keine Vorsicht, sondern gelebte Anbieterpraxis: Verhandlung, Vertragsschluss und medizinische Einwilligung werden von den meisten Plattformen selbst ausgeklammert.

Der Satz, der seit dem 2. August 2026 fällig ist

Art. 50 Abs. 1 KI-VO verlangt, dass Menschen spätestens bei der ersten direkten Interaktion erfahren, dass sie mit einer KI sprechen. Für einen Telefonassistenten heißt das: hörbar, am Gesprächsanfang, nicht in den AGB. Handelt der Agent im Auftrag eines Unternehmens, gehört auch dieser Auftraggeber offengelegt.

Drei Punkte, die dabei regelmäßig falsch eingeschätzt werden:

Die Übergangsfrist bis Dezember 2026 hilft hier nicht. Sie betrifft ausschließlich die maschinenlesbare Markierung synthetischer Inhalte nach Art. 50 Abs. 2. Für die Interaktionspflicht nach Abs. 1 gibt es keine Verschiebung – sie gilt seit dem 2. August.

Die Ausnahme für „offensichtliche“ KI-Interaktion ist eng. Sie greift nur, wenn für die betroffene Zielgruppe nahezu kein Zweifel besteht. Bei einem Anruf, den jemand für ein Gespräch mit dem Praxisteam hält, ist sie nicht einschlägig.

Emotionserkennung ist ein eigener Rechtsstrang. Wer sie einsetzt, muss nach Art. 50 Abs. 3 alle exponierten Personen informieren – und der Hinweis allein macht einen ansonsten unzulässigen Einsatz nicht zulässig. Im Zweifel weglassen.

Der Sanktionsrahmen für Verstöße gegen Art. 50 liegt bei bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes; für KMU gilt jeweils der niedrigere Wert. Die Einordnung dazu steht unter EU AI Act.

Was vor der Einführung zu klären ist

Vier Punkte, in dieser Reihenfolge:

1. Rechtsgrundlage für die Verarbeitung des Gesprächs. Ein Telefonat ist nicht nur ein Anliegen, es ist eine Stimme und meist ein Name. In der Regel braucht es eine Einwilligung aller Gesprächspartner, mit Bezug zum Telekommunikationsrecht. Wird mitgeschnitten oder nur transkribiert? Wie lange bleibt was liegen?
2. Auftragsverarbeitungsvertrag mit dem Anbieter, samt der Frage, wo Sprache und Transkript verarbeitet werden. Bei Telefonie ist das keine Formalie: Audio ist personenbezogen, auch wenn der Inhalt harmlos ist. Welche Route welchen Nachweis trägt, steht unter Wo rechnet mein Modell.
3. Der KI-Hinweis am Gesprächsanfang, inklusive Auftraggeber.
4. Prüfung, ob eine Datenschutz-Folgenabschätzung nötig ist. Aufsichtsbehörden werten den KI-Einsatz bei der Verarbeitung von Gesprächen als starkes Indiz dafür. Das Sieben-Punkte-Programm dazu steht unter DSGVO & KI.

Wer haftet, wenn der Agent sich irrt

Das ist die Frage, die in Anbieterunterlagen fehlt. Die Plattformen schließen Haftung für Fehlbuchungen und Fehlauskünfte in ihren Bedingungen regelmäßig aus. Das Risiko bleibt damit beim Betrieb, der den Assistenten einsetzt – beim falsch vergebenen Termin ebenso wie bei der falschen Auskunft über eine Leistung. Einschlägige Rechtsprechung dazu ist bislang nicht ersichtlich.

Praktisch folgt daraus keine Warnung, sondern eine Gestaltungsregel: Der Agent darf Dinge tun, die sich rückgängig machen lassen. Ein Termin, der im Kalender landet und am nächsten Morgen von einem Menschen gesehen wird, ist unproblematisch. Eine verbindliche Zusage über Preise, Fristen oder Behandlungen ist es nicht. Dieselbe Linie gilt für gebaute Agenten überhaupt, siehe Agenten-Sicherheit.

Ein realistischer Einstieg

Am tragfähigsten ist der schmale Zuschnitt: ein Anliegen, außerhalb der Geschäftszeiten, mit menschlicher Nachkontrolle am nächsten Morgen. Die Terminannahme in einer Praxis ist dafür das klarste Beispiel, weil das Anliegen eng ist, der Nutzen sofort messbar wird und der Schaden bei einem Fehler begrenzt bleibt.

Was sich messen lässt, sobald es läuft: Anteil der Anrufe, die ohne Übergabe abgeschlossen werden; Anteil, bei dem der Anrufer auflegt; Zahl der Korrekturen am nächsten Morgen. Diese drei Zahlen sagen mehr über die Eignung im eigenen Haus als jede Herstellerangabe zur Erkennungsgenauigkeit.