Diktieren ohne Cloud – Whisper + lokales LLM als DSGVO-sichere Wispr-Alternative
Selbst gebaut, produktiv im Einsatz – kein anonymisiertes Beispiel. Geprüft am 2. August 2026.
- Aufgabentyp
- Erfassung
- Betrieb
- Self-hosted
- Aufwand
- Mittel
- Zeitrahmen
- Phasenweise, MVP in ~2 Wochen
- Quelle
- Eigenes Projekt, täglich produktiv im Einsatz (Mac + iPhone)
Aufgabe
Sprechen ist 3–4× schneller als Tippen – aber jedes Cloud-Diktat-Tool (Wispr Flow, Apple, Google) schickt Audio in US-Rechenzentren. Für Berufsgeheimnisträger und KMU mit vertraulichen Inhalten ein No-Go. Gesucht: Hotkey drücken, sprechen, sauberer Text an der Cursor-Position – ohne dass Audio das Haus verlässt.
Lösungsweg
Selbst entwickeltes Diktier-System: whisper.cpp (large-v3-turbo) transkribiert, ein lokales LLM (Qwen3 4B via Ollama) entfernt Füllwörter und setzt Interpunktion – beides auf einem Mac mini M4 im eigenen Netz. Mac und iPhone sprechen das Backend per WireGuard-VPN an. Fachbegriff-Vokabular schützt Eigennamen, Kontext-Presets formen E-Mail-, Sachlich- oder Zusammenfassungs-Ton. Fällt das Cleanup aus, kommt der Rohtext – ein Diktat geht nie verloren.
Kontrollpunkt Ein Mensch prüft oder gibt das Ergebnis frei.
Autonomiestufe 1 von 4 Die Maschine transkribiert und glättet. Was mit dem Text geschieht, entscheidet die Person, die diktiert hat und ihn liest. Was die fünf Stufen bedeuten
Vorher und Nachher
Die Veränderung wird als Arbeitsablauf beschrieben, nicht als Erfolgsversprechen.
Vorher
- Cloud-Diktat = Drittlandtransfer + AVV-Frage bei jedem Satz
- OS-Diktat lässt 'ähm' stehen, scheitert an Fachbegriffen
- Abo-Kosten pro Nutzer und Monat
Nachher
- Systemweites Diktat in jeder App, on-prem verarbeitet
- Füllwörter raus, Interpunktion korrekt, Vokabular geschützt
- Privacy by Default: Opt-in-Historie, 90-Tage-Löschung, Metadaten-only-Logs
Dokumentierte Ergebniswerte
Die Werte gelten im jeweils beschriebenen Szenario und sind kein allgemeiner Benchmark.
- warme End-zu-End-Latenz für ein ~12-Sek.-Diktat
- 2,6–2,9 Sek.
- Audio oder Transkript in der Cloud
- 0 Byte
- laufende Kosten (vs. ~180 €/Jahr Cloud-Abo)
- 0 €/Mon.
Herleitung: vom Prozess zum Werkzeug
Das Setup folgt aus der Tätigkeit und ihren Daten, nicht aus einer Tool-Präferenz. Die Kette läuft immer in dieselbe Richtung.
-
Tätigkeit
Diktate systemweit transkribieren und zu sauberem Text bereinigen
-
Datenfluss
- Besonders geschützt Diktate mit möglichem Mandats- oder Patientenbezug
- Intern vertrauliche Geschäftsinhalte im gesprochenen Text
- Personenbezogen Namen und Kontaktdaten in Diktaten
-
Werkzeugklasse
Klasse 4 Eigene Umgebung
-
Setup
Was diktiert wird, ist nicht vorhersehbar; bei Berufsgeheimnisträgern gehören Mandats- und Patientenbezüge dazu. Das verlangt die eigene Umgebung, und so läuft das System: Transkription und Cleanup on-prem auf dem Mac mini, Audio und Text verlassen das eigene Netz nicht.
Die Werkzeugklasse ist die Mindestanforderung für die Daten, die tatsächlich ins Werkzeug fließen. Wie die Kette Nutzenrechnung, Rechtsfrage und Werkzeugwahl aus derselben Tabelle beantwortet, steht unter Prozessanalyse & Werkzeugwahl.
Werkzeug-Stack
Warum selbst bauen
Wispr Flow, Apple Diktat, Google – jedes Cloud-Diktat-Tool schickt die Audiodatei zur Verarbeitung in ein fremdes Rechenzentrum, meist in den USA. Für Berufsgeheimnisträger und für KMU mit vertraulichen Inhalten ist das bei jedem Satz dieselbe Frage: Drittlandtransfer, AVV, Schrems II. Das eingebaute OS-Diktat umgeht das Problem, aber nicht die Qualitätslücke: Füllwörter bleiben stehen, Fachbegriffe werden verhackstückt. Die Lücke im Markt war klar umrissen – ein System, das sich anfühlt wie Cloud-Diktat, aber die eigene Infrastruktur nie verlässt.
Wie es funktioniert
Ein Hotkey (Hammerspoon auf dem Mac, Action Button auf dem iPhone) startet die
Aufnahme, ein zweiter Tastendruck beendet sie. Das Audio geht über NetBird
(WireGuard-verschlüsselt) an ein FastAPI-Backend auf einem Mac mini M4: whisper.cpp
mit dem Modell large-v3-turbo transkribiert, ein lokales LLM (Qwen3 4B über Ollama)
entfernt Füllwörter und setzt Interpunktion. Beide Modelle laufen resident, nicht als
Kaltstart – das drückt die End-zu-End-Latenz auf 2,6–2,9 Sekunden für ein ~12-sekündiges
Diktat (gemessen, nicht geschätzt: ~1,2 s Transkription, ~1,5 s Cleanup). Das war die
Zielvorgabe aus der Spezifikation, kein Zufallswert.
Privacy by Design, konkret
Historie ist standardmäßig aus – wer sie aktiviert, bekommt eine lokale SQLite-Ablage mit 90-Tage-Löschung. Die laufenden Logs enthalten nie Audio oder Text, nur Metadaten (Dauer, Latenz, ob das Cleanup gegriffen hat). Ein Transparenz-Punkt gehört dazu: Die NetBird-Koordination sieht Verbindungs-Metadaten (wer mit wem, wann), aber keine Inhalte – das gehört ins eigene Verarbeitungsverzeichnis, auch wenn es kein Drittanbieter im DSGVO-Sinne ist.
Was das für KMU bedeutet
Das Modell ist eine Appliance: eine Box im eigenen Netz, beliebig viele Geräte sprechen sie an. Genau dieses Muster liegt hinter den bestehenden Voice-Use-Cases – Angebot aus Sprachnotiz, Pflegedoku per Spracheingabe und Aufmaß-Servicebericht per Sprache. sprachfluss ist der Beleg, dass die Kernidee dieser Szenarien – Diktat ohne Cloud – heute mit Consumer-Hardware funktioniert, nicht nur als Konzept auf Folie.
Grenzen, ehrlich benannt
Das System ist auf Einzelnutzung ausgelegt, nicht auf Team-Rollout. Windows- und Browser-Clients stehen auf der Roadmap, aktuell sind es Mac und iPhone. Die Netzwerkabsicherung läuft über Token statt über ein vollständiges Identity-Management – für eine Person im eigenen LAN ausreichend, für ein Team wäre das der erste Ausbauschritt.