Diktieren ohne Cloud – Whisper + lokales LLM als DSGVO-sichere Wispr-Alternative

Warum selbst bauen

Wispr Flow, Apple Diktat, Google – jedes Cloud-Diktat-Tool schickt die Audiodatei zur Verarbeitung in ein fremdes Rechenzentrum, meist in den USA. Für Berufsgeheimnisträger und für KMU mit vertraulichen Inhalten ist das bei jedem Satz dieselbe Frage: Drittlandtransfer, AVV, Schrems II. Das eingebaute OS-Diktat umgeht das Problem, aber nicht die Qualitätslücke: Füllwörter bleiben stehen, Fachbegriffe werden verhackstückt. Die Lücke im Markt war klar umrissen – ein System, das sich anfühlt wie Cloud-Diktat, aber die eigene Infrastruktur nie verlässt.

Wie es funktioniert

Ein Hotkey (Hammerspoon auf dem Mac, Action Button auf dem iPhone) startet die Aufnahme, ein zweiter Tastendruck beendet sie. Das Audio geht über NetBird (WireGuard-verschlüsselt) an ein FastAPI-Backend auf einem Mac mini M4: whisper.cpp mit dem Modell large-v3-turbo transkribiert, ein lokales LLM (Qwen3 4B über Ollama) entfernt Füllwörter und setzt Interpunktion. Beide Modelle laufen resident, nicht als Kaltstart – das drückt die End-zu-End-Latenz auf 2,6–2,9 Sekunden für ein ~12-sekündiges Diktat (gemessen, nicht geschätzt: ~1,2 s Transkription, ~1,5 s Cleanup). Das war die Zielvorgabe aus der Spezifikation, kein Zufallswert.

Privacy by Design, konkret

Historie ist standardmäßig aus – wer sie aktiviert, bekommt eine lokale SQLite-Ablage mit 90-Tage-Löschung. Die laufenden Logs enthalten nie Audio oder Text, nur Metadaten (Dauer, Latenz, ob das Cleanup gegriffen hat). Ein Transparenz-Punkt gehört dazu: Die NetBird-Koordination sieht Verbindungs-Metadaten (wer mit wem, wann), aber keine Inhalte – das gehört ins eigene Verarbeitungsverzeichnis, auch wenn es kein Drittanbieter im DSGVO-Sinne ist.

Was das für KMU bedeutet

Das Modell ist eine Appliance: eine Box im eigenen Netz, beliebig viele Geräte sprechen sie an. Genau dieses Muster liegt hinter den bestehenden Voice-Use-Cases – Angebot aus Sprachnotiz, Pflegedoku per Spracheingabe und Aufmaß-Servicebericht per Sprache. sprachfluss ist der Beleg, dass die Kernidee dieser Szenarien – Diktat ohne Cloud – heute mit Consumer-Hardware funktioniert, nicht nur als Konzept auf Folie.

Grenzen, ehrlich benannt

Das System ist auf Einzelnutzung ausgelegt, nicht auf Team-Rollout. Windows- und Browser-Clients stehen auf der Roadmap, aktuell sind es Mac und iPhone. Die Netzwerkabsicherung läuft über Token statt über ein vollständiges Identity-Management – für eine Person im eigenen LAN ausreichend, für ein Team wäre das der erste Ausbauschritt.