Diktiersoftware ohne Cloud als Dragon-Alternative, mit lokaler KI für Büro und Kanzlei

Diktieren mit lokaler KI statt mit Dragon

Diktieren mit lokaler KI funktioniert ohne Cloud-Dienst: Eine offene Diktier-App nimmt auf, solange Sie eine Taste halten, ein Sprach­erkennungs­modell macht aus dem Audio Text, und der Text erscheint in Word, in der Kanzleisoftware oder in jedem anderen Feld. Für wenige Personen kann das Modell auf jedem PC laufen. Für ein Büro oder eine Kanzlei mit vielen Nutzern, Thin Clients oder Terminalservern betreibt eine Workstation mit einer NVIDIA RTX PRO 4000 Blackwell das Modell für alle, und das Audio bleibt im Firmennetz.

Dieser Leitfaden richtet sich an die Büroleitung, die Partnerin oder den Partner einer Kanzlei und die Leitung eines Sekretariats, die heute Briefe, Schriftsätze und Berichte mit Dragon Professional Anywhere oder einer anderen Cloud-App diktieren und das Audio im Haus behalten wollen oder eine offene Alternative zu Dragon suchen. Unser Leitfaden zum Spracherkennungs-Server für Whisper und Parakeet dimensioniert Server für Aufnahmen und Callcenter; hier geht es um das Diktat in ein Textfeld.

Vier Begriffe kommen immer wieder vor. Ein Sprach­erkennungs­modell macht aus Sprache Text; Whisper von OpenAI und Parakeet von NVIDIA sind die beiden, um die es hier geht. Eine GPU oder Grafikkarte führt ein solches Modell schnell aus. Ein Endpunkt ist eine Adresse im Firmennetz, die Audio annimmt und Text zurückgibt. Ein Sprachmodell ist eine zweite KI, die Text umschreibt, etwa einen diktierten Entwurf in einen fertig formatierten Brief.

Was Dragon Professional Anywhere heute leistet

Die Produktseite von Nuance, gelesen am 30. Oktober 2026, beschreibt Dragon Professional Anywhere als „cloud-hosted speech recognition for the enterprise and public sector“, die Daten seien „encrypted in transit and at rest“. Administratoren können „custom words, commands and auto-texts“ zentral für mehrere Nutzer verwalten und teilen, und die Seite nennt „support for thin client hardware, server virtualization, as well as Citrix environments“. Die Release Notes zu Version 2026.1 nennen Windows 10 und 11 sowie Windows Server 2016 bis 2025 als unterstützte Systeme. Eine Region, in der die Sprache verarbeitet wird, nennt die Produktseite nicht.

Bei diesem Produkt wird die Sprache in der Cloud von Nuance erkannt; das Audio jedes Diktats verlässt also die Firma. Für viele Büros ist das der Grund, eine lokale Alternative zu suchen. Produktseite und Release Notes von Nuance nennen kein Verkaufsende für das Produkt. Sie legen aber einen Lebenszyklus je Version fest: Das Supportende („End of Life“) liegt „now 24 months after the initial release date“, und die Tabelle in den Release Notes zu 2026.1 nennt für Version 2025.1 den 13. Februar 2027. Welche Daten für Ihre Version gelten, bestätigt Ihnen Ihr Dragon-Händler schriftlich.

Zwei Wege zum lokalen Diktat: auf jedem PC oder über eine Workstation

README und Release Notes von Handy auf GitHub; README und Modellseite von OpenWhispr; vLLM-Dokumentation zu Speech-to-Text vom 19. Oktober 2026; alle gelesen am 30. Oktober 2026. Der Vergleich stammt von uns.

Auf jedem PC. Die Diktier-App Handy beschreibt sich als „a free, open source, and extensible speech-to-text application that works completely offline“: Tastenkürzel drücken, sprechen, und die Worte erscheinen „in any text field“. Das README hält fest: „The process is entirely local“. Handy bietet Whisper-Modelle von Small bis Large, die die Grafikkarte „when available“ nutzen, und Parakeet V3, ein „CPU-optimized model“ mit automatischer Spracherkennung; Silero VAD filtert vorher die Stille heraus. Handy läuft unter MIT-Lizenz auf Windows, macOS und Linux; die neueste Version im Oktober 2026 ist 0.9.6 vom 24. August 2026. Für drei oder vier Personen mit aktuellen PCs ist das der richtige Anfang, ganz ohne neue Hardware.

Über eine Workstation. Der zweite Weg legt das Modell auf einen Rechner im Büro. Dort läuft ein Transkriptionsdienst mit einem Endpunkt, der zur Transkriptionsschnittstelle von OpenAI passt; die vLLM-Dokumentation beschreibt ihn als /v1/audio/transcriptions, „compatible with OpenAI's Transcriptions API“. Auf den PCs schickt eine Diktier-App jede Aufnahme an diese Adresse, statt sie selbst zu erkennen. OpenWhispr, unter MIT-Lizenz für Windows, macOS und Linux, kann das: Die Modellseite führt einen eigenen Endpunkt, „Any OpenAI-compatible API“, als Anbieter für die Transkription, für „self-hosted Whisper servers“ und „any service with an OpenAI-compatible /audio/transcriptions endpoint“, und das README sagt „No data collection, no telemetry“. Dieselbe App bietet auch Cloud-Transkription, Cloud-KI-Modelle und ein optionales Konto bei OpenWhispr Cloud; im Büro-Aufbau bleiben diese Funktionen aus, und die App nutzt nur den Endpunkt der Workstation.

Die Workstation lohnt sich bei Thin Clients, Terminalservern und PCs ohne geeignete Grafikkarte, wo das Modell sonst auf geteilten oder langsamen Prozessoren liefe; mit dem Endpunkt reicht die Sitzung nur das Audio weiter. Außerdem bekommt jeder Nutzer das große Whisper-Modell, Wortlisten und Updates liegen an einer Stelle, und ein einziges Sprachmodell formatiert Briefe für das ganze Büro. Dafür geht Audio durch das interne Netz, die Workstation muss laufen, wenn diktiert wird, und jemand ist für ihre Updates zuständig.

Testen Sie virtuelle Desktops vor der Einführung. Die Release Notes von Dragon nennen die unterstützten Versionen der Citrix- und Virtual-Desktop-Clients; bei einer offenen Diktier-App zeigt ein kurzer Pilot, ob das Mikrofon in der Sitzung ankommt und der Text im richtigen Fenster landet.

Sie können die Workstation allein bestellen, die Einrichtung von Sprach­erkennungs­modell, Transkriptionsdienst und OpenWhispr für die PCs allein oder beides zusammen: die Workstation mit allem fertig installiert und eingerichtet; schreiben Sie uns, wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

Whisper oder Parakeet für Briefe und Schriftsätze

Parameter und Speicher aus dem Whisper-Repository von OpenAI und der Modellkarte von NVIDIA; deutsche Wortfehlerrate (WER) aus dem Paper zum Open ASR Leaderboard (arXiv 2510.06961v3), gemessen auf einer NVIDIA A100-SXM4-80GB; alle gelesen am 30. Oktober 2026.

Das Repository von OpenAI stellt Code und Gewichte von Whisper unter die MIT-Lizenz und beschreibt turbo mit „faster transcription speed with a minimal degradation in accuracy“. NVIDIA veröffentlicht Parakeet TDT 0.6B v3 unter CC BY 4.0, „ready for commercial/non-commercial use“; das Modell transkribiert 25 europäische Sprachen, darunter Deutsch, Französisch, Italienisch, Spanisch, Niederländisch, Polnisch und Tschechisch, mit Satzzeichen und Großschreibung. Beide Modelle decken Deutsch, Englisch und viele weitere europäische Sprachen ab.

Die Wortfehlerrate (WER) gibt den Anteil der falsch erkannten Wörter an. Auf öffentlichen deutschen Testsätzen liegen beide Modelle bei etwa 5 Prozent, also etwa einem Wort von zwanzig. Das Diktat ist der günstige Fall, weil eine Person nah am Mikrofon spricht. Die Modellkarte von Parakeet zeigt den Unterschied: 1,93 Prozent auf LibriSpeech test-clean, vorgelesener Sprache, gegen 11,31 Prozent auf den Besprechungs­aufnahmen des AMI-Korpus. Der Rauschtest ergibt im Mittel 6,34 Prozent bei sauberem Audio und 11,66 Prozent, wenn das Rauschen so laut ist wie die Sprache. Ein Headset oder Diktiermikrofon in einem ruhigen Raum bringt mehr Genauigkeit als ein größeres Modell.

Die Modellkarte von Whisper ergänzt zwei Warnungen: „Our models perform unevenly across languages“, ebenso bei „different accents and dialects“, und „the predictions may include texts that are not actually spoken in the audio input (i.e. hallucination)“. Jeder diktierte Brief wird deshalb gelesen, bevor er hinausgeht, wie schon mit Dragon. Unser Vergleich zur Spracherkennung Deutsch, Genauigkeit und Dialekt geht die Modelle für regionale Sprache durch.

Namen, Fachbegriffe und fertige Briefe

Dragon-Nutzer verlassen sich auf eigene Wörter, Sprachbefehle und Textbausteine. Die offenen Werkzeuge decken das unterschiedlich ab.

Eigene Wörter. Die Release Notes von Handy 0.9.6 enthalten eine Korrektur der Funktion für eigene Wörter („custom words“), und die Vergleichsseite von OpenWhispr nennt „Custom vocabulary support“. Auf der Workstation nimmt die Transkriptionsschnittstelle von vLLM einen optionalen prompt an, „Optional text to guide the transcription style“; dort lässt sich eine kurze Liste von Mandantennamen und Fachbegriffen übergeben. Prüfen Sie mit zwanzig eigenen Diktaten, ob das die Schreibung der Namen verbessert, auf die es Ihnen ankommt.

Sprachbefehle. Die Seite von Nuance zu Dragon Professional v16 schreibt „Use custom voice commands to insert standard boilerplate text or signatures into documents“. Die READMEs von Handy und OpenWhispr beschreiben das Diktat in das aktive Textfeld; ein dokumentiertes Gegenstück zu den Befehlen von Dragon haben wir in keinem gefunden. Wer den PC per Stimme steuert, nimmt diesen Bedarf in den Pilotbetrieb auf.

Textbausteine und Briefformate. Hier übernimmt ein Sprachmodell. Das rohe Diktat geht mit einer Anweisung an das Modell, etwa „schreibe das als Schriftsatz an das Gericht, behalte jede Tatsache, markiere Unklares“. Die Modellseite von OpenWhispr nennt lokale Modelle für dieses „AI text cleanup“, darunter GPT-OSS 20B, ausgeführt „via llama.cpp with GGUF quantization“ auf dem PC. Auf der Workstation im Büro dient dasselbe Modell, gpt-oss-20b unter Apache 2.0, allen: Seine Gewichte belegen 12,8 GiB, wie unser Leitfaden zu 30B-Modellen auf 24-GB-Karten festhält. Ein Sprachmodell kann den Sinn verändern; wer den Brief unterschreibt, prüft ihn deshalb gegen das Diktat.

Diktat, Mandatsgeheimnis und DSGVO

Diktierte Briefe in einer Kanzlei, einer Steuerberatung oder einem Versicherungsbüro enthalten personenbezogene Daten von Mandanten, Gegenparteien und Zeugen, manchmal solche, die Artikel 9 Abs. 1 DSGVO gesondert behandelt, etwa „Gesundheitsdaten“. Erkennt ein Cloud-Dienst die Sprache, verarbeitet er diese Daten in Ihrem Auftrag, und Artikel 28 Abs. 3 gilt: „Die Verarbeitung durch einen Auftragsverarbeiter erfolgt auf der Grundlage eines Vertrags oder eines anderen Rechtsinstruments nach dem Unionsrecht oder dem Recht der Mitgliedstaaten“, in dem unter anderem Gegenstand, Dauer, Art und Zweck der Verarbeitung festgelegt sind.

Bei lokaler Erkennung geht das Audio für diesen Schritt an keinen externen Anbieter. Die Pflichten der Kanzlei bleiben. Artikel 32 Abs. 1 verlangt Maßnahmen für ein dem Risiko angemessenes Schutzniveau, darunter unter Buchstabe a „die Pseudonymisierung und Verschlüsselung personenbezogener Daten“. Für eine Diktat-Workstation heißt das: verschlüsselte Verbindung von den PCs, namentliche Administratorkonten und ein Dienst, der nach Rückgabe des Textes kein Audio behält, mit Logs, die Zeit und Nutzer ohne Inhalt festhalten. Unser Leitfaden zu lokaler KI und DSGVO zeigt, was der Eigenbetrieb ändert, und unsere Prüfung der Telemetrie in selbst gehosteten KI-Werkzeugen, wie Sie sicherstellen, dass keine Komponente externe Dienste aufruft.

Die Regeln zur Verschwiegenheit von Anwälten, Notaren, Steuerberatern und Ärzten legen die Mitgliedstaaten und die Berufskammern fest. Arztbriefe und die Frage nach dem Medizinprodukt behandelt unser Leitfaden zum Arztbrief mit KI diktieren. Ihr Datenschutz­beauftragter und gegebenenfalls Ihre Kammer bestätigen, was für das Diktat gilt. Dieser Abschnitt ist eine allgemeine Information mit Stand Oktober 2026, keine Rechtsberatung.

Hardware für das lokale Diktat, vom PC bis zum Server

Das Diktat ist für eine GPU eine leichte Last. Die Größe des Rechners folgt daraus, wie viele Personen im selben Moment ein Diktat beenden und ob ein Sprachmodell den Text zusätzlich formatiert. Keine veröffentlichte Messung nennt Diktat-Nutzer je RTX-PRO-Karte; vorhanden ist der A100-Wert aus dem Paper zum Open ASR Leaderboard: Whisper large-v3 transkribierte 145,5 Sekunden Audio je Sekunde Rechenzeit, Parakeet TDT 0.6B v3 etwa 3.333. Nach unserer Rechnung auf dieser Karte braucht eine Minute Diktat mit Whisper etwa 0,4 Sekunden GPU-Zeit, mit Parakeet deutlich unter einer Zehntelsekunde. Das Paper verarbeitete bis zu 64 Aufnahmen gleichzeitig; ein einzelnes Diktat wartet daher länger, als dieser Anteil an GPU-Zeit nahelegt. Die endgültige Größe legt ein Pilotbetrieb mit Ihren Mitarbeitenden fest, der die Wartezeit nach jedem Diktat protokolliert.

GPU-Speicher aus den Datenblättern von NVIDIA; Speicher für Whisper aus dem Repository von OpenAI (6 GB = 5,6 GiB, 10 GB = 9,3 GiB); Sitzungen nach unserer Regel für Nutzer je Karte (90 Prozent des vom Treiber gemeldeten Speichers, abzüglich 3 GiB je Karte und der Gewichte), mit 25,7 GiB nutzbar auf der RTX PRO 4500 und 83,0 GiB auf einer 96-GB-Karte; gpt-oss-20b 12,8 GiB mit 0,1875 GiB je 8K-Sitzung, gpt-oss-120b 60,8 GiB mit 1,125 GiB je 32K-Sitzung (16-Bit-Cache), wie in unseren Modell-Leitfäden. Unsere Schätzungen, keine Messungen.

Einstieg. Eine NVIDIA RTX PRO 4000 Blackwell mit 24 GB GDDR7 und 145 W in einem Steckplatz reicht für Whisper als Diktatdienst des Büros. Unsere Seite zum Kauf einer RTX PRO 4000 Workstation nennt ihre Daten. Kommt das Sprachmodell für Briefe hinzu, ist die RTX PRO 4500 Blackwell mit 32 GB und 200 W der nächste Schritt: Nach unserer Regel bleiben 25,7 GiB, davon belegt gpt-oss-20b 12,8 und Whisper turbo etwa 5,6, und die übrigen 7,3 GiB fassen 38 Formatierungsanfragen mit 8.192 Tokens gleichzeitig, reichlich für Briefe von ein bis zwei Seiten. Beide Workstations laufen an einer normalen Bürosteckdose.

Mitte. Eine Workstation mit einer NVIDIA RTX PRO 6000 Blackwell Workstation Edition (96 GB, 600 W) trägt das größere gpt-oss-120b neben Whisper. Die Kanzlei hat dann einen Rechner für Diktat, Briefformate und einen internen Assistenten; nach unserer Schätzung zieht er etwa 1,1 kW aus der Steckdose. Unser Leitfaden für Kanzleien und Steuerberater beschreibt die Arbeit mit Dokumenten, die ein solches Modell übernimmt.

Groß. Für mehrere Standorte oder eine Terminalserver-Farm mit Hunderten Nutzern wandert der Dienst auf einen Rack-Server mit L4-Karten oder Karten der RTX PRO 6000 Server Edition, dimensioniert auf unserer Seite zu KI-Servern. Er gehört in einen Serverraum, wie unser Leitfaden zum GPU-Server im Büro erklärt.

Nennen Sie uns, wie viele Personen auf welchen Systemen diktieren, wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

Endpunkt, Zugriff und Clients für das IT-Team

1. Endpunkt. vLLM stellt /v1/audio/transcriptions nach pip install vllm[audio] bereit; Uploads sind standardmäßig über VLLM_MAX_AUDIO_CLIP_FILESIZE_MB auf 25 MB begrenzt, Antwortformate sind unter anderem json, text und verbose_json. Eine Realtime API streamt PCM16-Audio mit 16 kHz mono per WebSocket an /v1/realtime (vLLM-Dokumentation vom 19. Oktober 2026).
2. Alternativer Server. Speaches, unter MIT, bietet einen OpenAI-kompatiblen Server auf Basis von faster-whisper mit „GPU and CPU support“. Die neueste Version auf GitHub ist 0.9.0-rc.3, ein Release Candidate; legen Sie die eingesetzte Version fest.
3. Zugriff. Der Parameter --api-key von vLLM schützt nur die Pfade unter /v1, /v2, /inference und /cohere, also auch die Transkription, während /metrics, /health und /invocations ohne Schlüssel antworten, und /invocations bietet dieselbe Inferenz wie /v1 (Sicherheitsleitfaden zu vLLM 0.32.0). Betreiben Sie den Dienst im internen Netz hinter einem LLM-Gateway mit Schlüsseln und Abfrageprotokoll, mit TLS zwischen PCs und Workstation.
4. Clients. OpenWhispr wird als OpenAI-kompatibler Transkriptionsanbieter auf den Endpunkt gerichtet; das README von Handy nennt keine Server-Option, Handy eignet sich also nur für den lokalen Betrieb. Laut README lassen sich die Modelle für Offline- oder abgeschottete Netze manuell installieren.
5. Builds für Blackwell. RTX-PRO-Blackwell-Karten haben die Compute Capability 12.0, Container-Images müssen dafür gebaut sein; das README von Scriberr etwa schreibt „You must use the Blackwell-specific image“. Unser Vergleich zur Otter-Alternative im Eigenbetrieb behandelt Transkriptions-Apps mit Upload und Sprecher­kenn­zeichnung.

FAQ