Live-Untertitel lokal: Echtzeit-Transkription für Meetings und Events mit eigener KI

Live-Untertitel ohne Cloud-Dienst

Live-Untertitel lassen sich vollständig auf eigener Hardware betreiben. Der Ton der Mikrofone geht vom Mischpult an einen kleinen Rechner, ein Streaming-Sprachmodell auf einer GPU in Ihrem Haus macht daraus in Schritten von Bruchteilen einer Sekunde Text, und eine Browserseite zeigt ihn auf Bildschirm oder Projektor. Offene Werkzeuge dafür gibt es im Oktober 2026, WhisperLiveKit und WhisperLive von Collabora, und für einen Versuch in einem Raum genügt eine Workstation mit einer NVIDIA RTX PRO 4000 Blackwell. Kommt der Ton aus dem Raum, verlassen weder Ton noch Text das Haus.

Dieser Leitfaden richtet sich an Veranstalter, Hochschulen mit Hörsälen, Personal- und Inklusionsteams, die Untertitel für schwerhörige Kolleginnen und Kollegen wollen, und Behörden mit Ratssitzungen. Zuerst einige Begriffe. Ein Streaming-Modell ist ein Sprach­erkennungs­modell, das am Ton arbeitet, während er eintrifft, statt auf das Ende einer Aufnahme zu warten. Die Verzögerung, auch Latenz, ist die Zeit zwischen dem gesprochenen Wort und seinem Erscheinen auf dem Bildschirm. Die Wortfehlerrate (WER) zählt falsche, fehlende und hinzugefügte Wörter je 100 Wörter eines korrekten Transkripts. Aufnahmen nach der Veranstaltung sind eine andere Aufgabe, die unser Leitfaden zu Besprechungs­protokollen mit lokaler KI behandelt; Live-Untertitel für Sendekanäle stehen in unserem Leitfaden zum KI-Server für Medien.

Wie Live-Untertitel im Raum entstehen

Unsere Zusammenfassung; Rollen von Client und Server wie in der Dokumentation von WhisperLiveKit und WhisperLive beschrieben, gelesen am 30. Oktober 2026.

Die Qualität der Untertitel beginnt beim Ton. NVIDIAs Modellkarte für Parakeet TDT 0.6B v3 zeigt, wie sehr: Auf dem AMI-Korpus aufgezeichneter Besprechungen liegt die WER bei 11,31 Prozent, gegenüber 1,93 Prozent auf LibriSpeech test-clean, also vorgelesener, nah am Mikrofon aufgenommener Sprache. Der Rauschtest der Karte weist in dieselbe Richtung: Die durchschnittliche Fehlerrate über die Testsets steigt von 6,34 Prozent bei sauberem Ton auf 11,66 Prozent, wenn das Rauschen so laut ist wie die Sprache. Nehmen Sie in einem Saal das Signal vom Mischpult, wo Headsets und Rednerpultmikrofone der Sprecher schon gemischt sind, und halten Sie Saalmikrofone und Musik von diesem Ausgang fern. In einem Besprechungsraum ohne Pult ist ein Konferenzmikrofon in der Tischmitte das Mindeste.

Die mitgelieferte Seite von WhisperLiveKit nimmt über den Browser den Mikrofoneingang des Rechners auf, auf dem sie geöffnet ist, und zeigt die Untertitel auf derselben Seite. Ein Laptop neben dem Mischpult, dessen Audioeingang am Ausgang des Pults hängt, kann also den Ton senden und zugleich den Projektor ansteuern. Die Erkennung selbst läuft auf dem Untertitel-Server, der im Serverraum oder in einem Nebenraum steht.

Verzögerung gegen Genauigkeit auf Deutsch

Ein Streaming-Modell sieht weniger Kontext als ein Modell, das eine fertige Aufnahme liest, weil es sich auf Wörter festlegen muss, bevor der Satz zu Ende ist. Je länger es warten darf, desto weniger Fehler macht es. Für zwei aktuelle Modelle ist dieser Zielkonflikt auf Deutsch mit Zahlen belegt.

Modellkarten von Voxtral Mini 4B Realtime 2602 und Nemotron 3.5 ASR Streaming 0.6B (automatische Erkennung der Sprache) auf Hugging Face, gelesen am 30. Oktober 2026; FLEURS besteht aus vorgelesenen Sätzen, Raumton ergibt höhere Werte.

Mistral nennt 480 ms „the sweet spot of performance and low latency“ für sein Voxtral-Modell, und dieselbe Karte nennt 3,54 Prozent für das Offline-Modell Voxtral Mini Transcribe 2.0. Ein Untertitel-System mit etwa einer halben Sekunde Verzögerung liegt also rund 2,6 Prozentpunkte über der Fehlerrate eines Transkripts nach der Veranstaltung. Unsere Rechnung aus diesen Zahlen: Bei 6,19 Prozent ist auf sauber vorgelesener Sprache etwa jedes 16. Wort falsch. Bei einer Vorlesung, in der das Publikum über längere Zeit mitliest, erkauft eine Verzögerung von ein bis zwei Sekunden Genauigkeit; bei einer Diskussion, in der Menschen auf das Gesagte reagieren, hält eine halbe Sekunde den Text nah am Sprecher.

Whisper ist kein Streaming-Modell. Es arbeitet mit Fenstern von 30 Sekunden, und seine Karte sagt, für large-v3 sei „a chunk length of 30-seconds is optimal“. Live-Werkzeuge legen deshalb eine Streaming-Strategie darum, die das wachsende Audio erneut liest und entscheidet, welche Wörter feststehen: WhisperLiveKit nutzt standardmäßig SimulStreaming, und WhisperLive nennt sich „a nearly-live implementation“. Das README von WhisperLiveKit ergänzt, dass die automatische Erkennung der Sprache bei Whisper „tends to bias towards English“; stellen Sie für deutsche Veranstaltungen daher Deutsch fest ein. Die veröffentlichte Genauigkeit der Offline-Modelle auf Deutsch und was Dialekt daraus macht, steht in unserem Vergleich zur deutschen Spracherkennung.

Offene Werkzeuge für Live-Untertitel, Stand Oktober 2026

PyPI-Seiten von WhisperLiveKit und WhisperLive, GitHub-Seite von WhisperLiveKit, Modellkarten auf Hugging Face; gelesen am 30. Oktober 2026.

WhisperLiveKit beschreibt sich als „ultra-low-latency, self-hosted speech-to-text pipeline“. Es betreibt wahlweise verschiedene Erkennungs-Backends, von faster-whisper bis Voxtral, Qwen3-ASR und NVIDIAs Canary, stellt eine eigene Webseite auf Port 8000 bereit, bietet eine Chrome-Erweiterung, die den Ton einer Webseite aufnimmt, und hat einen OpenAI-kompatiblen REST-Endpunkt sowie WebSocket-Schnittstellen für andere Programme. Das README sagt: „The backend supports multiple concurrent users.“ Der Zugang lässt sich mit einem API-Token schützen. Die Entwickler haben ihre Benchmarks auf einer NVIDIA H100 gemessen und veröffentlichen sie nur als Diagramme, ohne Zahlen im Text.

WhisperLive von Collabora betreibt Whisper über faster-whisper, TensorRT oder OpenVINO und hat Erweiterungen für Chrome und Firefox, die Audio direkt aus dem Browser transkribieren. Zwei Voreinstellungen sind für Veranstaltungen wichtig: --max_clients steht auf 4 und --max_connection_time auf 600 Sekunden; eine Sitzung endet also nach zehn Minuten, wenn der Wert nicht erhöht wird.

Voxtral Mini 4B Realtime 2602 ist Mistrals Streaming-Modell unter Apache 2.0, mit etwa 3,4 Milliarden Parametern im Sprachmodell und 970 Millionen im Audio-Encoder. Es deckt Arabisch, Deutsch, Englisch, Spanisch, Französisch, Hindi, Italienisch, Niederländisch, Portugiesisch, Chinesisch, Japanisch, Koreanisch und Russisch ab, seine Verzögerung lässt sich in Schritten von 80 ms von 80 bis 1.200 ms oder auf 2.400 ms einstellen, und vLLM stellt es über einen Endpunkt /v1/realtime per WebSocket bereit. WhisperLiveKit nennt ein Voxtral-Backend. Nemotron 3.5 ASR Streaming 0.6B, NVIDIAs mehrsprachiges Streaming-Modell, führt Deutsch unter seinen 19 Sprachvarianten für „highest-accuracy ASR, ready out of the box“, mit eingebauter Zeichensetzung und Groß- und Kleinschreibung und Chunk-Größen von 80 ms bis 1,12 s. Es läuft in NeMo oder in Transformers ab 5.13.0; keines der beiden Untertitel-Werkzeuge nennt es als Backend, die Anbindung an eine Untertitel-Seite ist also Integrationsarbeit.

Sie können den Untertitel-Server oder die Workstation allein bestellen, die Einrichtung von WhisperLiveKit oder WhisperLive mit einem deutschen Streaming-Modell allein oder beides zusammen: das System mit allem fertig installiert und eingerichtet; schreiben Sie uns, wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

Sprecher­kenn­zeichnung und übersetzte Untertitel

Wer spricht. Bei einem Podium oder einer Ratssitzung sind Untertitel mit Sprecher­kenn­zeichnung leichter zu verfolgen. WhisperLiveKit kennzeichnet Sprecher live mit NVIDIAs Streaming Sortformer für einen bis vier Sprecher; sein README merkt an, dass es jeden Moment genau einem Sprecher zuordnet, überlappende Stimmen also nicht gezeigt werden, und dass zusätzliche Sprecher einer vorhandenen Kennzeichnung zugeordnet werden können. NVIDIAs Nemotron 3 Diarization, veröffentlicht am 23. September 2026 unter der OpenMDW License 1.1, verarbeitet bis zu acht Sprecher und hat ein Profil mit sehr niedriger Latenz von 0,32 Sekunden; auf AMI-Besprechungen, die mit einem entfernten Mikrofon aufgenommen wurden, nennt die Karte für dieses Profil eine Diarisierungs-Fehlerrate von 12,95 Prozent, gegenüber 11,14 Prozent offline. Hat jede Person auf dem Podium ein eigenes Mikrofon, sagt ein eigener Stream je Mikrofon dem System ohne jedes Modell, wer spricht. Unser Leitfaden zur Sprechererkennung vor Ort behandelt die Modelle ausführlich.

Untertitel in einer zweiten Sprache. WhisperLive kann jede Sprache ins Englische übersetzen, und ein Übersetzungs-Thread auf dem Server kann eine andere Zielsprache bedienen. Die Option --target-language von WhisperLiveKit nutzt NLLW, das laut README auf destilliertem NLLB beruht und 200 Sprachen abdeckt. Prüfen Sie vor einer Firmenveranstaltung die Lizenz: Die Modellkarte von NLLB-200 distilled 600M trägt das Lizenzkennzeichen CC BY-NC 4.0 und sagt „NLLB-200 is a research model and is not released for production deployment“. Für übersetzte Untertitel im geschäftlichen Rahmen gehört ein Übersetzungsmodell hinter die Erkennung, dessen Lizenz kommerzielle Nutzung erlaubt, etwa über das Backend alignatt von WhisperLiveKit, das statt mit NLLB mit einem Sprachmodell übersetzt; unser Leitfaden zur maschinellen Übersetzung vor Ort vergleicht sie. Zwei Untertitelsprachen bedeuten zwei Untertitel-Seiten, eine je Bildschirm.

Barrierefreie Untertitel im Raum und in hybriden Besprechungen

Menschen, die auf Untertitel angewiesen sind, beurteilen sie am besten. Stimmen Sie vor der Veranstaltung mit gehörlosen und schwerhörigen Kolleginnen und Kollegen ab, welche Verzögerung und welche Position auf dem Bildschirm für sie passen und ob automatische Untertitel für den Anlass genügen. Automatische Untertitel enthalten Fehler; wo Barrierefreiheit gesetzlich oder durch eigene Richtlinien vorgeschrieben ist, bestätigen Ihre Beauftragten für Barrierefreiheit oder Ihre Rechtsberatung, ob sie die Anforderungen erfüllen. Live-Untertitelung verarbeitet, was erkennbare Personen sagen, auch wenn nichts gespeichert wird; informieren Sie Sprecher und Teilnehmende daher vorab, wie es unser Leitfaden zu Besprechungs­protokollen beschreibt. Wird das Transkript danach aufbewahrt, gelten zusätzlich die Aufbewahrungsregeln aus diesem Leitfaden; Ihr Datenschutz­beauftragter bestätigt die Einzelheiten.

Auf einem Projektor oder zweiten Bildschirm läuft die Untertitel-Seite im Vollbild mit großer Schrift. Sollen Zuschauer auf ihren eigenen Telefonen mitlesen, braucht es eine Seite, die die Untertitel eines Raums an viele Geräte weitergibt. Keines der beiden Projekte beschreibt in seinem README eine solche Anzeigeseite; sie gehört also zur Einrichtung.

Für hybride Besprechungen im Browser bieten beide Projekte Browser-Erweiterungen, die den im Browser laufenden Ton aufnehmen; die Untertitel können also aus der Besprechung selbst entstehen. Lokal bleibt dann genau die Verarbeitung der Untertitel: Der Ton der Besprechung läuft weiter über den Dienst des Konferenzanbieters, die Untertitel entstehen auf Ihrem Server.

Hardware vom Besprechungsraum bis zum Kongresszentrum

Ein Live-Untertitel-Stream muss nur mit der Sprache Schritt halten, und die Zahl der Zuschauer erzeugt keine Last auf der GPU. Über die Hardware entscheiden die Zahl der gleichzeitig untertitelten Räume, das Modell und seine Verzögerung und ob Sprecher­kenn­zeichnung und Übersetzung mitlaufen. Veröffentlichte Stream-Zahlen für Deutsch oder für die RTX PRO haben wir nicht gefunden. Die nächstliegende veröffentlichte Zahl gilt für Englisch: NVIDIAs Seite zur Leistung des ASR NIM, aktualisiert am 7. Oktober 2026, nennt für eine L40S höchstens 190 Live-Streams mit Parakeet 0.6B CTC bei Chunks von 160 ms und 64 Streams bei 33,9 ms durchschnittlicher Latenz, gemessen mit einer LibriSpeech-Datei. Dieses Modell hat 0,6 Milliarden Parameter; ein Modell mit 4 Milliarden Parametern wie Voxtral braucht je Stream weit mehr Rechenleistung.

Speicher und Leistung der Karten nach NVIDIA, wie auf unserer GPU-Seite angegeben; nutzbar 18,5 GiB bei 24 GB und 40,0 GiB bei 48 GB nach unserer Regel für Nutzer je Karte; Speicherbedarf der Modelle aus den genannten Karten; Raumzahlen nach unserer Lesart, in einem Test zu bestätigen.

Einstieg. Die RTX PRO 4000 Blackwell lässt nach unserer Regel 18,5 GiB, genug für Voxtral Mini 4B Realtime, das laut Karte „can run on a single GPU with >= 16GB memory“, oder für Whisper large-v3 mit etwa 10 GB. Wie viele Räume eine Karte parallel trägt, hängt von Modell und Verzögerung ab; für eines seiner Streaming-Backends rät WhisperLiveKit, eine Realtime-Sitzung je GPU zu planen. Ein 0,6B-Modell wie Nemotron 3.5 ASR Streaming lässt mehr Platz: Die Support-Matrix 26.05.0 von NVIDIAs Speech NIM nennt für das Profil von Nemotron ASR Streaming bei Batch 32 einen GPU-Speicher von 6 GB.

Mittelstufe. Die RTX PRO 5000 Blackwell mit 48 GB lässt nach unserer Regel 40,0 GiB, was nach unserer Lesart ein Streaming-Modell neben Sprecher­kenn­zeichnung live und einem Übersetzungsmodell fasst; die Karte des Diarisierungsmodells nennt keinen Speicherbedarf, die Aufteilung bestätigt daher ein Test. Die Karte von Nemotron 3 Diarization veröffentlicht seine Geschwindigkeit auf dieser GPU: im Profil mit 0,32 Sekunden das 12,5-Fache der Echtzeit bei Batch 1 ohne Kompilierung und das 292-Fache bei Batch 32 mit kompiliertem Modell. Nach unserer Lesart kostet die Sprecher­kenn­zeichnung für einige Räume daher wenig.

Server. Für einen Campus oder ein Kongresszentrum gibt ein Rack-Server mit mehreren L4, je 24 GB bei 72 W in einem Low-Profile-Steckplatz, oder mit L40S und 48 GB jedem Saal eine eigene Karte. Sind Untertitel ein Dienst unter mehreren, betreibt der Einstiegsserver von unserer Seite zu KI-Servern, zwei RTX PRO 6000 Server Edition mit je 96 GB und nach unserer Schätzung etwa 1,8 kW an der Steckdose, sie in einer MIG-Instanz neben dem Chat-Assistenten der Firma. Die Rechnung zu Streams je GPU für viele parallele Gespräche steht in unserem Leitfaden zu den GPU-Anforderungen von Whisper, ein Server, der auch in Sprache antwortet, in unserem Leitfaden zum Voice-Agent-Server vor Ort.

Was die IT am Untertitel-Server einrichtet

• Netzwerk. Ton und Untertitel laufen über WebSockets. Die Hinweise zur Bereitstellung von WhisperLiveKit schlagen Gunicorn mit Uvicorn-Workern hinter Nginx mit WebSocket-Upgrade-Headern vor, wss:// mit --ssl-certfile und --ssl-keyfile, dazu --api-token, --cors-origins und --forwarded-allow-ips.
• Sitzungsgrenzen. Erhöhen Sie in WhisperLive --max_clients und --max_connection_time für einen ganzen Tag mit Sitzungen.
• Installation. WhisperLiveKit bringt ein Extra cu129 für CUDA 12.9 und ein GPU-Dockerfile mit, gestartet mit docker run --gpus all -p 8000:8000; sein Qwen3-vLLM-Backend braucht eine eigene Umgebung, und manche Extras schließen sich gegenseitig aus.
• Voxtral Realtime braucht ein aktuelles vLLM und mistral_common ab 1.9.0; Mistral empfiehlt WebSockets für Audio-Sitzungen ausdrücklich. Teilen sich Sprecher­kenn­zeichnung oder Übersetzung die Karte, senken Sie --gpu-memory-utilization in vLLM unter den Standardwert von 0,92, denn vLLM belegt diesen Anteil des Speichers beim Start.
• Lizenzen der Zusätze. Das Modell AmberNet zur Erkennung der Sprache kommt von NVIDIA NGC mit eigenen Bedingungen, SenseVoiceSmall unter einer eigenen Modelllizenz und das voreingestellte Sortformer-Modell für die Sprecher­kenn­zeichnung unter CC BY 4.0, die eine Namensnennung verlangt.
• Probe. Testen Sie mit den echten Mikrofonen im echten Raum: Messen Sie die Verzögerung auf dem Bildschirm, lesen Sie eine Liste von Sprecher- und Produktnamen laut vor und legen Sie die Schriftgröße so fest, dass sie in der letzten Reihe lesbar ist.

Nennen Sie uns die Zahl der Räume, die Sprachen und wie Ihr Ton heute gemischt wird, wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

FAQ