faster-whisper, WhisperX oder whisper.cpp: die richtige Whisper-Laufzeit für NVIDIA-GPUs

Welche Whisper-Laufzeit zu einem GPU-Transkriptionsdienst passt

Für einen Transkriptionsdienst auf NVIDIA-GPUs ist faster-whisper die übliche Engine: Es betreibt OpenAIs Whisper-Modelle auf CTranslate2, transkribiert in Batches und braucht den wenigsten Code. WhisperX baut auf faster-whisper auf und ergänzt genaue Wortzeitstempel und die Sprecher­kenn­zeichnung, die Untertitel und Interviewtranskripte brauchen. whisper.cpp ist eine Portierung in C/C++ für CPUs und kleine Geräte, läuft auch mit CUDA und erreicht im Vergleichsbenchmark, den faster-whisper veröffentlicht, etwa die Geschwindigkeit von faster-whisper ohne Batching.

Dieser Vergleich richtet sich an Entwicklerinnen und Administratoren, die vor dem Aufbau des Dienstes die Laufzeit wählen. Er behandelt den Stand jedes Projekts im Oktober 2026, die Geschwindigkeitswerte der Projekte und was sie messen, Zeitstempel und Sprecher­kenn­zeichnung, die Einrichtung auf RTX-PRO-Blackwell-Karten und den Punkt, an dem eine andere Modellfamilie, NVIDIAs Parakeet, die Aufgabe schneller erledigt. Modellspeicher, Live-Streams pro GPU und NVIDIAs Sprach-NIM sind in unserem Leitfaden zu den GPU-Anforderungen von Whisper dimensioniert; diese Seite wiederholt sie nicht.

Die Laufzeiten und ihr Stand im Oktober 2026

Sieben Projekte tauchen auf, wenn Teams die schnellste Whisper-Implementierung suchen. Drei davon sind hier das Thema; die anderen sind die Referenz, an der sie gemessen werden, oder die Alternative für einen größeren Dienst.

PyPI-Seiten der Pakete, GitHub-Seiten von faster-whisper, WhisperX und whisper.cpp (die Release-Seite von whisper.cpp zeigt für v1.9.5 kein Jahr), vLLM-Dokumentation zu Speech-to-Text vom 19. Oktober 2026; alle gelesen am 30. Oktober 2026.

Für die Planung zählen zwei Daten. faster-whisper hat seit dem 31. Oktober 2025 keine neue Version veröffentlicht, die darunterliegende Engine CTranslate2 ist aber aktiv: Version 4.8.4 erschien am 25. Oktober 2026 auf PyPI. Der Changelog nennt eine Korrektur im Ausrichtungspfad für Whisper in 4.8.1 (3. Juli 2026) und in 4.8.4 neue CPU- und GPU-Implementierungen von Operationen für Audiomodelle. Eine aktuelle Installation kombiniert daher faster-whisper 1.2.1 mit einem aktuellen CTranslate2. insanely-fast-whisper, ein Kommandozeilenwerkzeug auf Hugging Face Transformers, hat seit Mai 2024 keine neue Version, und seine PyPI-Seite nennt es „purely community driven“, eine schwache Grundlage für einen Unternehmensdienst. WhisperX führt auf GitHub in seiner Projektdatei bereits 3.8.7rc1, einen Release Candidate; produktive Installationen bleiben bei 3.8.6.

Veröffentlichte Geschwindigkeitswerte und was sie messen

Keines der drei READMEs nennt einen Wert für RTX-PRO-Blackwell-Karten, und eine unabhängige Messung aller drei Laufzeiten auf einer GPU haben wir nicht gefunden. Den vollständigsten Vergleich liefert das README von faster-whisper selbst. Es transkribierte 13 Minuten Audio mit Whisper large-v2 bei Beam-Größe 5 auf einer GeForce RTX 3070 Ti mit 8 GB unter CUDA 12.4, mit openai-whisper v20240930, whisper.cpp v1.7.2, Transformers 4.46.3 und faster-whisper 1.1.0.

README von faster-whisper auf GitHub, gelesen am 30. Oktober 2026; 13 Minuten Audio, Whisper large-v2, Beam-Größe 5. Messungen des faster-whisper-Projekts, nicht von uns.

Nach unserer Rechnung entsprechen 780 Sekunden Audio in 63 Sekunden etwa der zwölffachen Echtzeit für faster-whisper ohne Batching, und 65 Sekunden ergeben für whisper.cpp etwa denselben Wert. Den Unterschied macht das Batching: Mit Batch-Größe 8 erreichte faster-whisper auf derselben Karte etwa die 46-fache Echtzeit. Für eine einzelne Datei, die der Reihe nach transkribiert wird, liegen beide Engines nah beieinander; für eine Warteschlange von Aufnahmen auf einem Server entscheidet faster-whispers BatchedInferencePipeline, die das README „a drop-in replacement“ für den normalen Transkriptionsaufruf nennt.

WhisperX nennt auf seiner Projektseite „batched inference for 70x realtime transcription using whisper large-v2“ und „<8GB gpu memory for large-v2 with beam_size=5“, ohne die GPU zu nennen. insanely-fast-whisper veröffentlichte Werte von einer A100 mit 80 GB: 150 Minuten Audio dauerten mit Whisper large-v3 in Transformers bei Batch 24 mit Flash Attention 2 eine Minute 38 Sekunden, mit Whisper large-v2 in faster-whisper bei Beam-Größe 1 ohne Batching 9 Minuten 23 Sekunden. Nach unserer Rechnung sind das etwa die 92-fache und die 16-fache Echtzeit. Der Vergleich stammt von 2024, nutzt zwei verschiedene Modellversionen und stellt eine Pipeline mit Batching einer ohne gegenüber; er sagt also mehr über Batching als über die Engines.

Die Geschwindigkeit einer Laufzeit auf Ihrem Server hängt daher von Batch-Größe, Beam-Größe, Modell (large-v3, turbo oder ein destilliertes Modell), Rechenformat, dem Anteil an Stille, den der Sprachaktivitätsfilter entfernt, und der Länge Ihrer Dateien ab. Ein einstündiger Test mit Ihren eigenen Aufnahmen liefert den Wert, auf den es ankommt.

Wortzeitstempel, Sprecher­kenn­zeichnung und lange Aufnahmen

Whisper selbst liefert Zeitstempel je Segment. Das README von WhisperX sagt deutlich, die Zeitstempel seien „at the utterance-level, not per word, and can be inaccurate by several seconds“. Die drei Laufzeiten gehen damit unterschiedlich um.

READMEs von faster-whisper, WhisperX und whisper.cpp auf GitHub, gelesen am 30. Oktober 2026.

WhisperX richtet jedes Wort mit einem eigenen Phonemmodell aus. Standardmodelle für die Ausrichtung gibt es für Englisch, Französisch, Deutsch, Spanisch und Italienisch; andere Sprachen brauchen ein passendes wav2vec2-Modell von Hugging Face, das man laut README selbst suchen und testen muss. Prüfen Sie dabei die Lizenzen: Für Französisch, Deutsch, Spanisch und Italienisch sind die Standardmodelle die VoxPopuli-Modelle von torchaudio, die torchaudio unter CC BY-NC 4.0 weitergibt, einer nichtkommerziellen Lizenz; das englische Standardmodell steht unter MIT. Für einen Unternehmensdienst übergeben Sie mit --align_model ein Ausrichtungsmodell, dessen Lizenz kommerzielle Nutzung erlaubt, etwa ein wav2vec2-Modell für Deutsch unter Apache 2.0 von Hugging Face; prüfen Sie die Wortzeitstempel danach mit Ihrem eigenen Audio. Wörter mit Zeichen, die das Ausrichtungsmodell nicht kennt, etwa Zahlen und Währungen, „cannot be aligned and therefore are not given a timing“. Die Sprecher­kenn­zeichnung kommt vom Modell speaker-diarization-community-1 von pyannote, das einmalig ein Zugriffstoken von Hugging Face und akzeptierte Nutzungsbedingungen verlangt; das README ergänzt, „diarization is far from perfect“, und überlappende Sprache werde nicht gut erkannt. Unser Leitfaden zur Sprechertrennung On-Premise behandelt dieses Modell ausführlich.

faster-whisper liefert Wortzeitstempel, wenn word_timestamps=True gesetzt ist, und filtert Stille mit dem Silero-Modell. Laut README ist der Standardfilter vorsichtig und entfernt nur Stille von mehr als 2 Sekunden; im Batch-Modus ist der Filter standardmäßig eingeschaltet. Das Filtern der Stille zählt, weil die Modellkarte von Whisper warnt, dass seine Ausgaben „may include texts that are not actually spoken in the audio input“, und WhisperX seinen VAD-Schritt als einen beschreibt, der „reduces hallucination“.

whisper.cpp kennzeichnet Wortzeitstempel und seine Erkennung von Sprecherwechseln als experimentell. Die Sprecherfunktion nutzt ein eigenes englisches small-Modell und setzt eine Markierung, wo der Sprecher wechselt; wer spricht, benennt sie nicht. Seine Stärken liegen anderswo: ein C/C++-Programm ohne Python, quantisierte Modelle und das Beispiel whisper-server, das das README als „HTTP transcription server with OAI-like API“ beschreibt.

Installation auf RTX-PRO-Blackwell-Karten und CUDA-Fehler

Jede RTX-PRO-Blackwell-Karte hat Compute Capability 12.0, für den Compiler sm_120. NVIDIAs Release Notes zu CUDA 12.8 sagen, die Version „adds compiler support“ für die Blackwell-Architekturen SM_100, SM_101 und SM_120, und nennen als Mindesttreiber für CUDA 12.8 die Version 570.26 unter Linux und 570.65 unter Windows. Software, die gegen ältere CUDA-Versionen gebaut ist, scheitert mit dem Fehler aus unserem Leitfaden zu „no kernel image is available“ auf sm_120.

Bei faster-whisper ist CTranslate2 die Komponente, die Sie prüfen müssen. Sein Changelog verbindet die Blackwell-Unterstützung mit zwei Versionen: 4.6.2 vom 5. Dezember 2025 nennt „Disable INT8 for sm120 - Blackwell GPUs“, und 4.6.3 vom 6. Januar 2026 ergänzt „Support for CUDA 12.8“ und macht cuDNN optional. Kein späterer Eintrag bis 4.8.4 schaltet INT8 auf sm_120 wieder ein. Installieren Sie auf einer RTX-PRO-Karte CTranslate2 4.6.3 oder neuer, nutzen Sie float16 oder bfloat16 und lesen Sie die INT8-Zeilen älterer Benchmarks als Werte für andere GPUs. ctranslate2.get_supported_compute_types("cuda") gibt die Rechenformate zurück, die die Bibliothek auf der eingebauten Karte unterstützt. Das README von faster-whisper sagt außerdem, dass aktuelle CTranslate2-Versionen nur CUDA 12 und cuDNN 9 unterstützen.

WhisperX legt in der Projektdatei seines Hauptzweigs PyTorch 2.8 fest und bezieht es aus PyTorchs Paketindex für CUDA 12.8; sein README verlangt vor der Installation das CUDA-12.8-Toolkit. Für CTranslate2 fordert WhisperX selbst nur 4.5.0 oder neuer, auf Blackwell legen Sie also 4.6.3 oder neuer selbst fest. Für whisper.cpp nennt das README cmake -B build -DGGML_CUDA=1; bauen Sie es gegen CUDA 12.8 oder neuer. Die Python-Anbindung pywhispercpp (1.5.1 vom 22. August 2026) liefert auf PyPI nur CPU-Pakete, GPU-Unterstützung heißt Bau aus dem Quellcode. Anwendungen auf diesen Engines haben dasselbe Problem in ihrer eigenen Paketierung; deshalb liefert Scriberr ein eigenes Blackwell-Image, wie unser Vergleich selbst gehosteter Transkriptions-Apps beschreibt. noScribe, die Desktop-App aus unserem Leitfaden zur Interview-Transkription mit noScribe, läuft auf faster-whisper und verlangt einen NVIDIA-Treiber ab 570.65, den Mindesttreiber, den NVIDIA für CUDA 12.8 unter Windows nennt.

Sie können die Workstation allein bestellen, die Einrichtung von faster-whisper, WhisperX und den Sprach­erkennungs­modellen allein oder beides zusammen: die Workstation mit allem fertig installiert und eingerichtet; schreiben Sie uns, wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

Wann Parakeet oder eine andere Engine besser passt

Wenn der Durchsatz über viele Stunden Aufnahmen das Ziel ist, hilft ein anderes Modell oft mehr als eine schnellere Whisper-Laufzeit. Im Paper zum Open ASR Leaderboard (arXiv 2510.06961v3, Dezember 2025) transkribierte NVIDIAs Parakeet TDT 0.6B v3 auf einer A100 etwa 3.333 Sekunden Audio pro Sekunde Rechenzeit, Whisper large-v3 dagegen 145,5, nach unserer Rechnung etwa 23-mal so schnell, bei einer deutschen Wortfehlerrate von 4,90 gegenüber 4,97 Prozent. Parakeet deckt 25 europäische Sprachen unter CC BY 4.0 ab und läuft in NVIDIAs Toolkit NeMo (3.0.0, Apache 2.0) oder in NVIDIAs Sprach-NIM. Unser Vergleich der Spracherkennung für Deutsch zeigt, wo sich die Modelle bei Akzenten und Dialekten unterscheiden.

vLLM stellt Whisper über einen OpenAI-kompatiblen Endpunkt /v1/audio/transcriptions bereit, mit einer Standardgrenze von 25 MB pro Upload, die eine Umgebungsvariable anhebt. Seine Dokumentation vom 19. Oktober 2026 nennt Beam Search für Whisper derzeit „highly inefficient“; planen Sie dort also Greedy-Decoding. vLLM passt zu einem Unternehmen, das es bereits für seine Sprachmodelle betreibt und eine API für beides möchte. Speaches verpackt faster-whisper in einen OpenAI-kompatiblen Sprachserver; seine neueste Version auf GitHub, v0.9.0-rc.3, ist ein Release Candidate, und unser Leitfaden zum lokalen KI-Diktat zeigt Diktier-Apps, die einen solchen Server aufrufen. Für Live-Untertitel, bei denen Audio in kleinen Stücken ankommt, behandelt unser Leitfaden zu Live-Untertiteln On-Premise die Streaming-Server auf diesen Engines.

Hardware für jede Phase des Projekts

Sprach­erkennungs­modelle sind klein im Vergleich zu großen Sprachmodellen (LLMs): OpenAI nennt etwa 10 GB GPU-Speicher für Whisper large und etwa 6 GB für turbo. Die Karte richtet sich danach, was daneben läuft und wie viele Aufträge gleichzeitig laufen. Wir dimensionieren nach unserer Regel für Nutzer je Karte: 90 Prozent des Speichers, den der Treiber meldet, abzüglich 3 GiB pro Karte.

nutzbarer Speicher nach unserer Regel 18,5 GiB (24-GB-Karte) und 83,0 GiB (96-GB-Karte); Whisper large etwa 10 GB und turbo etwa 6 GB (Whisper-Repository von OpenAI); gpt-oss-20b 12,8 GiB Gewichte (Files-Seite auf Hugging Face); MIG mit bis zu vier Instanzen auf der RTX PRO 6000 (NVIDIA). Unsere Schätzung, keine Messung.

Auf der RTX PRO 4000 belegt Whisper large 9,3 GiB und lässt nach unserer Schätzung etwa 9,2 der 18,5 GiB für Batches, das Ausrichtungsmodell und pyannote; das reicht, um die Pipeline zu bauen und zu testen, wird aber knapp für große Batches neben weiteren Modellen. Auf der RTX PRO 6000 Workstation Edition mit 96 GB belegen Whisper large-v3 und turbo zusammen etwa 14,9 GiB, mit gpt-oss-20b für Zusammen­fassungen 27,7 GiB; nach unserer Schätzung bleiben etwa 55 GiB für Batch-Größe und weitere Modelle. Läuft das Modell für Zusammen­fassungen in vLLM, senken Sie dessen --gpu-memory-utilization unter den Standardwert von 0,92, denn vLLM belegt diesen Anteil der Karte beim Start. Die Workstation Edition ist für 600 W ausgelegt; eine zweite Karte passt in dieselbe Workstation, wenn zwei Laufzeiten gleichzeitig volle Warteschlangen abarbeiten sollen.

Für einen gemeinsamen Dienst hat die L40S mit 48 GB kein MIG, eine Karte bedient also eine Laufzeit oder ein NIM. Laut NVIDIAs NIM-FAQ verlangt der produktive Einsatz von NIM eine Lizenz für NVIDIA AI Enterprise („Using NIM in production requires an NVIDIA AI Enterprise license“), die wir ebenfalls liefern, wie unser Leitfaden zu kostenloser und lizenzpflichtiger NVIDIA-Software erklärt; die Open-Source-Laufzeiten auf dieser Seite brauchen keine solche Lizenz. Auf der RTX PRO 6000 Server Edition teilt MIG eine Karte in bis zu vier isolierte Instanzen, etwa Whisper mit WhisperX in einer und Parakeet in einer anderen. Der Einstiegsserver auf unserer Seite zu KI-Servern trägt zwei solche Karten und zieht nach unserer Schätzung etwa 1,8 kW an der Steckdose. Wie viele Aufnahmen pro Stunde eine dieser Stufen schafft, hängt von den oben genannten Faktoren ab; für diese Laufzeiten auf RTX-PRO-Karten gibt es keine veröffentlichten RTFx-Werte, den Wert liefert daher ein Testlauf am gelieferten System.

Wir bauen diese Workstations und Server auf Bestellung; nennen Sie uns Ihre Audiostunden pro Woche, die Sprachen und ob Sie Wortzeitstempel oder eine Sprecher­kenn­zeichnung brauchen, und unser Team antwortet mit einer Konfiguration.

Ein Testplan vor der Entscheidung

Ein kurzer Benchmark mit Ihren eigenen Aufnahmen klärt die Wahl in einem Arbeitstag.

1. Nehmen Sie eine Stunde typisches Audio: eine Besprechung, ein Telefonat und eine Aufnahme mit langen Pausen.
2. Transkribieren Sie es mit faster-whisper ohne Batching und mit Batch-Größe 8 oder 16, mit WhisperX und mit whisper.cpp, gebaut für CUDA, jeweils mit demselben Modell und float16.
3. Notieren Sie die Zeit pro Audiostunde und den höchsten GPU-Speicher aus nvidia-smi.
4. Vergleichen Sie die Wortfehlerraten mit einem von einer Person korrigierten Transkript und prüfen Sie die Pausen auf erfundenen Text.
5. Prüfen Sie die Wortzeitstempel bei Zahlen und Namen, wenn die Ausgabe in Untertitel oder einen Suchindex fließt.

Das Ergebnis zeigt meist in eine Richtung. faster-whisper passt zu einem Dienst, den Ihr eigener Code aufruft; WhisperX passt zu Untertiteln, Interviewtranskripten und allem, was eine Sprecher­kenn­zeichnung braucht; whisper.cpp passt zu CPUs, Edge-Geräten und einem einzelnen Programm ohne Python. Parakeet passt zu großen Mengen in den 25 Sprachen, die es abdeckt.

FAQ