KI-Server für Medien: Transkripte, Untertitel, Übersetzung und Archivsuche

Was ein KI-Server für Sender und Verlage leistet

Ein KI-Server für Medien macht aus Sendungen, Interviews, Podcasts und Archivaufnahmen Transkripte, Untertiteldateien, Übersetzungen und ein durchsuchbares Archiv, auf Hardware, die der Sender oder Verlag selbst kontrolliert. Spracherkennung braucht wenig GPU-Speicher, daher wird der Server nach Audiostunden und Live-Kanälen bemessen; einer mit zwei NVIDIA RTX PRO 6000 Blackwell Server Edition betreibt Erkennung, Sprecherzuordnung, Übersetzung, ein Modell für Zusammenfassungen und den Suchindex nebeneinander. Vier oder acht Karten übernehmen neben der laufenden Produktion ein großes Archivprojekt.

Die Werte in diesem Leitfaden sind veröffentlichte Messungen mit Quelle und Bedingungen oder unsere Schätzungen und als solche gekennzeichnet. Unsere ausführlichen Leitfäden zu den GPU-Anforderungen von Whisper und zur maschinellen Übersetzung on-premise enthalten die vollständige Auslegung der beiden größten Teile.

Die Aufgabe in einfachen Worten

Für die Leitung eines Senders, eines Verlags oder einer Produktionsfirma beschreiben drei Zahlen die Aufgabe. Die erste sind die Stunden neuen Materials pro Tag: Nachrichten, Sendungen, Interviews, Podcasts und Videos für die Website. Die zweite ist das Archiv, also die bereits digitalisierten Stunden, die einmal transkribiert werden sollen. Die dritte ist die Zahl der Live-Kanäle, die gleichzeitig Untertitel brauchen. Dazu kommen die Sprachen, denn sie bestimmen die Modelle.

Tägliche Produktion und Live-Untertitel sind eine gleichmäßige, mäßige Last. Das Archiv ist eine einmalige Spitze: Zehntausende Stunden, die der Server über Tage oder Wochen im Hintergrund abarbeitet, während die tägliche Arbeit weiterläuft. Einmal transkribiert, lässt sich das Archiv in natürlicher Sprache durchsuchen; eine Redakteurin, die nach allen Interviews fragt, in denen ein Minister über Güterverkehr auf der Schiene sprach, bekommt die Sendungen und die jeweilige Minute.

Transkripte: Modelle, Sprachen und Tempo

OpenAIs Whisper-Repository (gelesen am 24. Oktober 2026) und Modellkarten auf Hugging Face; NIM-Profil aus NVIDIAs Support-Matrix für die ASR-NIM (7. Oktober 2026); RTFx aus dem Paper zum Open ASR Leaderboard (arXiv 2510.06961v3, 10. Dezember 2025), eine A100-SXM4-80GB, Batch 64, wo der Speicher es erlaubte; wie in unserem Whisper-Leitfaden zitiert.

RTFx ist der Kehrwert des Echtzeitfaktors: Sekunden transkribierten Audios je Sekunde Rechenzeit. Nach unserer Rechnung braucht ein Archiv mit 10.000 Stunden auf der A100 des Papers mit Whisper large-v3 etwa 69 Stunden Rechenzeit und mit Parakeet TDT 0.6B v3 etwa 3 Stunden. OpenAIs Repository nennt für das turbo-Modell etwa die achtfache Geschwindigkeit von large. Auf einer L4 braucht dasselbe Archiv nach den Schätzungen unseres Whisper-Leitfadens aus dem Test von E2E Networks mit Parakeet etwa 42 Stunden und mit Whisper turbo auf vier Karten etwa 61 Stunden. NVIDIAs Model Card führt die L4 als Testhardware für Parakeet TDT 0.6B v3, nennt ihre Architektur Ada Lovelace aber nicht als unterstützt.

Die Genauigkeit zählt bei der Wahl ebenso wie das Tempo. Für Deutsch nennt die mehrsprachige Tabelle des Papers eine Wortfehlerrate von 4,97 Prozent für Whisper large-v3, 4,90 für Parakeet TDT 0.6B v3 und 4,96 für Canary-1B v2. Diese Tabelle umfasst nur Deutsch, Französisch, Italienisch, Spanisch und Portugiesisch; testen Sie die Modelle für Polnisch, Tschechisch oder Rumänisch daher zuerst an einigen Stunden Ihrer eigenen Sendungen. Sendeton mit Musikunterlegung, Studiogästen, die einander ins Wort fallen, und Telefoninterviews ist schwieriger als die vorgelesene Sprache der Benchmarks.

Der veröffentlichte Wert für die Karte, auf der wir bauen, stammt aus MLPerf. In MLPerf Inference v6.1, Eintrag 6.1-0050, erreichte ein HPE ProLiant Compute DL380a Gen12 mit acht RTX PRO 6000 Server Edition im Whisper-Benchmark im Offline-Szenario 19.278,3 Token pro Sekunde, nach unserer Division etwa 2.410 je Karte. Laut der Beschreibung von MLCommons betreibt der Benchmark Whisper-Large-V3 auf LibriSpeech-Clips von bis zu 30 Sekunden und zählt Token des Transkripts pro Sekunde; der Wert ordnet also Systeme, lässt sich aber nicht direkt in Stunden Ihres Audios umrechnen.

MLPerf® Inference: Datacenter v6.1, Closed Division, Kategorie Available, Whisper, Offline-Szenario, Eintrag 6.1-0050, abgerufen von mlcommons.org am 24. Oktober 2026. Ergebnis von der MLCommons Association verifiziert. Der Wert je Karte ist unsere Division des Systemergebnisses, keine MLPerf-Metrik. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use strictly prohibited. See www.mlcommons.org for more information.

Untertitel aus dem Transkript

Das Kommandozeilenwerkzeug von Whisper schreibt Untertiteldateien selbst: --output_format akzeptiert unter anderem txt, vtt, srt, tsv und json. Die Optionen --max_line_width und --max_line_count formen die Zeilen nach Ihren Hausregeln, setzen aber beide --word_timestamps True voraus; diese Option kennzeichnet das Werkzeug als experimentell. Parakeet TDT 0.6B v3 liefert Zeichensetzung und Zeitstempel je Wort, aus denen die Pipeline Untertitelzeilen baut. In beiden Fällen prüft eine Untertitelredaktion Timing und Zeilenumbrüche vor der Ausstrahlung.

Sprecherwechsel brauchen Diarisierung, und sie kann mehr kosten als die Transkription. In NVIDIAs Werten für die L40S erreichte Parakeet 0.6B CTC offline ohne Diarisierung ein RTFx von 3.638 und mit ihr 101,5. NVIDIAs Nemotron 3 Diarization, veröffentlicht unter OpenMDW 1.1 mit 100 Millionen Parametern und bis zu acht Sprechern, nennt bei Batch 32 auf einer RTX PRO 5000 mit kompiliertem Modell ein RTFx von etwa 15.113. Für eine Talkshow mit mehreren Gästen planen Sie nach dem Wert mit Diarisierung.

Live-Untertitel brauchen ein Streaming-Modell, denn NVIDIAs ASR-NIM betreibt Whisper nur offline. NVIDIAs Werte vom 7. Oktober 2026 nennen für eine L40S höchstens 190 englische Live-Streams mit Parakeet 0.6B CTC bei Chunks von 160 ms. Nemotron 3.5 ASR Streaming 0.6B führt Deutsch unter seinen 19 Locales für „highest-accuracy ASR“, mit Chunks von 80 bis 1.120 ms; Stream-Werte dafür auf den Karten, die wir liefern, haben wir nicht gefunden. Ein Sender mit einer Handvoll Live-Kanälen ist neben diesen englischen Werten eine kleine Last; testen Sie das Modell vor dem Einsatz mit Ihrem eigenen Live-Ton auf Latenz.

Wir bauen Sprachserver für Medienunternehmen; schicken Sie uns Ihre Stunden pro Tag, die Archivgröße und die Live-Kanäle, und unser Team antwortet mit einer Konfiguration.

Übersetzung von Untertiteln und Artikeln

Whisper kann Sprache übersetzen, sein README sagt aber, dass die Übersetzungsfunktion nicht englische Sprache ins Englische überträgt und dass das turbo-Modell „will return the original language even if --task translate is specified“. Canary-1B v2 übersetzt Sprache zwischen Englisch und den anderen 24 seiner Sprachen. Für die Übersetzung zwischen zwei nicht englischen Sprachen sowie für Artikel und Untertiteldateien arbeitet ein Textübersetzungsmodell auf dem Transkript.

Unser Übersetzungsleitfaden plant mit 2 Ausgabe-Token je Wort: Eine Million Wörter am Tag ergeben über acht Stunden im Mittel 69 Token pro Sekunde, und nach seiner Schätzung trägt das eine Karte mit 48 GB und einem Übersetzungs-LLM mit 9 bis 12 Milliarden Parametern in BF16. EuroLLM deckt alle 24 Amtssprachen der EU unter Apache 2.0 ab, die Karten von TranslateGemma nennen 55 Sprachen unter den Gemma Terms of Use, und die Karten von NLLB-200 bezeichnen es als Forschungsmodell, das nicht für den Produktionseinsatz freigegeben ist. Untertitelzeilen sind kurz; schicken Sie daher eine ganze Szene je Anfrage, so hält das Modell Namen und Begriffe mit mehr Kontext einheitlich. Die Dateibibliothek von Argos Translate führt .srt unter ihren unterstützten Formaten.

Für Redaktionen ist eine Regel besonders wichtig. Seit dem 2. August 2026 verlangt Artikel 50 des AI Act von Betreibern, KI-erzeugten Text offenzulegen, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, der Text wurde von Menschen geprüft oder redaktionell kontrolliert und jemand trägt die redaktionelle Verantwortung für die Veröffentlichung. Auch Deepfakes sind offenzulegen. Unser Artikel zum EU AI Act bietet allgemeine Informationen; die nationale Praxis kann abweichen, und die Entscheidung liegt bei Ihrer Rechtsabteilung.

Archivsuche auf Transkripten

Die Archivsuche zerlegt jedes Transkript in Abschnitte mit Zeitstempeln, bettet die Abschnitte als Vektoren ein und findet die nächstgelegenen zu einer Frage; ein Treffer öffnet die Sendung an der richtigen Minute. Metadaten wie Datum, Kanal, Rechte und Sprecher filtern die Ergebnisse.

Leistungsseiten von NVIDIA für die NeMo-Retriever-Embedding-NIM (Version 1.14.0, 30. September 2026) und die Reranking-NIM (17. August 2026), FP8, wie in unserem Embedding-Leitfaden zitiert; Vektorgröße aus unserem Vergleich von Vektordatenbanken. Archivbeispiel: 10.000 Stunden in Abschnitten zu je einer Minute.

Das Beispiel nimmt einen Abschnitt je Minute Sprache an, der unter 512 Token bleibt; prüfen Sie diese Annahme an Ihren eigenen Transkripten. Das Einbetten dauert im Vergleich zur Transkription nur kurz, und nach dem ersten Lauf wird nur neues Material eingebettet. Qwen3-Embedding und bge-m3 nennen Unterstützung für mehr als 100 Sprachen, was zu Archiven in mehreren Sprachen passt, und Qwen3-VL-Embedding, im Januar 2026 veröffentlicht, bettet auch Bilder ein, sodass Keyframes einer Sendung in den Index kommen können; NVIDIA veröffentlicht dafür keine Geschwindigkeit. Unsere Leitfäden zu Embedding- und Reranker-Servern für RAG und zu RAG auf Firmendaten behandeln Modelle, Abschnittsbildung und Zugriffsrechte. Ein Sprachmodell auf demselben Server schreibt Zusammenfassungen und Schlagworte zu jeder Sendung; gpt-oss-120b passt auf eine Karte mit 96 GB.

Konfigurationen nach Kartenzahl

Die Varianten folgen den Referenz­konfigurationen auf unserer Seite zu KI-Servern und NVIDIAs Leitfaden für zertifizierte Systeme: zwei Prozessoren, mindestens sechs Kerne je GPU und Arbeitsspeicher in doppelter Größe des GPU-Speichers.

Referenz­konfigurationen auf unserer Seite zu KI-Servern; MIG-Aufteilung wie in unserem Leitfaden zu den MIG-Profilen; Leistung nach unserer Schätzung (Karten bei 600 W, zwei AMD EPYC 9135, 9355 oder 9555 für zwei, vier oder acht Karten, plus 15 Prozent für den Rest des Servers).

Zwei Karten. Der Einstiegsserver mit zwei RTX PRO 6000 Server Edition, zwei AMD-EPYC-Prozessoren, 384 GB DDR5-ECC und zwei NVMe-Laufwerken teilt die erste Karte in vier isolierte MIG-Instanzen mit 24 GB: Whisper large-v3 mit etwa 10 GB oder das Parakeet-NIM-Profil mit 14,02 GB, das Diarisierungsmodell, ein Streaming-Modell für Live-Untertitel und das Embedding-Modell mit seinem Reranker. Die zweite Karte betreibt gpt-oss-120b für Zusammenfassungen, Schlagworte und Übersetzung; nach unserer Regel für Nutzer je Karte hält sie 19 Anfragen mit 32K Token gleichzeitig.

Vier Karten. Der Inferenzknoten mit 768 GB und vier NVMe-Laufwerken schafft Platz für ein Archivprojekt: Die Sprachkarte arbeitet nachts und am Wochenende das Archiv ab, eine zweite Karte übernimmt Suche und ein Übersetzungsmodell, und zwei Karten betreiben gpt-oss-120b als Paar für einen Redaktionsassistenten, nach unserer Regel 187 Konversationen mit 16K gleichzeitig. Während eines großen Digitalisierungsprojekts können weitere Karten die Erkennung übernehmen und danach zu ihren üblichen Rollen zurückkehren.

Acht Karten oder zwei Server. Ein Medienhaus mit mehreren Marken und einem großen Archiv transkribiert auf mehreren Karten, während die Produktion auf den übrigen läuft; der MLPerf-Eintrag oben ist ein solches System mit acht Karten. Zwei Server mit vier Karten statt eines Servers mit acht halten die Live-Untertitel am Laufen, während einer aktualisiert wird, wie unser Leitfaden ein Server mit 8 GPUs oder zwei mit 4 erörtert. Für die reine Transkription zeigt unser Whisper-Leitfaden, dass für viele Lasten eine L4 oder L40S in einem vorhandenen Server genügt.

Die RTX PRO 6000 Max-Q ist die Workstation-Karte, eine 300-W-Karte mit Radiallüfter; in einem Rack gehört sie nur in ein Gehäuse, dessen Hersteller sie listet, und für den Dauerbetrieb empfehlen wir die Server Edition. Jeden dieser Server bauen wir auf Bestellung; beschreiben Sie Ihre Sprachen und den Anteil von Live- und Archivarbeit, und wir legen die Karten danach aus.

Hinweise für die IT

1. Engines. faster-whisper steht unter MIT und braucht keine Lizenz für NVIDIA AI Enterprise. NVIDIAs ASR-NIM braucht Compute Capability 8.0, mindestens 16 GB GPU-Speicher und in Produktion NVIDIA AI Enterprise; ihre Support-Matrix führt „Blackwell RTX 60xx“, prüfen Sie also die Matrix der Version, die Sie einsetzen, gegen die Karte.
2. MIG. Bis zu vier Instanzen mit 24 GB je RTX PRO 6000. NVIDIAs Voraussetzungen sind Linux, Treiber 575.51.03 oder neuer, ein aktuelles vBIOS und der DisplayModeSelector im Compute-Modus.
3. Videodateien. NVIDIAs Seite nennt für die Server Edition vier Video-Encoder und vier Video-Decoder, die eine Pipeline nutzen kann, um Sendedateien zu dekodieren, Keyframes zu entnehmen oder Proxys auf derselben Karte zu erzeugen.
4. Datenschutz. Aufnahmen, in denen Personen erkennbar sind, sind personenbezogene Daten nach der DSGVO. Prüfen Sie, dass keine Komponente Audio an einen gehosteten Dienst schickt, und halten Sie Aufnahmen und Transkripte auf dem Server unter Ihrer Kontrolle, wie unser Whisper-Leitfaden erklärt.
5. Netzwerk und Updates. --api-key von vLLM schützt nur Pfade unter /v1, /v2, /inference und /cohere; Routen wie /invocations und /metrics antworten auch ohne Schlüssel (Sicherheitsleitfaden von vLLM 0.32.0). Halten Sie die Engines daher hinter einem internen Gateway. Halten Sie das NVIDIA Container Toolkit auf 1.17.8 oder neuer und den Treiber auf einer Version, die NVIDIA in seinem Bulletin vom 30. September 2026 als behoben nennt. Der Server kommt auf Wunsch mit Betriebssystem, NVIDIA-Treiber, CUDA und Container-Runtime.

Strom und Raum

Nach unserer Schätzung zieht der Server mit zwei Karten und zwei EPYC 9135 etwa 1,8 kW an der Steckdose und passt an eine Zuleitung mit 230 V und 16 A, die bei 80 Prozent 2,94 kW trägt. Der Server mit vier Karten und zwei EPYC 9355 zieht mit den Karten bei 600 W etwa 3,4 kW, bei der 450-W-Begrenzung etwa 2,7 kW, und braucht 32 A oder Drehstrom. Acht Karten mit zwei EPYC 9555 ziehen nach unserer Schätzung etwa 6,3 kW; Dells Datenblatt nennt als Richtwert etwa 8 kW je Knoten mit acht Karten, und die Zuleitungen sollten nach dem Wert des Herstellers geplant werden. Unser Leitfaden zur Stromversorgung von GPU-Servern mit 16 A, 32 A und Drehstrom rechnet jeden Fall durch.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team legt die Konfiguration nach Ihrer Last und Ihrem Budget aus und antwortet innerhalb eines Werktages. Wir bauen die Server auf Bestellung mit zwei, vier oder acht RTX PRO 6000 Server Edition oder für die reine Transkription mit L4- und L40S-Karten, vor der Lieferung montiert und getestet, in die gesamte EU geliefert mit einem EU-Vertrag und einer Rechnung, mit Herstellergarantie auf jede Komponente, abgewickelt über uns; Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt. NVIDIA-AI-Enterprise-Lizenzen für die NIM kommen auf dieselbe Rechnung. Unser Service Private AI/ML, umgesetzt mit unserem Engineering-Partner Vixen.UNO, richtet darauf die Modelle für Spracherkennung, Übersetzung und Text sowie die Archivsuche ein. Unsere Leitfäden für E-Commerce und Kreativagenturen behandeln benachbarte Aufgaben.

FAQ