KI-Besprechungsprotokoll ohne Cloud: von der Aufnahme bis zum freigegebenen Protokoll

Wie ein KI-Besprechungsprotokoll auf dem eigenen Server entsteht

Ein KI-Besprechungsprotokoll auf dem eigenen Server entsteht so: Die Besprechung wird aufgenommen, ein Sprach­erkennungs­modell macht aus dem Audio Text, ein zweites Modell kennzeichnet, wer wann gesprochen hat, und ein Sprachmodell schreibt einen Protokollentwurf mit Beschlüssen, Aufgaben und offenen Punkten. Die protokollführende Person prüft den Entwurf am Transkript und gibt ihn frei. Alles läuft auf einem Rechner in Ihrem Haus oder in einem Rechenzentrum Ihrer Wahl; Aufnahmen von Geschäftsführungsrunden, Kundengesprächen und Projektbesprechungen gehen an keinen externen Dienst.

Wir schreiben für die Büroleitung, die Assistenz der Geschäftsführung oder die Geschäftsführung selbst, die nach jeder Besprechung Stunden mit dem Protokoll verbringt und Aufnahmen nicht in ein Cloud-Werkzeug hochladen will. Zuerst kommt der Ablauf, dann die Fragen des Datenschutzes, die jede Aufnahme mit sich bringt, dann der Server und was er im Gebäude braucht. Unsere Leitfäden zum Spracherkennungs-Server für Whisper und Parakeet und zur Sprecherdiarisierung on-premise behandeln die Modelle für das IT-Team im Detail; hier geht es um die Büroaufgabe von Anfang bis Ende.

Vier Begriffe kommen immer wieder vor. Ein Transkript ist der geschriebene Text von allem, was gesagt wurde. Die Sprecherkennzeichnung, in der Technik Diarisierung genannt, markiert Abschnitte des Transkripts als Sprecher 1, Sprecher 2 und so weiter. Ein Sprachmodell ist die KI, die das Transkript liest und das Protokoll schreibt. Eine GPU oder Grafikkarte ist das Bauteil des Servers, auf dem diese Modelle laufen.

Sechs Schritte von der Aufnahme zum freigegebenen Protokoll

Unsere Zusammenfassung des Ablaufs; Modelle wie auf ihren Modellkarten bei Hugging Face beschrieben, gelesen am 25. Oktober 2026.

Jeder Schritt arbeitet nur mit dem, was der vorige geliefert hat: Eine falsche Sprecherkennzeichnung weist eine Aufgabe der falschen Person zu. Deshalb bleibt die Prüfung in Schritt 5 bei einem Menschen.

Aufnahme: Raummikrofon oder Videokonferenz

Die Sprach­erkennungs­modelle in diesem Leitfaden lesen Audio mit 16 kHz auf einem Kanal: Die Modellkarte von Parakeet nennt 16 kHz mono als WAV oder FLAC, das Diarisierungsmodell von NVIDIA dieselbe Abtastrate. Das liefert jedes übliche Konferenzmikrofon. Was das Ergebnis verändert, ist der Raum.

Ein Besprechungsraum mit einem Tischmikrofon nimmt alle Stimmen auf einem Kanal auf, aus verschiedenen Entfernungen, mit Stühlen, Kaffeetassen und Menschen, die gleichzeitig reden. Das ist der schwierige Fall. Die Modellkarte von Parakeet TDT 0.6B v3 zeigt, wie schwierig: Auf dem AMI-Korpus, aufgezeichneten Besprechungen, liegt die Wortfehlerrate bei 11,31 Prozent, auf LibriSpeech test-clean, also vorgelesener Sprache, bei 1,93 Prozent. Anschaulich gesagt ist in Besprechungsaudio etwa jedes neunte Wort falsch, in einer sauberen Aufnahme etwa jedes fünfzigste. Der Rauschtest der Modellkarte zeigt in dieselbe Richtung: Die mittlere Fehlerrate über ihre Testsätze steigt von 6,34 Prozent bei sauberem Audio auf 11,66 Prozent, wenn das Rauschen so laut ist wie die Sprache.

Eine Videokonferenz liefert meist saubereres Audio, weil jede Person in ein Headset oder ein Laptop-Mikrofon nahe am Mund spricht. Viele Konferenzsysteme können die Aufzeichnung als Datei exportieren. Wo ein System jede Person auf einer eigenen Tonspur aufnimmt, sagen die Spuren bereits, wer gesprochen hat, und die Sprecherkennzeichnung kann entfallen, wie bei getrennten Kanälen im Callcenter; unser Leitfaden zur Callcenter-KI on-premise beschreibt diesen Fall. Prüfen Sie die eingebauten Transkript- und Zusammenfassungsfunktionen des Konferenzsystems: Wo sie auf den Servern des Anbieters laufen, verlässt die Aufnahme dort das Unternehmen, gleich was Sie danach mit der Datei tun.

Drei praktische Regeln verbessern das Transkript, bevor ein Modell läuft. Stellen Sie das Mikrofon in die Mitte des Tisches, nicht neben den Projektor. Bitten Sie in großen Runden jede Person, beim ersten Wortbeitrag ihren Namen zu nennen. Und halten Sie Nebengespräche aus der Aufnahme heraus, denn bei überlappender Sprache scheitern Erkennung und Sprecherkennzeichnung am häufigsten.

Besprechungen lokal transkribieren: Deutsch und andere Sprachen

Zwei offene Modelle decken im Oktober 2026 die meisten europäischen Büros ab. Whisper large-v3 von OpenAI nennt auf seiner Modellkarte bei Hugging Face 99 Sprachen und ist mit Apache 2.0 gekennzeichnet; das Repository von OpenAI gibt für die großen Modelle etwa 10 GB GPU-Speicher an. Parakeet TDT 0.6B v3 von NVIDIA transkribiert 25 europäische Sprachen, darunter Deutsch, Französisch, Italienisch, Polnisch, Tschechisch und Rumänisch, erkennt die Sprache selbst, setzt Satzzeichen und Zeitmarken je Wort und steht unter CC BY 4.0. Laut Modellkarte verarbeitet es Audio von bis zu 24 Minuten mit voller Attention (auf einer A100 80GB) oder bis zu 3 Stunden mit lokaler Attention in einem Durchgang.

Paper zum Open ASR Leaderboard (arXiv 2510.06961v3, 10. Dezember 2025), deutsche Wortfehlerraten aus seiner mehrsprachigen Tabelle, RTFx auf seinen englischen Testsätzen auf einer A100-SXM4-80GB; Sprachen von den Modellkarten bei Hugging Face; alles gelesen am 25. Oktober 2026.

Die deutschen Werte der Tabelle stammen aus öffentlichen Testsätzen, nicht aus Besprechungsräumen; rechnen Sie bei Ihren eigenen Aufnahmen mit höheren Fehlerraten, wie der AMI-Wert oben zeigt. Die Modellkarte von Whisper nennt zwei Warnungen, die man kennen sollte. Die Modelle arbeiten laut Modellkarte je nach Sprache, Akzent und Dialekt unterschiedlich gut, und die Ausgabe kann Text enthalten, der in der Aufnahme gar nicht gesprochen wurde; die Modellkarte nennt das Halluzination. Wer das Transkript liest, findet solche Stellen; eine Zusammenfassung, die nur aus dem Transkript geschrieben wird, kann sie ins Protokoll tragen.

Die Geschwindigkeit ist kein Engpass. RTFx ist die Zahl der Sekunden Audio, die ein Modell pro Sekunde Rechenzeit transkribiert. Mit den 145,5 von Whisper large-v3 braucht eine einstündige Besprechung 3.600 ÷ 145,5 = etwa 25 Sekunden GPU-Zeit, mit den 3.333 von Parakeet etwa eine Sekunde, nach unserer Rechnung auf der A100 und den englischen Testsätzen des Papers. Selbst 20 einstündige Besprechungen am Tag ergeben mit Whisper etwa acht Minuten. Ihre Karte und Ihre Sprache verändern diese Werte, nicht ihre Größenordnung.

Wer was gesagt hat: Sprecherkennzeichnung und Namen

Im Protokoll muss stehen, wer wozu zugestimmt hat. Ein Diarisierungsmodell versieht jeden Abschnitt mit einer anonymen Kennung und einer Start- und Endzeit. Nemotron 3 Diarization von NVIDIA, veröffentlicht am 23. September 2026 unter der OpenMDW License 1.1, verarbeitet laut Modellkarte bis zu acht Sprecher und ist für kommerzielle und nicht kommerzielle Nutzung freigegeben. Auf AMI-Besprechungen, aufgenommen mit einem einzelnen entfernten Mikrofon, nennt die Modellkarte für das Offline-Profil eine Diarisierungsfehlerrate von 11,14 Prozent. Für Besprechungen mit mehr als acht Stimmen lässt pyannote community-1 unter CC BY 4.0 eine Mindest- und Höchstzahl von Sprechern einstellen, wie unser Leitfaden zur Diarisierung beschreibt.

Die Kennungen sind anonym. Aus „Sprecher 2“ wird auf zwei Wegen ein Name. Die protokollführende Person ordnet die Namen von Hand anhand der Teilnehmerliste zu, das dauert eine Minute je Besprechung. Oder das System vergleicht Stimmen mit gespeicherten Stimmproben bekannter Personen. Der zweite Weg erzeugt Daten, die die DSGVO als biometrisch behandeln kann: Artikel 4 Nr. 14 definiert biometrische Daten als personenbezogene Daten aus einer speziellen technischen Verarbeitung von Merkmalen einer Person, die ihre eindeutige Identifizierung ermöglichen, und Artikel 9 Abs. 1 untersagt die Verarbeitung biometrischer Daten zur eindeutigen Identifizierung einer Person, sofern keine Ausnahme greift. Für Büroprotokolle ist der Weg von Hand einfacher; ob mehr nötig ist, entscheidet Ihr Datenschutz­beauftragter.

Vom Transkript zum Protokoll: was das Sprachmodell tut

Das Sprachmodell liest das Transkript mit den Sprecherkennungen und schreibt den Entwurf nach einer festen Vorlage: Datum, Teilnehmende, Tagesordnungspunkte, Beschlüsse, Aufgaben mit verantwortlicher Person und Termin, offene Fragen. Eine gute Vorlage verlangt vom Modell zu jedem Beschluss und jeder Aufgabe die Zeitmarke der zugrunde liegenden Stelle, damit die protokollführende Person direkt an diese Stelle im Transkript springen und sie prüfen kann.

Eine einstündige Besprechung passt bequem. Mit einem Beispielwert von 8.000 gesprochenen Wörtern und den 1,76 Tokens je deutschem Wort, die ein Preprint aus unserem Leitfaden zu Tokens pro Wort auf Deutsch gemessen hat, ergibt das Transkript etwa 14.100 Tokens, die Einheiten, in denen Modelle Text zählen. gpt-oss-120b, das offene Modell von OpenAI unter Apache 2.0, nimmt laut seiner Konfigurationsdatei 131.072 Tokens an; selbst ein ganzer Besprechungstag hätte Platz, und eine Sitzung mit 32.768 Tokens fasst das Transkript einer Stunde, die Vorlage und den Entwurf.

Das Schreiben des Entwurfs geht schnell: gpt-oss-120b liest je erzeugtem Token etwa 5 GB Gewichte, eine RTX PRO 6000 Server Edition mit 1.597 GB/s erlaubt damit etwa 320 Tokens pro Sekunde für eine Anfrage, nach unserer Schätzung eine Obergrenze. Die Prüfung durch die protokollführende Person dauert länger als die Maschine.

Zwei Regeln halten das Protokoll verlässlich: Beschlüsse werden so festgehalten, wie die Besprechung sie formuliert hat, und was das Modell nicht zuordnen kann, etwa eine Aufgabe ohne verantwortliche Person, steht als offen im Protokoll, statt ergänzt zu werden.

Wir bauen die Server für diese Aufgabe und richten die Modelle mit unserem Dienst Private AI/ML ein; schicken Sie uns die Zahl der Besprechungen pro Woche, die Sprachen und die Art der Aufnahme, und unser Team antwortet mit einer Konfiguration.

Besprechungen datenschutzkonform aufnehmen: Teilnehmende informieren

Die Aufnahme einer Besprechung, in der Personen erkennbar sind, enthält personenbezogene Daten. Laufen die Modelle auf dem eigenen Server, fällt der externe Anbieter weg, wie unser Beitrag zu lokaler KI und DSGVO erklärt; die Pflichten des Unternehmens bleiben.

Vor der Aufnahme informieren. Artikel 13 Abs. 1 DSGVO verlangt, dass der Verantwortliche zum Zeitpunkt der Erhebung informiert, unter anderem über die Zwecke der Verarbeitung und ihre Rechtsgrundlage, und nach Artikel 13 Abs. 2 lit. a über die Dauer der Speicherung. Für eine regelmäßige Besprechung kann das ein kurzer Hinweis in der Einladung und ein Satz zu Beginn sein; Gäste aus anderen Unternehmen werden ebenso informiert.

Rechtsgrundlage wählen. Artikel 6 Abs. 1 nennt sechs Rechtsgrundlagen, darunter die Einwilligung und die berechtigten Interessen des Verantwortlichen. Für Beschäftigte ist die Einwilligung eine schwache Grundlage: Die Leitlinien 05/2020 des Europäischen Datenschutzausschusses zur Einwilligung halten es wegen der Abhängigkeit zwischen Arbeitgeber und Beschäftigten für unwahrscheinlich, dass Beschäftigte frei antworten können. Welche Grundlage gilt, entscheidet Ihr Datenschutz­beauftragter. Nationales Recht kann Regeln zur Aufnahme des gesprochenen Wortes und zu Beschäftigtendaten ergänzen, und wo es einen Betriebsrat gibt, hat er meist mitzureden, wie unser Leitfaden zu Betriebsrat und interner KI beschreibt.

Keine Emotionsanalyse. Manche Besprechungswerkzeuge bewerten die Stimmung der Teilnehmenden anhand ihrer Stimme. Artikel 5 Abs. 1 lit. f der KI-Verordnung verbietet KI-Systeme, die Emotionen natürlicher Personen am Arbeitsplatz und in Bildungseinrichtungen ableiten, mit Ausnahmen aus medizinischen oder Sicherheitsgründen; die Verbote gelten seit dem 2. Februar 2025. Ein Protokollsystem auf dem eigenen Server lässt solche Funktionen weg.

Das Risiko bewerten. Artikel 35 Abs. 1 verlangt eine Datenschutz-Folgenabschätzung, wenn eine Verarbeitung voraussichtlich ein hohes Risiko zur Folge hat; ob das regelmäßige Aufnehmen interner Besprechungen diese Schwelle erreicht, beurteilt Ihr Datenschutz­beauftragter. Unser Leitfaden zur DSFA für ein internes LLM beschreibt das Dokument. Dieser Abschnitt ist eine allgemeine Information mit Stand Oktober 2026 und keine Rechtsberatung.

Aufbewahrung und Löschung

Artikel 5 Abs. 1 lit. e DSGVO verlangt, dass personenbezogene Daten nur so lange in einer Form gespeichert werden, die die Identifizierung der betroffenen Personen ermöglicht, wie es erforderlich ist. Für Protokolle bedeutet das meist drei Fristen für drei verschiedene Dinge.

Beispielhafte Aufbewahrungsregeln zur Veranschaulichung; die Fristen für Ihr Unternehmen legt Ihr Datenschutz­beauftragter nach Artikel 5 Abs. 1 lit. e DSGVO fest (konsolidierte Fassung auf EUR-Lex, gelesen am 25. Oktober 2026).

Die Löschung muss jede Kopie erreichen. Nach Artikel 17 Abs. 1 kann eine Person die Löschung ihrer personenbezogenen Daten verlangen, und auf einem Protokollserver liegen die Daten im Audiospeicher, im Transkriptspeicher, im Suchindex, falls Transkripte durchsuchbar sind, im Chatverlauf aller, die den Assistenten zur Besprechung befragt haben, und in den Backups. Richten Sie die Löschung beim Aufbau des Systems als automatischen Auftrag ein, damit niemand daran denken muss. Aufnahmen aus der firmenweiten Dokumentensuche herauszuhalten, ist der einfachste Weg, diese Liste kurz zu halten.

Der Server, wie viele Besprechungen, was er im Gebäude braucht

Protokolle sind selten die einzige Aufgabe: Sinnvoll ist der KI-Server der Firma, der auch den Chat-Assistenten, die Dokumentensuche und Übersetzungen betreibt, wie unser Leitfaden zur eigenen KI für Firmen mit 10 bis 100 Mitarbeitern beschreibt; vier Karten geben weiteren Abteilungen je eine Karte.

Referenz­konfigurationen auf unserer Seite zu KI-Servern; Kapazität geschätzt nach unserer Regel für Nutzer je Karte mit gpt-oss-120b (60,8 GiB Gewichte, 1,125 GiB 16-Bit-Cache je Sitzung mit 32.768 Tokens); Leistung nach unserer Schätzung (Karten, Prozessoren und 15 Prozent für den Rest des Systems), zu bestätigen durch eine Messung am gelieferten System.

Zwei Karten im Server. Der Einstiegsserver auf unserer Seite zu KI-Servern hat zwei Karten der NVIDIA RTX PRO 6000 Blackwell Server Edition mit je 96 GB, zwei AMD-EPYC-Prozessoren, 384 GB DDR5-ECC-Arbeitsspeicher und zwei NVMe-Laufwerke. Nach unserer Regel für Nutzer je Karte, die 90 Prozent der 95,6 GiB nimmt, die der Treiber meldet, abzüglich 3 GiB je Karte und der Gewichte des Modells, lässt gpt-oss-120b auf der ersten Karte 22,2 GiB für 19 gleichzeitige Sitzungen mit 32K Tokens; ein Protokollauftrag belegt eine davon für kurze Zeit. MIG, das Verfahren von NVIDIA zur Aufteilung einer Karte in isolierte Teile, teilt die zweite Karte in vier Instanzen mit 24 GB: eine für Whisper oder Parakeet, eine für das Diarisierungsmodell, dessen Datei 397 MB groß ist, eine für die Suchmodelle und eine für Tests. Der Server zieht nach unserer Schätzung etwa 1,8 kW aus dem Netz und kommt mit einer 16-A-Zuleitung mit 230 V aus, die bei 80 Prozent Auslastung 2,94 kW trägt. Er gehört in einen Serverraum oder ein gekühltes Rack.

Zwei Karten in der Workstation. Ein Unternehmen ohne Serverraum kann eine Workstation mit zwei Karten der NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition mit je 300 W nutzen, an einer normalen 230-V-Steckdose mit etwa 1,1 kW nach unserer Schätzung, am besten in einem Nebenraum statt im Großraumbüro. Die Aufteilung der Aufgaben ist dieselbe. Ohne eigenen Raum betreibt unser Dienst Private AI/ML die Plattform auf dedizierter Hardware in einem Tier-3-Rechenzentrum in Litauen, innerhalb der EU.

Hinweise für das IT-Team

1. Pipeline. Erkennung, Diarisierung und Sprachmodell laufen als getrennte Dienste; nutzen Sie für aufgezeichnete Besprechungen das Offline-Profil des Diarisierers und messen Sie die GPU-Zeit je Stunde Audio mit eingeschalteter Diarisierung, denn unser Leitfaden zur Diarisierung zeigt, wie stark eine kombinierte Pipeline langsamer werden kann.
2. Netzwerk. Betreiben Sie die Modell-Engines in einem internen Netz hinter einem LLM-Gateway mit Schlüsseln und Abfrageprotokoll; --api-key von vLLM schützt nur einen Teil der Pfade (Sicherheitsleitfaden von vLLM 0.32.0).
3. Keine Verbindungen nach außen. Prüfen Sie, dass keine Komponente Audio an einen gehosteten Dienst schickt; die Modellkarte von pyannote etwa bietet auch ein Modell an, das auf den Servern seines Anbieters läuft.
4. Löschaufträge. Setzen Sie die Aufbewahrungsregeln als geplante Aufträge um, die Speicher, Index und das Auslaufen der Backups abdecken.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team dimensioniert die Konfiguration nach Ihrer Arbeitslast und Ihrem Budget und antwortet innerhalb eines Werktages. Wir bauen KI-Server mit zwei oder vier Karten der RTX PRO 6000 Server Edition und Workstations mit zwei RTX PRO 6000 Max-Q auf Bestellung, vor der Lieferung montiert und getestet, geliefert in die gesamte EU mit einem EU-Vertrag und einer Rechnung, mit Herstellergarantie auf jede Komponente, abgewickelt über uns; Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt. Unser Dienst Private AI/ML mit unserem Engineering-Partner Vixen.UNO richtet Spracherkennung, Sprecherkennzeichnung, die Protokollvorlage und die Löschaufträge ein; beschreiben Sie, wie Ihre Besprechungen heute aufgenommen werden, und wir schlagen ein Pilotprojekt mit einigen Ihrer eigenen Aufnahmen vor.

FAQ