Gong-Alternative: Vertriebsgespräche auf dem eigenen Server auswerten, bis zur CRM-Notiz

Gesprächsanalyse im Vertrieb mit KI auf dem eigenen Server

Eine Firma kann ihre Vertriebsgespräche statt mit Gong auf dem eigenen Server mit offener Software auswerten: Ein selbst betriebener Meeting-Bot wie Vexa oder die Aufnahmen, die die Firma ohnehin macht, liefern das Audio; WhisperX schreibt das Transkript und ordnet zu, wer spricht; ein Sprachmodell wie gpt-oss-120b schreibt Zusammenfassung, Einwände und nächste Schritte; und ein kurzes Skript legt die Notiz im CRM ab. Für einen B2B-Vertrieb ist die Rechenlast gering, Redeanteile und Monologlänge ergeben sich aus den Zeitstempeln, und Aufnahmen, Transkripte und Auswertungen bleiben im Firmennetz.

Dieser Vergleich richtet sich an Vertriebsleitungen und Sales Operations in Firmen, die an andere Firmen verkaufen, mit Teams von wenigen bis zu einigen hundert Personen, und an das IT-Team, das den Server betreibt. Ein Callcenter mit Hunderten Agenten gleichzeitig am Telefon ist eine andere Aufgabe, behandelt in unserem Leitfaden zur Callcenter-KI on-premise. Für interne Besprechungen gilt unser Leitfaden zum Besprechungsprotokoll mit lokaler KI.

Conversation Intelligence heißt die Softwarekategorie, zu der Gong gehört: Sie zeichnet Kundengespräche auf und wertet sie aus. Die Transkription macht aus Sprache Text mit Zeitstempeln. Die Sprecherzuordnung, auch Diarisierung genannt, markiert, welche Person welchen Satz gesagt hat. Ein Sprachmodell (LLM) ist die KI, die das Transkript liest und die Zusammenfassung schreibt. Das CRM ist die Kundendatenbank, in der der Vertrieb seine Verkaufschancen führt.

Funktionen und Datenhaltung von Gong, wie Gong sie beschreibt

Gongs Seite zu Conversation Intelligence, gelesen am 30. Oktober 2026, schreibt, das Produkt „automatically records and transcribes every sales call, meeting, and email“. Seine KI analysiert Gespräche auf „key topics, objections, competitor mentions, and buying signals“, automatisiert „CRM updates, summaries, and next steps“, hilft Führungskräften beim Coaching („Coach reps with actionable, data-backed insights from real conversations“) und macht Abschlussrisiken und Kaufsignale in Echtzeit sichtbar („Surface deal risks and buying signals in real time“).

Zu den Daten hält dieselbe Seite fest: „Your data is stored securely in enterprise-grade cloud infrastructure“, und die Aufbewahrungsregeln seien einstellbar. Gongs Sicherheitsseite beschreibt „segregated customer data environments hosted on AWS“, Verschlüsselung „in transit and at rest“, Verschlüsselung mit eigenem Schlüssel, „consent management (with support for 70+ languages)“ und „tools for recording consent“ und schreibt, Gong „is certified with the EU-U.S. Data Privacy Framework“. Eine Hosting-Region nennt keine der beiden Seiten; das Hilfecenter von Gong (aktualisiert am 15. September 2025, gelesen am 31. Oktober 2026) schreibt, dass neue Kunden „can decide to store their data in data centers in either the US or EU“, mit den USA als Voreinstellung.

Gong deckt mehr ab, als eine lokale Lösung zu Beginn leistet, von der E-Mail-Analyse bis zu Coaching und Warnungen zu Abschlussrisiken. Eine lokale Kette deckt den Kern ab, das Gespräch selbst: was gesagt wurde, von wem, was der Kunde eingewandt hat und was vereinbart wurde. Audio und Transkripte verlassen die Firma dann nicht, und die Auswertung folgt Ihrer eigenen Themenliste.

In fünf Schritten vom Gespräch zur CRM-Notiz, mit offenen Werkzeugen

Repository Vexa-ai auf GitHub, whisperx auf PyPI, Hugging-Face-Karten von openai, pyannote und nvidia, gelesen am 30. Oktober 2026; Lizenz von gpt-oss wie in unseren Modell-Leitfäden festgehalten.

Aufnehmen. Vexa beschreibt sich als „Open-source meeting transcription API“ für Google Meet, Teams und Zoom, alle drei im README als produktiv markiert, unter Apache 2.0. Vexa schickt einen Bot in die Videokonferenz, wo er als Teilnehmer erscheint. Vexas eigener Stack läuft ohne GPU; die Transkription ist eine eigene Einheit, die Sie selbst betreiben oder durch Vexas gehosteten Dienst ersetzen, die Einrichtung entscheidet also, ob Audio das Haus verlässt. Wo Telefonanlage oder Konferenzplattform bereits Aufnahmen speichern, genügt ein Ordner auf dem Server, der sie empfängt; die Aufnahmen liegen dann auch auf dieser Plattform. Für Gespräche vor Ort beschreibt unser Leitfaden zum KI-Diktiergerät ohne Cloud den Weg.

Transkribieren. WhisperX, Version 3.8.6 vom 25. Mai 2026 unter BSD-2-Clause, betreibt Whisper mit Zeitstempeln je Wort und bringt standardmäßig Ausrichtungsmodelle für Deutsch, Englisch, Französisch, Spanisch und Italienisch mit; für Deutsch, Französisch, Spanisch und Italienisch sind das die VoxPopuli-Modelle von torchaudio unter CC BY-NC 4.0, einer nichtkommerziellen Lizenz, wir setzen deshalb Ausrichtungsmodelle ein, deren Lizenz kommerzielle Nutzung erlaubt. Auf öffentlichen deutschen Testsets macht Whisper large-v3 etwa einen Fehler in zwanzig Wörtern, wie unser Vergleich zur deutschen Spracherkennung zeigt; Produktnamen und Fachbegriffe verdienen einen Test mit Ihren eigenen Gesprächen.

Sprecher zuordnen. WhisperX nutzt speaker-diarization-community-1 von pyannote unter CC-BY-4.0; das Modell ist auf Hugging Face zugangsbeschränkt, und eine lokale Kopie „works without internet connection“. Nemotron 3 Diarization von NVIDIA unterscheidet bis zu acht Sprecher, unter der OpenMDW License 1.1. Vexa ordnet die Sprecher selbst zu; bei starkem Durcheinanderreden lässt es laut README den Sprecher lieber leer, als zu raten („publishes an empty speaker rather than guessing“), für etwa 4 bis 7 Prozent der Zeilen. Unser Leitfaden zur Sprecherdiarisierung on-premise vergleicht die Modelle.

Auswerten. Das Sprachmodell liest das Transkript mit Sprecherzuordnung nach einer festen Anweisung und gibt eine feste Struktur zurück: eine Zusammenfassung in fünf Zeilen, die Einwände des Kunden mit Zitat und Zeitstempel, genannte Wettbewerber und Produkte, vereinbarte nächste Schritte mit Verantwortlichen und Terminen und offene Fragen. Die Liste der zu beobachtenden Themen, etwa Preis, Lieferbedingungen, ein Wettbewerber oder eine Produktlinie, kommt aus Ihrem Vertrieb.

Ablegen. Ein Skript oder ein Workflow-Werkzeug wie n8n, dessen Lizenz unser Leitfaden zu n8n mit lokalem LLM erklärt, schreibt Zusammenfassung und nächste Schritte als Notiz zur Verkaufschance ins CRM. Nur dieser Text geht ins CRM; ist das CRM ein Cloud-Dienst, liegt die Notiz dort, während Audio und vollständiges Transkript auf Ihrem Server bleiben.

Sie können den Server allein bestellen, die Einrichtung von Vexa, WhisperX und dem Sprachmodell allein oder beides zusammen: den Server mit allem fertig installiert und eingerichtet; schreiben Sie uns, wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

Was sich messen lässt, und was draußen bleibt

Manche Kennzahlen brauchen gar keine KI. Aus dem Transkript mit Sprecherzuordnung zählt ein kurzes Skript den Redeanteil jedes Sprechers, den längsten Monolog, die Zahl der Fragen des Vertrieblers und den Anteil des Gesprächs, der auf die Themen des Kunden entfällt. Diese Zahlen sind wiederholbar und so genau wie die Sprecherzuordnung. Das Sprachmodell ergänzt, was Lesen erfordert: worin der Einwand bestand, ob ein nächster Schritt vereinbart wurde, welcher Wettbewerber zur Sprache kam.

Die KI-Verordnung (AI Act) zieht hier zwei Grenzen. Artikel 5 Absatz 1 Buchstabe f verbietet die Verwendung von KI-Systemen „zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen“, außer aus medizinischen oder Sicherheitsgründen, und dieses Verbot gilt seit dem 2. Februar 2025. Ein Stimmungs- oder Stresswert aus der Stimme des Vertrieblers gehört in diesen Bereich; lassen Sie ihn weg. Derselbe Wert aus der Stimme des Kunden wäre ein Emotionserkennungssystem, das Anhang III Nummer 1 Buchstabe c als Hochrisiko-KI einstuft. Anhang III Nummer 4 Buchstabe b nennt als Hochrisiko-KI-Systeme solche, die „für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen“ verwendet werden sollen. Eine Bewertung, die jeden Vertriebler einstuft, kommt diesem Punkt nahe; nach dem geänderten Artikel 113 gelten diese Regeln ab dem 2. Dezember 2027, und nach Artikel 26 Absatz 7 informieren Betreiber, die Arbeitgeber sind, dann „die Arbeitnehmervertreter und die betroffenen Arbeitnehmer“, bevor ein solches System eingesetzt wird. Gesprächs­zusammen­fassungen und Notizen für die eigene Nachbereitung des Vertrieblers sind eine andere Nutzung, und genau diese richten wir ein: Zusammenfassung, Einwände und nächste Schritte je Gespräch, ohne Emotionsanalyse und ohne Bewertung oder Rangfolge einzelner Vertriebler. Unser Artikel zum EU AI Act für Unternehmen erklärt die Pflichten der Betreiber, und Ihre Rechtsberatung bestätigt, wie Ihre Nutzung einzuordnen ist.

Einwilligung zur Aufnahme, DSGVO und Betriebsrat

Ein aufgezeichnetes Vertriebsgespräch enthält personenbezogene Daten der Mitarbeitenden des Kunden und Ihres Vertrieblers. Artikel 13 Absatz 1 DSGVO verlangt, die Personen „zum Zeitpunkt der Erhebung“ zu informieren, bei einem Gespräch also zu Beginn: in der Einladung, durch den Namen des Bots in der Teilnehmerliste und durch einen Satz des Vertrieblers, der fragt, ob alle mit der Aufzeichnung einverstanden sind; ist jemand nicht einverstanden, entfernt der Vertriebler den Bot aus dem Gespräch. Rechtsgrundlage kann eine Einwilligung sein oder nach Artikel 6 Absatz 1 Buchstabe f die Wahrung der berechtigten Interessen des Verantwortlichen; welche gilt, entscheidet Ihr Datenschutz­beauftragter. Artikel 5 Absatz 1 Buchstabe c verlangt Daten, die „auf das für die Zwecke der Verarbeitung notwendige Maß beschränkt“ sind: Legen Sie fest, welche Gespräche aufgezeichnet werden, löschen Sie das Audio, sobald das Transkript geprüft ist, und bewahren Sie Transkripte nur so lange auf, wie die Verkaufschance sie braucht.

Die Aufzeichnung von Gesprächen regelt zudem nationales Recht, das sich zwischen den EU-Ländern unterscheidet und hier nicht behandelt wird; Ihre Rechtsberatung bestätigt, was für Gespräche mit Kunden in jedem Land gilt. Bei den eigenen Beschäftigten haben Arbeitnehmer­vertretungen nach nationalem Recht oft ein Wort bei Aufzeichnung und Auswertung mitzureden; unser Leitfaden zu Betriebsrat und internem KI-Assistenten behandelt den EU-Rahmen, und eine DSFA für ein internes LLM ist das übliche erste Dokument. Dieser Abschnitt ist eine allgemeine Information, Stand Oktober 2026, keine Rechtsberatung.

Dimensionierung nach Gesprächsstunden pro Tag

Ein Vertrieb wird nach seinen Gesprächsstunden pro Tag dimensioniert. Nehmen Sie die Zahl der Vertriebler, multiplizieren Sie sie mit ihren Kundengesprächsstunden pro Tag, und planen Sie die Verarbeitung über Nacht oder innerhalb einer Stunde nach jedem Gespräch. Drei veröffentlichte Werte geben die Größenordnung. Das Paper zum Open ASR Leaderboard (arXiv 2510.06961v3) maß Whisper large-v3 mit einem RTFx von 145,5 auf einer NVIDIA A100, also 145,5 Sekunden Audio je Sekunde Rechenzeit. NVIDIAs Modellkarte zu Nemotron 3 Diarization nennt einen RTFx von 1.340 auf einer RTX PRO 5000 Blackwell (Offline-Profil, Batch 1, BF16). Und in MLPerf® Inference v6.1 erzeugten acht RTX PRO 6000 Blackwell Server Edition mit gpt-oss-120b im Offline-Szenario 15.256 Token pro Sekunde, nach unserer Rechnung 1.907 je Karte.

Unsere Rechnung: Whisper large-v3 mit RTFx 145,5 auf einer A100-SXM4-80GB (Paper zum Open ASR Leaderboard); Nemotron 3 Diarization mit RTFx 1.340 auf einer RTX PRO 5000 Blackwell (NVIDIA-Modellkarte); Auswertung mit 800 Ausgabe-Token je 30-minütigem Gespräch (unser Beispiel) und 1.907 Token pro Sekunde je Karte, unsere Umrechnung des Systemergebnisses von MLPerf® Inference v6.1 auf eine Karte, Rechenzentrums-Suite, Closed Division, verfügbare Systeme, gpt-oss-120b, Offline-Szenario, Eintrag 6.1-0050 (HPE ProLiant Compute DL380a Gen12, acht RTX PRO 6000 Blackwell Server Edition), abgerufen von mlcommons.org am 24. Oktober 2026, Ergebnis verifiziert durch die MLCommons Association; der Wert je Karte ist keine MLPerf-Kennzahl. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use strictly prohibited. See www.mlcommons.org for more information.

Die Werte stammen von verschiedenen GPUs und aus dem eigenen Anfragemix des Benchmarks; ein langes deutsches Transkript als Eingabe senkt die Token-Rate, und für Whisper auf einer RTX-PRO-Karte nennt kein Anbieter eine Geschwindigkeit. Lesen Sie die Tabelle als Größenordnung: Selbst ein großer Vertrieb braucht wenige GPU-Stunden am Tag, die Wahl der Hardware folgt also der Größe des Sprachmodells, der Zahl der Teams, die die Maschine teilen, und ihrem Standort. Ein Probebetrieb mit einer Woche Ihrer eigenen Gespräche bestätigt das.

Welche Hardware für einen Vertrieb

nutzbarer Speicher nach unserer Sizing-Regel (90 Prozent des vom Treiber gemeldeten Speichers, abzüglich 3 GiB je Karte): 25,7 GiB auf 32 GB, 83,0 GiB auf 96 GB; Whisper large etwa 10 GB (OpenAI), Gewichte von gpt-oss-20b 12,8 GiB und gpt-oss-120b 60,8 GiB (etwa 65 GB) wie in unseren Modell-Leitfäden, 1,125 GiB 16-Bit-Cache je Auswertung mit 32K Token bei gpt-oss-120b; Leistung an der Steckdose nach unserer Schätzung.

Einstieg. Eine NVIDIA RTX PRO 4500 Blackwell mit 32 GB hält Whisper large (etwa 9,3 GiB) und gpt-oss-20b (12,8 GiB) innerhalb ihrer 25,7 GiB, mit 3,6 GiB Rest, genug für einige Auswertungen gleichzeitig über Nacht. Sie eignet sich für einen Pilotbetrieb mit einem Team.

Abteilung. Eine Workstation mit einer RTX PRO 6000 Blackwell Workstation Edition (96 GB, 600 W) trägt das größere gpt-oss-120b neben Whisper, nach unserer Regel mit 12,9 GiB Rest, Platz für 11 gleichzeitige Auswertungen mit je 32K Token Kontext. Nach unserer Schätzung zieht sie etwa 1,1 kW an der Steckdose.

Server. Der Einstiegsserver auf unserer Seite KI-Server hat zwei RTX PRO 6000 Server Edition, zwei AMD-EPYC-Prozessoren, 384 GB DDR5-ECC-Speicher und zwei NVMe-Laufwerke. Eine Karte übernimmt Transkription und Sprecherzuordnung, die andere gpt-oss-120b mit 22,2 GiB Rest für 19 gleichzeitige Auswertungen mit je 32K Token Kontext, wie in unserem Leitfaden zum Besprechungsprotokoll. Der Meeting-Bot muss erreichbar sein, wann immer ein Gespräch beginnt; diese Maschine gehört deshalb in einen Serverraum, wo sie nach unserer Schätzung etwa 1,8 kW an einem 16-A-Anschluss zieht. Derselbe Server kann den internen Assistenten der Firma oder die Besprechungs­protokolle betreiben.

Groß. Ein Knoten mit vier Server-Edition-Karten, nach unserer Schätzung etwa 3,4 kW, passt, wenn Vertrieb, Service und ein Callcenter eine Plattform teilen; unser Callcenter-Leitfaden dimensioniert die Karten für Spracherkennung und LLM des Callcenters.

Nennen Sie uns die Zahl der Vertriebler, ihre Gesprächsstunden pro Tag, die Sprachen und Ihr CRM, wir schlagen Ihnen die passende Konfiguration vor.

Vexa, WhisperX und vLLM im Betrieb

1. Vexa. Der Eigenbetrieb läuft mit Docker Compose (Docker Engine v26 oder neuer), mit Ubuntu 24.04 als Produktivziel, einem Image mit einem einzigen Container und einem Helm-Chart. Das README nennt Version 0.12; im Open-Source-Stack ist WebSocket-Streaming noch nicht angebunden, Transkripte werden abgefragt. Betreiben Sie die Transkriptionseinheit aus deploy/transcription selbst, wenn das Audio im Haus bleiben muss.
2. WhisperX. Die Sprecherzuordnung braucht für den ersten Download ein Hugging-Face-Lesetoken, übergeben mit --hf_token, und die Annahme der Nutzungsbedingungen des Modells; danach arbeitet eine lokale Kopie offline. Für die GPU verlangt WhisperX das CUDA Toolkit 12.8, das RTX-PRO-Blackwell-Karten ohnehin brauchen.
3. Das Sprachmodell. Der Parameter --api-key von vLLM schützt nur die Pfade unter /v1, /v2, /inference und /cohere; /metrics, /health und /invocations antworten ohne Schlüssel, und /invocations bietet dieselbe Inferenz wie /v1 (Sicherheitsleitfaden von vLLM, gelesen am 30. Oktober 2026). Betreiben Sie den Dienst im internen Netz hinter einem LLM-Gateway mit Schlüsseln und Abfrageprotokoll.
4. Speicher. Trennen Sie Audio, Transkripte und Auswertungen nach Teams mit Zugriffsrechten, löschen Sie Audio nach Plan, und halten Sie das Konto des Bots und das CRM-Token aus persönlichen Konten heraus.

FAQ