KI-Dokumentation für Arztpraxen: Gesprächsnotizen und Arztbriefe auf eigenem Server

Was eine lokal betriebene KI-Dokumentation leistet

Eine lokal betriebene KI-Dokumentation zeichnet das Gespräch zwischen Arzt und Patient mit Einverständnis des Patienten auf und macht daraus einen Entwurf der Gesprächsnotiz und, wo nötig, eines Überweisungs- oder Arztbriefs. Alles läuft auf einem Server, der den Praxen gehört, im eigenen Serverraum oder in einem Rechenzentrum ihrer Wahl; Aufnahme, Transkript und Entwürfe erreichen also nie einen externen KI-Dienst. Die Ärztin oder der Arzt liest den Entwurf, korrigiert ihn und übernimmt ihn unterschrieben in die Praxissoftware; ohne diesen Schritt gelangt nichts in die Dokumentation.

Dieser Leitfaden richtet sich an Geschäftsführung, Praxismanagement oder ärztliche Leitung eines Praxisverbunds oder eines MVZ mit etwa 20 bis 100 Ärztinnen und Ärzten. Er erklärt, was die KI-Dokumentation tut, was DSGVO und Medizinprodukterecht für sie bedeuten und wie groß der Server sein muss, in einem Abschnitt mit Tabelle. Die Hinweise am Ende sind für das IT-Team oder den IT-Dienstleister. Pflegeheime, in denen Pflegekräfte Pflegeberichte statt Arztgespräche diktieren, behandelt unser Leitfaden zur Pflegedokumentation per Spracheingabe. Die rechtlichen Teile sind allgemeine Information zum EU-Recht mit Stand Oktober 2026; was für Ihre Praxen gilt, bestätigen Ihr Datenschutz­beauftragter und Ihre Rechtsberatung.

Vom aufgezeichneten Gespräch zur unterschriebenen Notiz und zum Arztbrief

Die KI-Dokumentation ist eine Kette aus drei Modellen, jedes nach heutigen Maßstäben klein. Jeder Schritt hinterlässt ein Ergebnis, das eine Person prüfen kann.

Schritte und Modelle wie in diesem Artikel beschrieben; Modelle nach ihren Modellkarten auf Hugging Face, gelesen am 25. Oktober 2026.

Spracherkennung. NVIDIAs Parakeet TDT 0.6B v3 hat 600 Millionen Parameter, schreibt 25 europäische Sprachen mit Zeichensetzung und Wortzeitstempeln, erkennt die Sprache selbst und steht unter CC BY 4.0, einer Lizenz, die gewerbliche Nutzung erlaubt. Seine Modellkarte nennt bis zu 24 Minuten Audio in einem Durchgang mit voller Attention. Für Sprachen außerhalb dieser Liste deckt Whisper large-v3 99 Sprachen ab, und seine Modellkarte warnt, dass die Ausgabe Text enthalten kann, der in der Aufnahme gar nicht gesprochen wurde („hallucination“). Die Ärztin oder der Arzt liest den Entwurf deshalb gegen die eigene Erinnerung an das Gespräch.

Sprecherkennzeichnung. Die Diarisierung, der Schritt, der markiert, welche Stimme wann sprach, lässt die Notiz trennen, was der Patient berichtet und was der Arzt festgestellt hat. Die Pipeline pyannote community-1 steht unter CC BY 4.0; ihre Dateien lassen sich erst laden, nachdem Sie ihre Bedingungen auf Hugging Face akzeptiert haben, und die Modellkarte sagt, dass sie auf der CPU läuft, solange man sie nicht auf die GPU verschiebt. Dieselbe Karte bietet auch ein gehostetes Modell auf den Servern des Anbieters an, das eine lokal betriebene Dokumentation nicht nutzt. Unser Leitfaden zur Sprecherdiarisierung on-premise vergleicht die Möglichkeiten.

Notiz- und Briefentwürfe. Ein Sprachmodell erhält das gekennzeichnete Transkript und die Notizvorlage der Praxis und schreibt den Entwurf. Qwen3.8-27B ist ein offenes Modell unter Apache 2.0, und NVIDIAs NVFP4-Fassung davon, 21,9 GB, passt auf eine RTX PRO 4500 Server Edition. Das Modell schreibt nur, was im Gespräch gesagt wurde; Felder, die das Gespräch nicht berührt hat, lässt es leer, und es fügt keine Diagnose hinzu, die niemand genannt hat.

Wir liefern die RTX PRO 4500 Server Edition und bauen KI-Server für diese Arbeit auf Bestellung; nennen Sie uns die Zahl der Ärztinnen und Ärzte, die Sprachen in Ihren Praxen und Ihre Praxissoftware, und unser Team antwortet mit einer Konfiguration.

KI-Diktat in der Praxis: Gesundheitsdaten und die DSGVO

Eine Gesprächsaufnahme enthält Gesundheitsdaten, die die DSGVO in Artikel 4 Nummer 15 als personenbezogene Daten definiert, die sich auf die körperliche oder geistige Gesundheit einer natürlichen Person beziehen. Artikel 9 Absatz 1 untersagt die Verarbeitung besonderer Kategorien, sofern keine Ausnahme nach Artikel 9 Absatz 2 greift. Buchstabe h erfasst die Verarbeitung, die für Zwecke der Gesundheitsvorsorge oder der Arbeitsmedizin, für die medizinische Diagnostik und die Versorgung erforderlich ist, unter den Bedingungen von Artikel 9 Absatz 3, der sie an Daten bindet, die von Fachpersonal oder unter dessen Verantwortung verarbeitet werden, das dem Berufsgeheimnis unterliegt. Buchstabe a ist die ausdrückliche Einwilligung für einen oder mehrere festgelegte Zwecke. Welche Grundlage die Aufnahme trägt und in welcher Form Patienten zustimmen, entscheidet Ihr Datenschutz­beauftragter. Nationale Regeln zum Berufsgeheimnis und zur Aufnahme von Gesprächen können weitere Anforderungen stellen; das bestätigt Ihre Rechtsberatung.

Artikel 35 Absatz 1 verlangt eine Datenschutz-Folgenabschätzung (DSFA) vor einer Verarbeitung, die voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, und Artikel 35 Absatz 3 Buchstabe b nennt die umfangreiche Verarbeitung besonderer Kategorien unter den Fällen. Eine Organisation, die Tausende Gespräche im Monat aufzeichnet, sollte eine einplanen. Unser Leitfaden zur DSFA für ein internes LLM nennt, was die IT beiträgt: den Datenfluss, wo jedes Modell läuft, wie lange Aufnahmen und Transkripte aufbewahrt werden und wer sie sehen kann.

Der Betrieb auf dem eigenen Server ändert einen Teil dieser Abschätzung. Bei einem Cloud-Dienst verarbeitet der Anbieter die Aufnahmen im Auftrag der Praxen; Vertrag, Unter­auftrag­nehmer und Ort der Verarbeitung gehören dann in die DSFA, wie unser Leitfaden zu DSGVO, Cloud-Hosting und Unter­auftrag­nehmern erklärt. Auf dem eigenen Server entfallen diese Fragen für den KI-Schritt, während Artikel 32 weiter Maßnahmen verlangt, die dem Risiko angemessen sind, etwa die Pseudonymisierung und Verschlüsselung personenbezogener Daten und die Fähigkeit, den Zugang nach einem Zwischenfall wiederherzustellen.

Wann die Dokumentation zum Medizinprodukt würde

Die Medizinprodukteverordnung, Verordnung (EU) 2017/745, macht Software über ihre Zweckbestimmung zum Medizinprodukt. Die Leitlinie MDCG 2019-11 rev.1 der Medical Device Coordination Group (MDCG), im Juni 2025 von der Kommission veröffentlicht, nennt den Test: Software, die mehr tut als „storage, archival, communication, simple search, lossless compression“, kann Medizinprodukte-Software sein, und Krankenhausinformationssysteme sind laut der Leitlinie für sich genommen keine Medizinprodukte. Sie ergänzt, dass Module, die in elektronische Patientenakten integriert sind oder neben ihnen arbeiten, als Medizinprodukte-Software gelten können, wenn sie einen medizinischen Zweck erfüllen. Nach Regel 11 ist Software, die Informationen liefert, die zu Entscheidungen für diagnostische oder therapeutische Zwecke herangezogen werden, mindestens Klasse IIa.

Für Praxen ergibt das eine klare Linie. Eine Dokumentation, die aufschreibt, was gesagt wurde, und es in der Vorlage der Praxis formatiert, ist ein Dokumentationswerkzeug. Eine Funktion, die eine Diagnose vorschlägt, eine Therapie markiert oder ein Risiko bewertet, rückt in Richtung eines medizinischen Zwecks und damit in Richtung MDR und, wo eine Benannte Stelle beteiligt ist, der Hochrisikoregeln der KI-Verordnung, wie unsere Seite zum privaten LLM für Krankenhäuser erklärt. Halten Sie solche Funktionen aus der selbst aufgebauten Dokumentation heraus oder nutzen Sie dafür ein zertifiziertes Produkt. Ob Ihre Konfiguration auf der Dokumentationsseite bleibt, klärt Ihre regulatorische Beratung.

Wie groß der Server sein muss

Die Spracherkennung ist der leichteste Teil. Unser Leitfaden zu Speech-to-Text-Servern für Whisper und Parakeet berichtet von einem veröffentlichten Test, in dem Parakeet TDT 0.6B v3 auf einer NVIDIA L4 Audio 238,9-mal schneller als seine Dauer verarbeitete. Nach unserer Rechnung bräuchte diese Karte für 400 Stunden Gespräche am Tag etwa 1,7 Stunden. Für die RTX PRO 4500 Server Edition haben wir keinen solchen Wert gefunden, und die Diarisierung kostet zusätzlich Zeit, für die pyannote keine Geschwindigkeit veröffentlicht; ein Test mit Ihren Aufnahmen bestätigt den Sprachteil.

Das Entwurfsmodell bestimmt die Größe. StorageReview hat NVIDIAs NVFP4-Fassung von Qwen3.8-27B auf einer RTX PRO 4500 Server Edition mit 153 Ausgabe-Tokens pro Sekunde bei 32 parallelen Anfragen mit 8.192 Tokens Eingabe und 1.024 Ausgabe gemessen, auf vLLM 0.27.1 (Test vom 14. Oktober 2026). Nach unserer Rechnung sind das etwa 540 Anfragen dieser Größe pro Stunde und Karte. Eine Gesprächsnotiz ist kleiner als diese Anfrage, der Wert ist also ein vorsichtiger Planungswert.

Beispielwerte, die Sie durch eigene ersetzen: 30 Gespräche je Ärztin oder Arzt am Tag, je 8 Minuten aufgezeichnete Sprache, Notizen verteilt auf 8 Stunden mit Spitzenfaktor 2. Entwurfskapazität etwa 540 Anfragen pro Stunde je RTX PRO 4500 Server Edition, unsere Rechnung aus der Messung von StorageReview (14. Oktober 2026); Notiz und Brief desselben Gesprächs als eine Anfrage gezählt.

Im Server mit vier Karten trägt Karte 1 Spracherkennung und Diarisierung, die Karten 2 und 3 halten je eine Kopie des Entwurfsmodells, und Karte 4 entwirft Briefe und betreibt eine Suche in den Vorlagen und Leitlinien der Praxen. Mit einer Karte für Entwürfe nutzen 50 Ärztinnen und Ärzte in der Beispielspitze etwa 70 Prozent davon; bei 100 teilen sich zwei Karten die Last. Nach unserer Regel für Nutzer je Karte (90 Prozent des vom Treiber gemeldeten Speichers, abzüglich 3 GiB und der Gewichte) behält eine Karte mit der NVFP4-Fassung 5,28 GiB für Gespräche, Raum für 13 Entwürfe mit 8.192 Tokens gleichzeitig.

Ein größeres Modell wie gpt-oss-120b mit etwa 65 GB passt auf unseren Einstiegsserver mit zwei Karten der RTX PRO 6000 Server Edition, zwei AMD-EPYC-Prozessoren, 384 GB DDR5 ECC und zwei NVMe-Laufwerken, nach unserer Schätzung bei etwa 1,8 kW.

Was der Server im Gebäude und im Netz braucht

Ein zentraler Server bedient alle Praxen. Sie schicken die Aufnahme nach jedem Gespräch über ihr gemeinsames Netz, und die Entwürfe kommen in die Praxissoftware zurück. Nach unserer Rechnung hat Sprache, als 16-Bit-Mono-Audio mit 16 kHz aufgezeichnet, 256 kbit/s; ein Gespräch von acht Minuten sind also etwa 15 MB vor der Kompression, wenig Last für einen Praxisanschluss.

Die NVIDIA RTX PRO 4500 Blackwell Server Edition ist eine passive Rechenzentrumskarte mit einem Slot, 32 GB GDDR7 bei 800 GB/s und 165 W. Vier davon in einem 2U-Server ziehen nach unserer Schätzung etwa 1,4 kW, innerhalb eines Anschlusses mit 230 V und 16 A, der bei 80 Prozent 2,94 kW trägt; eine Messung am gelieferten System bestätigt den Wert. Der Server ist laut und gibt seine Leistung als Wärme ab, er gehört deshalb in einen Serverraum oder ein gekühltes Rack, nicht in ein Sprechzimmer oder an den Empfang; unsere Checkliste für den Serverraum behandelt die Vorbereitung. Praxen ohne Serverraum können unseren Private-AI/ML-Service die Plattform auf dedizierter Hardware in einem Tier-3-Rechenzentrum in Litauen betreiben lassen, innerhalb der EU; ob das für Gesundheitsdaten passt, gehört in die DSFA.

Planen Sie, was passiert, wenn der Server ausfällt. Ärztinnen und Ärzte schreiben ihre Notizen dann wie bisher selbst; die Patientenversorgung hängt nicht an der KI-Dokumentation. Eine Organisation, die sich auf sie verlässt, kann einen zweiten Server an einem anderen Standort aufstellen; unser Leitfaden zum KI-Server ohne IT-Abteilung erklärt, wer sich um Updates und Störungen kümmert, wenn es keine eigene IT gibt.

Hinweise für das IT-Team oder den IT-Dienstleister

1. Anbindung. Die Praxissoftware bleibt das führende System. Die KI-Dokumentation schreibt Entwürfe über deren Importschnittstelle als nicht unterschriebene Dokumente hinein, und erst die Unterschrift der Ärztin oder des Arztes macht aus einem Entwurf einen Eintrag. Die Structured Outputs von vLLM liefern die Notiz in den Feldern der Vorlage.
2. Aufbewahrung. Löschen Sie die Aufnahme, sobald die Notiz unterschrieben ist, sofern Ihre DSFA keine andere Frist festlegt, und bewahren Sie Transkripte nur so lange auf, wie die DSFA es erlaubt. Das Gateway-Protokoll mit Eingaben und Antworten enthält Gesundheitsdaten; beschränken Sie den Zugriff und legen Sie die Aufbewahrung fest.
3. Thinking-Modus. Qwen3.8-27B denkt standardmäßig nach, bevor es antwortet. Schalten Sie das Nachdenken für Notizentwürfe ab; das hält die Antworten kurz und den Durchsatz nahe am gemessenen Wert.
4. Versionen und Sicherheit. Laden Sie Modelle aus einer festgelegten Revision im Safetensors-Format, betreiben Sie eine aktuelle vLLM-Version (0.32.0 vom 18. Oktober 2026 zum Zeitpunkt dieses Artikels) in einem internen Netz hinter einem Gateway mit Single Sign-on und Mehr-Faktor-Authentifizierung und halten Sie den NVIDIA-Treiber auf einem Stand, den NVIDIAs Bulletin vom 30. September 2026 als behoben nennt, wie unser Leitfaden zum Absichern eines GPU-Servers erklärt. Die Modellserver brauchen keinen ausgehenden Internetzugang.
5. Auswertung. Vergleichen Sie vor dem ersten echten Gespräch Entwürfe mit Notizen, die Ärztinnen und Ärzte selbst geschrieben haben, an einem Satz von Aufnahmen mit Einwilligung, je Sprache und Fachrichtung, und halten Sie Auslassungen und Hinzufügungen getrennt fest.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team dimensioniert die Konfiguration nach Ihrer Last und Ihrem Budget und antwortet innerhalb eines Werktages. Wir liefern die RTX PRO 4500 Server Edition und die RTX PRO 6000 Server Edition und bauen KI-Server auf Bestellung mit der Zahl an Karten, die Ihre Praxen brauchen, vor der Lieferung montiert und getestet, geliefert in die gesamte EU mit einem EU-Vertrag und einer Rechnung, mit Herstellergarantie auf jede Komponente, abgewickelt über uns; Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt. Unser Service Private AI/ML, umgesetzt mit unserem Engineering-Partner Vixen.UNO, richtet Spracherkennung, Diarisierung, das Entwurfsmodell und die Anbindung an Ihre Praxissoftware ein, unter NDA und auf Wunsch mit einem Auftrags­verarbeitungs­vertrag; beschreiben Sie Ihre Praxen und Ihre heutige Dokumentation, und wir schlagen einen Piloten in einer Praxis vor.

FAQ