KI-Server für Medizin­produkte­hersteller: reproduzierbares SaMD-Training nach MDR und KI-VO

Was ein Medizin­produkte­hersteller von einem KI-Server braucht

Ein KI-Server für einen Medizin­produkte­hersteller ist die Umgebung, in der das Unternehmen die KI seines Produkts trainiert, verifiziert und dokumentiert und eine Modellversion Monate später genauso wieder aufbaut, wenn eine benannte Stelle fragt, wie sie entstanden ist. Praktisch heißt das: ein Trainingsserver mit vier Karten der NVIDIA RTX PRO 6000 Blackwell Server Edition, ein getrennter Validierungsserver mit zwei Karten, der die gesperrten Testdaten hält, und ein Software-Stack, der vom Treiberzweig bis zum Container-Image fixiert ist. Hersteller, die große 3D-Modelle trainieren, ergänzen oder wählen einen Knoten mit vier NVIDIA H200 NVL.

Wir schreiben für die Leitung von Entwicklung oder Regulatory Affairs bei einem Hersteller von Software als Medizinprodukt (SaMD) oder von Produkten mit eingebauter KI und für das IT-Team, das die Maschinen betreibt. Kliniken, die Bildgebungsmodelle einsetzen, finden ihren Leitfaden im Artikel zum KI-Server für medizinische Bildgebung, der GPU-Speicher für MONAI und 3D-Segmentierung bemisst. Diese Seite bleibt auf der Seite des Herstellers: wie ein Modell entstanden ist und wie man das belegt.

Wann die KI in einem Produkt nach der KI-Verordnung hochriskant ist

MDCG 2025-6, die FAQ zum Zusammenspiel von MDR, IVDR und KI-Verordnung, die die Kommission am 19. Juni 2025 veröffentlicht hat, nennt zwei Bedingungen, unter denen KI in einem Medizinprodukt (MDAI) ein Hochrisiko-KI-System nach Artikel 6 Absatz 1 der KI-Verordnung ist. Eine davon lautet, dass das Produkt „is subject to a third-party conformity assessment by a notified body“. Ihre Tabelle führt nicht sterile, nicht messende und nicht wiederverwendbare chirurgische Produkte der Klasse I daher weder als Fall für eine benannte Stelle noch als hochriskant, sterile, messende oder wiederverwendbare chirurgische Produkte der Klasse I dagegen als beides. MDR und IVDR stehen auch nach dem Digital Omnibus in Abschnitt A von Anhang I der KI-Verordnung, wie der AI Act Service Desk der Kommission sie führt. Nach der KI-Verordnung in der Fassung der Verordnung (EU) 2026/1744, des Digital Omnibus zur KI, gelten diese Regeln für Produkte nach Anhang I ab dem 2. August 2028, wie Artikel 113 der KI-Verordnung in der geänderten Fassung festhält und unser Artikel zur EU-KI-Verordnung erläutert.

Die FAQ zählt dann auf, was die KI-Verordnung zur MDR hinzufügt. Mehrere Punkte betreffen die Infrastruktur:

MDCG 2025-6 / AIB 2025-1, FAQ zum Zusammenspiel von MDR, IVDR und KI-Verordnung (Juni 2025), Fragen 6, 8, 9, 12, 21, 29 und 30, gelesen am 24. Oktober 2026; die letzte Spalte ist unsere Lesart dessen, was das für die GPU-Umgebung bedeutet.

Die FAQ hält außerdem fest, dass vom Hersteller vorab festgelegte und bei der ersten Konformitätsbewertung bewertete Änderungen („pre-determined by the manufacturer and assessed“) keine wesentliche Änderung darstellen. Ein geplantes Nachtraining ist nur vorhersagbar, wenn die Umgebung, die das erste Modell erzeugt hat, noch existiert; daher der fixierte Stack unten. Die MDR selbst verlangt bereits, dass Hersteller „minimum requirements concerning hardware, IT networks characteristics and IT security measures“ festlegen, die für den bestimmungsgemäßen Betrieb der Software nötig sind (Anhang I Abschnitt 17.4, zitiert nach MDCG 2019-16 Rev. 1). Diese Anforderung betrifft das Produkt im Einsatz; nach unserer Lesart ist die Hardware, die Sie dafür nennen, deshalb auch die Hardware, auf der Sie verifizieren.

Dies ist eine allgemeine Information, keine regulatorische oder rechtliche Beratung. Was für Ihr Produkt gilt, bestätigen Ihre Regulatory Affairs, Ihre benannte Stelle und Ihre Rechtsberatung.

Reproduzierbarkeit beginnt unter dem Framework

Die PyTorch-Hinweise zur Reproduzierbarkeit, Version 2.14, benennen die Grenzen offen: Vollständig reproduzierbare Ergebnisse sind über PyTorch-Versionen, einzelne Commits oder verschiedene Plattformen hinweg nicht zugesichert, und Ergebnisse „may not be reproducible between CPU and GPU executions, even when using identical seeds“. Innerhalb einer Plattform lässt torch.use_deterministic_algorithms(True) PyTorch deterministische Algorithmen verwenden und meldet einen Fehler bei Operationen, die bekanntermaßen nicht deterministisch sind und keine deterministische Alternative haben. Abgeschaltetes cuDNN-Benchmarking macht die Wahl des Algorithmus deterministisch, „possibly at the cost of reduced performance“, und die Worker des DataLoaders brauchen einen Generator mit festem Seed.

Für den Server bedeutet „Plattform“ jede Schicht unter dem Trainingsskript. Für eine validierte Umgebung halten wir jede davon fest:

Hinweise zur Reproduzierbarkeit in PyTorch 2.14 und Support-Matrix der NVIDIA-Framework-Container (26.09: Ubuntu 24.04, CUDA 13.4.1, PyTorch 2.14.0a0), gelesen am 24. Oktober 2026; Treiberlebenszyklus wie in unserem Leitfaden zu NVIDIA-Treiberzweigen; die Auswahl der Schichten ist unsere Empfehlung.

Der Treiberzweig verdient eine eigene Entscheidung. NVIDIAs Tabelle vom 9. September 2026 führt R580 als Zweig mit Langzeitunterstützung bis Juni 2028 und R595 als Produktionszweig bis März 2027, wie unser Leitfaden zu NVIDIA-Treiberzweigen und CUDA-Versionen darlegt. Für eine Umgebung, die über einen Zertifizierungszyklus reproduzierbar bleiben muss, ist der längere Zweig die ruhigere Wahl. NVIDIAs PyTorch-Container 26.08 und 26.09 bauen auf CUDA 13.4.1, neuer als das CUDA 13.0, das zu R580 gehört; auf einem R580-Host stützen sie sich deshalb auf die Kompatibilitätsmechanismen von CUDA. Validieren Sie genau das Paar aus Treiber und Image, das Sie dokumentieren. Auch Sicherheitsupdates des Treibers sind Änderungen: NVIDIAs Bulletin vom 30. September 2026 nennt 580.178.04 als korrigierten R580-Treiber, und ein Update läuft durch Ihre Änderungssteuerung mit einer Wiederholung der Verifikationstests.

Deterministische Einstellungen bremsen manches Training. Ein gangbarer Weg ist, mit den schnellen Einstellungen zu entwickeln und das dokumentierte Training und die Verifikation deterministisch zu fahren; was Sie auch wählen, es gehört ins Protokoll. Wir liefern Trainings- und Validierungsserver mit dem Treiberzweig und Betriebssystem, die Sie vorgeben; nennen Sie uns Framework, Container und Treiber, die Ihr Qualitätssystem festlegt, und unser Team schlägt die Konfiguration vor.

Training und Validierung auf getrennten Maschinen

Die FAQ verweist auf „principles related to separation of datasets“ in Leitlinien der Kommission, die bei ihrer Veröffentlichung noch ausstanden. Zwei Maschinen machen diese Trennung physisch. Der Trainingsserver gehört dem Entwicklungsteam, das ihn aktualisiert, während sich die Modelle weiterentwickeln. Der Validierungsserver hält die gesperrten Testdaten, die das Trainingsteam nicht lesen kann, und führt nur freigegebene Modellkandidaten auf dem dokumentierten Stack aus. Er ändert sich nur über die Änderungssteuerung, sodass ein Testlauf im März und einer im September dieselbe Software nutzen.

Die Validierung sollte auch die Hardware abdecken, auf der das Produkt laufen wird. Läuft Ihr Produkt auf einem Klinikserver mit einer NVIDIA L4 oder einer RTX PRO 4500 Blackwell Server Edition, gehört diese Karte in den Verifikationsplan, denn PyTorch sagt nicht zu, dass Ergebnisse zwischen Plattformen übertragbar sind. Ein Validierungsserver mit zwei Karten der RTX PRO 6000 Server Edition lässt sich per MIG in bis zu acht isolierte Instanzen mit je 24 GB teilen, um mehrere Kandidaten parallel zu prüfen; eine MIG-Instanz bleibt aber ein Teil einer RTX PRO 6000 und ist nicht die Zielkarte. Unser Artikel zu den MIG-Profilen der RTX PRO 6000 listet die Aufteilungen.

Konfigurationsoptionen

Die Optionen folgen den Referenz­konfigurationen auf unserer Seite zu KI-Servern und NVIDIAs Leitfaden für zertifizierte Systeme: zwei Prozessoren, mindestens sechs Kerne je GPU und mindestens doppelt so viel Arbeitsspeicher wie GPU-Speicher.

Referenz­konfigurationen auf unserer Seite zu KI-Servern; Konfigurations­leitfaden für NVIDIA-Certified Systems; Leistung nach unserer Schätzung (Karten bei 600 W, zwei Prozessoren, plus 15 Prozent für den Rest des Servers), wie in unseren anderen Serverleitfäden.

Zwei Karten in einem Server passen zu einem Start-up mit einem Produkt: Eine Karte trainiert, die andere führt die Verifikation in MIG-Instanzen aus. Die Trennung erfolgt dann über Karte und Benutzerrechte statt über die Maschine, was schwächer ist; planen Sie den zweiten Server ein, sobald das erste Produkt zur benannten Stelle geht. Vier plus zwei ist die Aufteilung, die wir einem Hersteller mit ein oder zwei KI-Produkten in Entwicklung vorschlagen würden. Die RTX PRO 6000 Server Edition hat 96 GB GDDR7 mit 1.597 GB/s je Karte; das Ganzkörper-CT-Bundle von MONAI verlangt zum Vergleich 48 GB für das Training, wie unser Leitfaden zur medizinischen Bildgebung zitiert.

Vier H200 NVL bringen je Karte 141 GB HBM3e mit 4,8 TB/s, verbunden über eine 4-Wege-NVLink-Brücke mit 900 GB/s je GPU, für 3D-Modelle, deren Patches oder Batches nicht in 96 GB passen, oder für Trainingsläufe, die lang genug sind, damit sich die Bandbreite auszahlt. Zur H200 NVL gehört ein NVIDIA-AI-Enterprise-Abonnement über fünf Jahre, das 90 Tage nach der Auslieferung an den Serverhersteller beginnt; unser Vergleich H200 NVL und RTX PRO 6000 für Fine-Tuning behandelt die Abwägungen beim Training. Acht H200 NVL sind unser Trainingsknoten für mehrere Teams. Unser Leitfaden zum Training von Vision-Modellen erklärt datenparalleles Training über PCIe und den Speicher je Karte.

Ein Assistent für die technische Dokumentation

Die technische Dokumentation eines Produkts ist eine große Menge verknüpfter Dokumente: Anforderungen, Risikoakten, Verifikationsberichte, klinische Bewertung und Qualitätshandbuch. Ein Sprachmodell mit Retrieval über diese Dokumente hilft dem Regulatory-Team zu finden, wo eine Anforderung behandelt wird, und Text für eine Prüfung durch Menschen zu entwerfen, ohne unveröffentlichte Konstruktionsdaten an einen externen Dienst zu schicken. Nach unserer Regel für Nutzer je Karte, die 90 Prozent der 95,6 GiB nimmt, die der Treiber meldet, abzüglich 3 GiB je Karte und der Gewichte, hält gpt-oss-120b (Apache 2.0, 117B Parameter, davon 5,1B aktiv, 60,8 GiB Gewichte) 19 Gespräche mit 32K Tokens auf einer RTX PRO 6000 Server Edition, mehr als ein Regulatory-Team gleichzeitig nutzt. Unser Service Private AI/ML richtet Modell und Retrieval mit Zugriffsrechten je Dokument ein; unser Leitfaden zu RAG auf Unternehmensdaten beschreibt den Aufbau. Die Entwürfe des Assistenten sind Eingaben für Ihre Dokumentenlenkung, keine freigegebenen Dokumente, und ein Modellwechsel beim Assistenten durchläuft die Regressionstests, die unser Leitfaden zur LLM-Evaluierung vor Modellwechseln beschreibt.

Datenschutz und Herkunft der Daten

Trainingsdaten für medizinische KI stammen meist aus Kliniken und Studien. Artikel 9 Absatz 1 der DSGVO zählt Gesundheitsdaten zu den besonderen Kategorien personenbezogener Daten, deren Verarbeitung er untersagt, mit Ausnahmen, die die Verordnung festlegt. Daten auf dem eigenen Server zu halten macht Zugriffskontrolle und Löschung greifbar, doch Rechtsgrundlage, Verträge mit den Datenquellen und eine Datenschutz-Folgenabschätzung bleiben Aufgaben Ihres Datenschutz­beauftragten. Halten Sie für die technische Dokumentation zu jedem Datensatz fest, woher er stammt, unter welcher Vereinbarung, welche Version in welchen Split eingegangen ist und wann er gelöscht wurde.

Hinweise für das IT-Team

1. Speicher. Legen Sie Datensätze auf Speicher mit Versionsprotokoll und Prüfsummen ab und geben Sie dem Trainingsteam nur Lesezugriff auf Trainings- und Validierungssplits. Unser Leitfaden zu NVMe-Speicher für einen KI-Server behandelt die Laufwerke; die Kapazität planen Sie nach Ihrer Datenmenge.
2. Backups. Das Protokoll einer Umgebung nützt nur, wenn sich die Images, Gewichte und Datenversionen, die es nennt, wiederherstellen lassen; unser Leitfaden zur Sicherung eines KI-Servers zeigt, was zu kopieren ist.
3. Treiber. Unter Ubuntu mit NVIDIAs Repository installieren Sie das Pinning-Paket für den Zweig vor dem Treiber, zum Beispiel nvidia-driver-pinning-580, damit ein Routine-Upgrade den Server nicht auf einen neueren Zweig hebt.
4. Firmware. Updates von BIOS, BMC und GPU-Firmware ändern die Plattform ebenfalls; unser Leitfaden zu Firmware-Updates von GPU-Servern erklärt die Reihenfolge.
5. Container. Halten Sie das NVIDIA Container Toolkit auf 1.17.8 oder neuer und verweisen Sie im Protokoll per Digest auf Images, nicht nur per Tag.
6. Isolation. Ein Validierungsserver steht oft in einem segmentierten Netz ohne Internet; unser Leitfaden zum Air-Gapped-Server mit Offline-Installation zeigt, was zu spiegeln ist, und GPU-Server absichern behandelt BMC und Endpunkte.
7. Lieferung. Die Server kommen auf Wunsch mit Betriebssystem, NVIDIA-Treiber, CUDA und Container-Runtime, auf dem Zweig, den Sie vorgeben.

Strom und Raum

Nach unserer Schätzung zieht ein Server mit zwei Karten etwa 1,8 kW an der Steckdose und passt an eine Zuleitung mit 230 V und 16 A, die bei 80 Prozent 2,94 kW trägt. Vier Karten der RTX PRO 6000 Server Edition bei 600 W ziehen etwa 3,4 kW, nach unserer Schätzung ebenso vier H200 NVL, und brauchen 32 A oder Drehstrom. Acht H200 NVL ziehen nach unserer Schätzung etwa 6,3 kW und brauchen Drehstrom; Dells Datenblatt nennt etwa 8 kW je Knoten mit acht Karten als Richtwert, planen Sie die Zuleitungen also nach der Herstellerangabe. Eine Leistungsschätzung wird durch eine Messung am gelieferten System bestätigt. Unser Leitfaden zur Vorbereitung des Serverraums für einen GPU-Server listet, was zu prüfen ist. Ohne eigenen Serverraum betreibt unser Service Private AI/ML die Plattform auf dedizierter Hardware in einem Tier-3-Rechenzentrum in Litauen, innerhalb der EU.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team bemisst die Konfiguration nach Ihrer Aufgabe und Ihrem Budget und antwortet innerhalb eines Werktages. Wir bauen die Trainings- und Validierungsserver auf Bestellung mit Karten der RTX PRO 6000 Server Edition oder der H200 NVL, vor der Lieferung montiert und getestet, geliefert überallhin in der EU mit einem EU-Vertrag und einer Rechnung, mit Herstellergarantie auf jede Komponente, abgewickelt über uns; Mengen und Lieferzeit werden mit dem Angebot schriftlich bestätigt. Ihr eigener Abnahmetest gehört ins Validierungsprotokoll, und unser Leitfaden zum Abnahmetest von GPU-Servern beschreibt ein Vorgehen. Beschreiben Sie Ihr Produkt, Ihre Modelle und den Stack, den Ihr Qualitätssystem festlegt, und wir antworten mit beiden Servern.

FAQ