Server mit 2× NVIDIA H200 NVL in Europa kaufen: 282 GB an einer 2-Wege-NVLink-Brücke

Der Einstiegsserver für die H200 NVL

Einen Server mit zwei NVIDIA H200 NVL können Sie bei uns kaufen, auf Bestellung gebaut und in die gesamte EU geliefert. Zwei Karten mit je 141 GB HBM3e an einer 2-Wege-NVLink-Brücke ergeben 282 GB GPU-Speicher in einer NVLink-Domäne, dazu zwei AMD-EPYC-Prozessoren, 768 GB DDR5 mit ECC und zwei NVMe-Laufwerke. Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages.

Zwei Karten sind die kleinste NVLink-Konfiguration der H200 NVL und der übliche erste Schritt. Sie passen zu einem Unternehmen, das ein 70B-Modell für eine oder zwei Abteilungen betreibt und es für jeden Nutzer schnell braucht, zu einem Team, das ein 70B-Modell mit LoRA feinabstimmt, oder zu einem Forschungsinstitut mit einem Solver in doppelter Genauigkeit, denn jede Karte liefert laut NVIDIAs H200-Seite 30 TFLOPS FP64. Mit der Brücke kann eine Kopie eines Modells beide Karten mit NVLink-Geschwindigkeit nutzen; ohne sie tauschen die Karten Daten über PCIe Gen5 mit 128 GB/s statt mit 900 GB/s je GPU aus. Unser Leitfaden was ein Server mit 2× H200 NVL leistet behandelt Modelle und Aufteilungen ausführlicher.

Wenn Modell oder Nutzerzahl über das Paar hinauswachsen, sind vier Karten in einer NVLink-Domäne mit 564 GB der nächste Schritt, wie unsere Seite Server mit 4× H200 NVL kaufen beschreibt.

Ausstattung und Optionen

Die Tabelle zeigt die Konfiguration mit zwei Karten, von der wir ausgehen, und was wir je Projekt anpassen.

Unsere Seite zu KI-Servern; NVIDIAs Referenzarchitektur für NVIDIA AI Enterprise und Konfigurations­leitfaden für NVIDIA-Certified Systems (30. September 2026); HPE QuickSpecs DL380a Gen12, Supermicro-Seite zum SYS-212GB-NR und Cisco Spec Sheet UCS C845A M8 A.11, gelesen am 24. Oktober 2026.

Den Arbeitsspeicher legen wir nach NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems aus: mindestens zwei Sockel, sechs physische Kerne je GPU und mindestens doppelt so viel Arbeitsspeicher wie GPU-Speicher, für zwei Karten also 564 GB. Zwei EPYC-9005-Prozessoren haben 24 Speicherkanäle; 24 Module zu 32 GB ergeben damit 768 GB, ein Modul je Kanal. NVIDIAs Referenzarchitektur für AI Enterprise setzt eine Untergrenze von 128 GB je GPU und verlangt sieben Kerne je GPU, dazu zwei je GPU für das Betriebssystem und zwei je MIG-Instanz: 18 Kerne für zwei Karten, 46 mit allen 14 MIG-Instanzen. Cisco empfiehlt für zwei H200 NVL im UCS C845A M8 1.024 GB, mindestens das Dreifache des HBM; das passt zu Fine-Tuning mit CPU-Offload. Unser Leitfaden wie viel RAM ein GPU-Server braucht vergleicht die Regeln.

Gehäuse: 2U für zwei Karten, 4U für den Ausbau

Zwei H200 NVL passen in einen 2U-Server. Lenovos Produktleitfaden zum ThinkSystem SR650a V4, aktualisiert am 20. Oktober 2026, nennt „2x NVIDIA H200 NVL 600W GPUs“ für den 2U-Server mit einem oder zwei Xeon-6-Prozessoren. Supermicros 2U-Server SYS-212GB-NR führt die H200 NVL mit optionaler NVLink-Brücke und einem GPU-Einschub für zwei Karten mit NVLink, mit drei Netzteilen zu 2.000 W in 2+1; er hat nur einen Prozessorsockel, einen weniger, als NVIDIAs Leitfaden für zertifizierte Systeme vorsieht. In 4U nimmt HPEs ProLiant Compute DL380a Gen12 zwei H200 NVL mit der 2-Wege-Brücke S4A90C und fünf Netzteilen zu 2.400 oder 3.200 W auf, und Ciscos UCS C845A M8 nennt für zwei Karten eine 2-Wege-Brücke.

Die Brücke ist ein eigenes Teil, und der Serverhersteller gibt sie je Servermodell frei, unabhängig von der Karte. NVIDIAs Product Brief PB-12128-001 nennt für die 2-Slot-Brücke die Teilenummer 900-23945-xx00-xxx und empfiehlt, dass überbrückte Karten „within the same CPU domain“ sitzen; beide Karten des Paares gehören also unter denselben Prozessor. Unser Artikel zur H200 NVL NVLink-Brücke zeigt die Prüfung mit nvidia-smi topo -m.

Für den Ausbau ist ein 4U-Gehäuse mit Netzteilen und Steckplätzen für vier oder acht Karten der bessere Start. Kommt ein zweites Paar hinzu, bleibt es bei 2-Wege-Brücken, und Cisco nennt für vier Karten zwei 2-Wege-Brücken. Der Wechsel zu einer 4-Wege-Domäne mit vier Karten braucht eine neue Brücke über vier benachbarte Karten; deshalb planen wir die Steckplätze für den späteren Schritt schon beim Angebot, wie unser Leitfaden GPU später nachrüsten erklärt.

Was zwei H200 NVL leisten

Nach unserer Regel für Nutzer je Karte, 0,9 × 140,4 GiB − 3 GiB je Karte, hält das Paar 246,7 GiB Gewichte und KV-Cache. Die Regel nimmt 90 Prozent des vom Treiber gemeldeten Speichers und hält je Karte 3 GiB für CUDA-Graphen und Aktivierungen frei, wie unser Leitfaden wie viele Nutzer eine RTX PRO 6000 bedient herleitet.

Unsere Schätzung nach der Regel für Nutzer je Karte, gleichzeitige Gespräche in voller Kontextlänge. FP8-KV-Cache für Llama 3.3 70B in FP8 (1,25 GiB bei 8K) und für Qwen3-235B (94 KiB je Token), 16-Bit-Cache für die BF16-Zeile (2,5 GiB) und gpt-oss-120b (1,125 GiB bei 32K). Gewichte 67,7 GiB, in BF16 nach unserer Schätzung rund 131,5 GiB, 60,8 GiB und 219,8 GiB.

Für die zweite Zeile hält das Paar 246,7 GiB; abzüglich 67,7 GiB Gewichte bleiben 179,0 GiB, also 143 Gespräche zu 1,25 GiB. Die BF16-Zeile rechnet mit 70,6 Milliarden Parametern zu zwei Byte, rund 141 GB, für Teams, die das Modell in voller Genauigkeit betreiben. Qwen3-235B zeigt die Grenze des Paares: Die FP8-Gewichte von 236 GB belegen den größten Teil des Speichers, das Paar reicht deshalb für ein kleines Team oder kurze Kontexte, während vier Karten 93 Gespräche mit 32K tragen. Modelle der 400B-Klasse wie Llama 4 Maverick in FP8 mit rund 417 GB passen nicht auf zwei Karten.

Gezählt sind Anfragen, die im selben Moment laufen, weit weniger als die Zahl der Beschäftigten, die den Dienst nutzen. Die H200 NVL hat keine FP4-Arithmetik, deshalb werden Modelle in FP8, INT4 oder BF16 ausgelegt, wie unser Leitfaden zu FP4-Modellen auf der H200 NVL erklärt. Wir liefern diesen Server mit der Aufteilung, die Ihr Modell braucht; schicken Sie uns Modell, Kontextlänge und die Höchstzahl gleichzeitig laufender Anfragen, und unser Team antwortet mit einer Konfiguration und den Gesprächen je Aufteilung.

Zwei H200 NVL oder zwei RTX PRO 6000 Server Edition

Unser Einstiegsserver mit zwei RTX PRO 6000 Blackwell Server Edition ist die andere Variante mit zwei Karten. Er hat 192 GB über PCIe ohne NVLink und dazu FP4-Tensor-Cores; das H200-Paar hat 282 GB, die dreifache Speicherbandbreite je Karte und NVLink.

NVIDIA-Produktseiten; Gespräche mit 8K und FP8-Cache nach unserer Regel für Nutzer je Karte; Werte der Server Edition aus unserem Leitfaden zum Server mit vier RTX PRO 6000 Server Edition.

Das Paar mit Server Edition passt zu NVFP4-Modellen, Grafik-vGPU und gemischten Arbeitslasten, wie unsere Seite Server mit 2× RTX PRO 6000 Server Edition kaufen beschreibt. Das H200-Paar passt zu FP8-Modellen von 70B bis 235B mit vielen Nutzern, zu LoRA-Fine-Tuning und zu FP64-Arbeit, wie unser Vergleich RTX PRO 6000 vs. H200 NVL erklärt.

Strom und Raum

NVIDIAs Product Brief gibt jeder Karte 600 W als Voreinstellung und 200 W als Minimum, mit einem 16-Pin-Anschluss, und nennt für die passiv gekühlte Karte 10 bis 45 °C Umgebungs­temperatur. Nach unserer Schätzung brauchen zwei Karten mit 600 W und zwei AMD EPYC 9355 zu je 280 W rund 2,0 kW an der Steckdose: 1,76 kW für Karten und Prozessoren und 15 Prozent für Arbeitsspeicher, Laufwerke, Netzwerkkarten, Lüfter und Wandlungsverluste. Das liegt innerhalb der 2,94 kW, die wir je einphasigem 230-V-Anschluss mit 16 A bei 80 Prozent einplanen; mit redundanten Netzteilen an A- und B-Einspeisung trägt also ein solcher Anschluss je Seite den Server.

• Steckdosen. HPE lässt für die Netzteile mit 2.400 und 3.200 W, die der DL380a Gen12 mit der H200 NVL braucht, nur C19- oder C19-C20-Kabel zu; prüfen Sie, ob die PDU im Rack C19-Ausgänge hat.
• Kühlung. Rund 2,0 kW Wärme brauchen bei 11 °C Temperaturanstieg etwa 320 CFM Luft, nach unserem Leitfaden GPU-Rack: Strom und Kühlung, und der Serverhersteller legt die Grenze für die Zuluft je Konfiguration fest.
• Raum. Unter Volllast gehört der Server in einen Serverraum oder ein Rechenzentrum, wie unser Leitfaden GPU-Server im Büro erklärt.

Wir prüfen Rack, Anschluss und Luftstrom, bevor wir ein Angebot machen; nennen Sie uns Anschlussart und Zulufttemperatur am Rackplatz, und wir wählen das Gehäuse passend dazu.

Software und das enthaltene NVIDIA AI Enterprise

Auf Wunsch kommt der Server mit installiertem Betriebssystem, NVIDIA-Treiber, CUDA und einer Container-Laufzeit, mit geprüfter Brücke und eingerichtetem MIG, falls Sie es planen; jede Karte lässt sich in bis zu sieben Instanzen 1g.18gb aufteilen, wie unsere H200 NVL MIG-Profile zeigen. NVIDIAs Product Brief verlangt den Treiber R565 TRD1 oder neuer. Stand Oktober 2026 ist R580 NVIDIAs Zweig mit Langzeitsupport bis Juni 2028, und NVIDIAs Security Bulletin vom 30. September 2026 nennt 580.178.04 und 595.91.07 als Treiber mit den Korrekturen.

NVIDIAs Licensing Guide, aktualisiert am 2. September 2026, hält fest: „Each NVIDIA H200 NVL Tensor Core GPU includes a five-year NVIDIA AI Enterprise subscription“. Die Laufzeit beginnt 90 Tage nach dem Versanddatum der Karte an den Serverhersteller, lässt sich nicht ändern und wird mit der Seriennummer der GPU auf dem System aktiviert, in dem die Karten stecken, wie unser Artikel NVIDIA AI Enterprise aktivieren zeigt. Sie umfasst NIM und vGPU für Compute (C-Serie); eine Grafik-vGPU hat die H200 NVL nicht, und Open-Source-Engines wie vLLM laufen ohne das Abonnement. Modelle, RAG und die Plattform darüber sind unser Service Private AI/ML.

So läuft die Bestellung

1. Sie beschreiben die Arbeitslast: Modelle, Nutzer, Daten, Rack und Zeitplan. Die Auslegung ist kostenlos.
2. Wir schlagen die Konfiguration vor und prüfen, ob Karten, Brücke, Gehäuse, Netzteile und Kühlung zu Ihrem Rack und Anschluss passen.
3. Sie erhalten innerhalb eines Werktages ein schriftliches Angebot mit Preis, Lieferzeit und Garantiebedingungen je Komponente. Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt.
4. Sie bestellen mit einem EU-Vertrag und erhalten eine EU-Rechnung von Eurokommerz in Wien.
5. Der Server wird vor der Lieferung montiert und getestet, mit einem Einschalt- und Lasttest.
6. Wir liefern in die gesamte EU, auf Wunsch mit Inbetriebnahme vor Ort; andere Ziele auf Anfrage über unseren Logistikpartner.
7. Jede Komponente hat die Herstellergarantie, abgewickelt über uns; DOA-Geräte werden ersetzt, und für die Montage stehen wir selbst ein.

Für ein Angebot senden Sie uns die Modelle mit Genauigkeit und Kontextlänge, die Höchstzahl gleichzeitig laufender Anfragen oder die Zahl der Nutzer, geplantes Fine-Tuning oder FP64-Arbeit, die Softwareplattform, den Rackplatz mit seinem Anschluss und ob der Server auf vier oder acht Karten wachsen soll. Karten und Brücke liefern wir auch einzeln für einen Server, den Sie schon betreiben, nach den Prüfungen aus unserer Checkliste für eine H200 NVL im vorhandenen Server. Unser Leitfaden GPU-Server Burn-in und Abnahmetest zeigt, wie Sie bei der Lieferung Ihren eigenen Abnahmetest durchführen.

Was wir liefern

Wir liefern den Server mit zwei NVIDIA H200 NVL und ihrer 2-Wege-NVLink-Brücke in 2U oder 4U, dazu Versionen mit vier und acht Karten sowie Karten und Brücken der H200 NVL für Server, die Sie schon betreiben. Das Abonnement für NVIDIA AI Enterprise über fünf Jahre kommt mit jeder Karte, und weitere Lizenzen für NVIDIA AI Enterprise stehen im selben EU-Vertrag und auf derselben Rechnung wie die Hardware.

FAQ