Server mit 4× NVIDIA H200 NVL in Europa kaufen: 564 GB in einer NVLink-Domäne

Für wen ein Server mit vier H200 NVL passt

Einen Server mit vier NVIDIA H200 NVL können Sie bei uns kaufen, auf Bestellung gebaut und in die gesamte EU geliefert. Unter unseren KI-Servern ist er die Variante mit vier Karten: vier Karten mit je 141 GB HBM3e an NVLink-Brücken, zwei AMD-EPYC-Prozessoren, rund 1,1 TB DDR5 mit ECC und vier NVMe-Laufwerke. Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages.

Vier H200 NVL passen zu einer Organisation, die je Modell mehr Speicher braucht, als PCIe-Karten bieten. Eine Bank oder Versicherung mit einem 70B-Modell für mehrere hundert gleichzeitige Anfragen, ein Forschungsinstitut mit einem Modell der 400B-Klasse in FP8 oder ein Team, das ein 70B-Modell mit LoRA feinabstimmt, ist mit dieser Größe gut bedient. Die 4-Wege-Brücke verbindet die vier Karten zu einer NVLink-Domäne mit 564 GB, der größten, die eine Brücke der H200 NVL erlaubt. Für ein Pilotprojekt oder ein Modell bis 235B Parameter genügen zwei Karten mit einer 2-Wege-Brücke, wie unsere Seite Server mit 2× H200 NVL kaufen beschreibt. Modelle mit mehr als rund 490 GiB Gewichten, etwa DeepSeek-V3.2 in FP8, brauchen unseren Trainingsknoten mit acht H200 NVL.

Ausstattung und Optionen

Die Tabelle zeigt die Konfiguration mit vier Karten, von der wir ausgehen, und was wir je Projekt anpassen.

Unsere Seite zu KI-Servern; NVIDIAs Referenzarchitektur für NVIDIA AI Enterprise (Kerne, Mindestspeicher, NVMe, Netzwerk) und Konfigurations­leitfaden für NVIDIA-Certified Systems (30. September 2026); HPE QuickSpecs DL380a Gen12 und Cisco Spec Sheet UCS C845A M8 A.11 für Netzteile und Arbeitsspeicher, gelesen am 24. Oktober 2026.

Den Arbeitsspeicher legen wir nach NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems aus: mindestens zwei Sockel, sechs physische Kerne je GPU und mindestens doppelt so viel Arbeitsspeicher wie GPU-Speicher, für vier Karten also 1.128 GB. Zwei EPYC-9005-Prozessoren haben 24 Speicherkanäle, und 24 Module zu 48 GB ergeben 1.152 GB, ein Modul je Kanal. NVIDIAs Referenzarchitektur für AI Enterprise setzt niedrigere Untergrenzen und strengere Kernzahlen: 128 GB je GPU, sieben Kerne je GPU, dazu zwei je GPU für das Betriebssystem und zwei je MIG-Instanz; das ergibt 36 Kerne oder 92 mit allen 28 MIG-Instanzen. Unser Leitfaden CPU, RAM und Storage für einen KI-Server mit 4 GPUs erklärt jede Stufe.

Varianten: Brücken, Arbeitsspeicher und Platz für acht

Drei Entscheidungen ändern die Konfiguration.

• Brücken. Mit einer 4-Wege-Brücke nutzt eine Kopie eines Modells alle 561,6 GiB, die der Treiber meldet, mit TP=4 über NVLink. Zwei 2-Wege-Brücken ergeben zwei Paare, jedes unter einem Prozessor, wie NVIDIAs Product Brief es empfiehlt; sie passen zu zwei Modellen oder zwei Kopien. Cisco führt für vier Karten im UCS C845A M8 beide Varianten, HPE nennt die 2-Wege- und die 4-Wege-Brücke für den ProLiant Compute DL380a Gen12, und Dells technischer Leitfaden zum PowerEdge XE7740 nutzt für vier Karten eine 4-Wege-Brücke. Unser Artikel zur H200 NVL NVLink-Brücke mit 2 oder 4 Wegen vergleicht sie.
• Arbeitsspeicher. 1.152 GB reichen für den Betrieb der Modelle. Cisco empfiehlt für vier H200 NVL 2.048 GB, mindestens das Dreifache des HBM; das lohnt sich für Fine-Tuning mit CPU-Offload oder einen KV-Cache, der in den Arbeitsspeicher ausweicht.
• Platz für acht. Ein 4U-Gehäuse für acht Karten erlaubt, später vier Karten und einen zweiten Brückensatz nachzurüsten. HPE verlangt fünf Netzteile zu 2.400 oder 3.200 W für zwei oder vier doppelt breite GPUs und acht für acht, und Dell führt 512 GB und 1 TB Arbeitsspeicher mit acht H200 NVL im XE7740 als nicht validiert; Netzteile und Speichersteckplätze werden also von Anfang an eingeplant, wie unser Leitfaden GPU später nachrüsten zeigt.

Es gibt auch ein 2U-Gehäuse: Supermicros SYS-212GB-NR mit einem Sockel nimmt bis zu vier doppelt breite Karten auf, darunter die H200 NVL. Seine Optionsliste zeigt einen GPU-Einschub für zwei Karten mit NVLink, und NVIDIAs Leitfaden für zertifizierte Systeme verlangt zwei Sockel; für vier H200 NVL empfehlen wir deshalb 4U. Unser Vergleich 2U oder 4U für vier Karten behandelt den allgemeinen Fall.

Was der Server leistet

Nach unserer Regel für Nutzer je Karte, 0,9 × 140,4 GiB − 3 GiB je Karte, halten die vier Karten 493,4 GiB Gewichte und KV-Cache. Die Tabelle nennt fünf Beispiele; unser Leitfaden Server mit 4× H200 NVL: 564 GB, Modelle, Nutzer hat die vollständige Modellliste, jede Aufteilung und die Rechnung.

Unsere Schätzung nach der Regel für Nutzer je Karte: gleichzeitige Gespräche in voller Kontextlänge, FP8-KV-Cache für Llama 3.3 70B und Qwen3-235B, 16 Bit für gpt-oss-120b.

Gezählt sind Anfragen, die im selben Moment laufen; das Log eines Gateways zeigt diese Zahl zur Hauptlastzeit, und die Zahl der Beschäftigten, die den Dienst nutzen, ist weit größer. Die H200 NVL hat keine FP4-Arithmetik, deshalb werden Modelle in FP8 oder INT4 ausgelegt. Wir liefern den Server in jeder genannten Aufteilung; schicken Sie uns Ihre Modelle und die Höchstzahl gleichzeitig laufender Anfragen, und unser Team antwortet mit einer Konfiguration und den Gesprächen je Aufteilung.

Strom, Kühlung und der Rackplatz

NVIDIAs Product Brief gibt jeder Karte 600 W als Voreinstellung und 200 W als Minimum, mit einem 16-Pin-Anschluss. Nach unserer Schätzung brauchen vier Karten mit 600 W und zwei AMD EPYC 9355 zu je 280 W rund 3,4 kW an der Steckdose, mit auf 450 W begrenzten Karten rund 2,7 kW. Einen einphasigen 230-V-Anschluss mit 16 A planen wir mit 80 Prozent ein, also 2,94 kW; der Server mit voller Leistung braucht deshalb einen einphasigen Rackplatz mit 32 A (5,89 kW geplant) oder einen Drehstromanschluss mit 400 V. Mit redundanten Netzteilen an einer A- und einer B-Einspeisung trägt jede Seite den ganzen Server.

• Steckdosen. HPE lässt für die Netzteile mit 2.400 und 3.200 W, die der DL380a Gen12 mit der H200 NVL braucht, nur C19- oder C19-C20-Kabel zu; prüfen Sie also, ob die PDU im Rack C19-Ausgänge hat.
• Kühlung. Die Karte ist passiv gekühlt und bezieht ihre Luft von den Lüftern des Servers; NVIDIA gibt 10 bis 45 °C Umgebungs­temperatur an. Rund 3,4 kW Wärme brauchen bei 11 °C Temperaturanstieg etwa 540 CFM, nach unserem Leitfaden GPU-Rack: Strom und Kühlung. Die Serverhersteller legen eigene Grenzen für die Zuluft fest: Dell nennt 30 °C für acht H200 NVL im XE7740.
• Raum. Ein Server mit vier Karten unter Volllast gehört in einen Serverraum oder ein Rechenzentrum, wie unser Leitfaden GPU-Server im Büro erklärt.

Wir prüfen Rack, Anschluss und Luftstrom, bevor wir ein Angebot machen; nennen Sie uns Anschlussart, A/B-Anforderung und Zulufttemperatur am Rackplatz, und wir wählen Gehäuse und Leistungsmodus passend dazu.

Software und das enthaltene NVIDIA AI Enterprise

Auf Wunsch kommt der Server mit installiertem Betriebssystem, NVIDIA-Treiber, CUDA und einer Container-Laufzeit, sodass Ihr Team am ersten Tag eine Serving-Engine starten kann.

Unsere Seite zu KI-Servern; Mindestversion des Treibers „R565 TRD1 or later“ aus NVIDIAs Product Brief PB-12128-001_v01; MIG aus NVIDIAs MIG-Handbuch (13. Oktober 2026).

NVIDIAs Licensing Guide, aktualisiert am 2. September 2026, hält fest: „Each NVIDIA H200 NVL Tensor Core GPU includes a five-year NVIDIA AI Enterprise subscription“. Die Laufzeit beginnt 90 Tage nach dem Versanddatum der Karte an den Serverhersteller, lässt sich nicht ändern und wird mit der Seriennummer der GPU auf dem System aktiviert, in dem die Karten stecken; unser Artikel NVIDIA AI Enterprise aktivieren zeigt die Schritte. Sie umfasst NIM und vGPU für Compute (C-Serie); eine Grafik-vGPU hat die H200 NVL nicht. Open-Source-Engines wie vLLM laufen ohne sie. Stand Oktober 2026 ist R580 NVIDIAs Treiberzweig mit Langzeitsupport bis Juni 2028, und NVIDIAs Security Bulletin vom 30. September 2026 nennt 580.178.04 und 595.91.07 als Treiber mit den Korrekturen. Modelle, RAG und die Plattform darüber sind ein eigener Service, Private AI/ML.

Bestellung, Test und Garantie

Die Bestellung läuft für einen Server oder mehrere in denselben Schritten.

1. Sie beschreiben die Arbeitslast: Modelle, Nutzer, Daten, Rack und Zeitplan. Die Auslegung ist kostenlos.
2. Wir schlagen die Konfiguration mit der Brückenaufteilung vor und prüfen, ob Karten, Gehäuse, Netzteile und Kühlung zu Ihrem Rack und Anschluss passen.
3. Sie erhalten innerhalb eines Werktages ein schriftliches Angebot mit Preis, Lieferzeit und Garantiebedingungen je Komponente. Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt.
4. Sie bestellen mit einem EU-Vertrag und erhalten eine EU-Rechnung von Eurokommerz in Wien.
5. Der Server wird vor der Lieferung montiert und getestet, mit einem Einschalt- und Lasttest.
6. Wir liefern in die gesamte EU, auf Wunsch mit Inbetriebnahme vor Ort; andere Ziele auf Anfrage über unseren Logistikpartner.
7. Jede Komponente hat die Herstellergarantie, abgewickelt über uns; DOA-Geräte werden ersetzt, und für die Montage stehen wir selbst ein.

Karten und Brücken liefern wir auch einzeln für einen Server, den Sie schon betreiben, nach einer Prüfung von Plattform, Strom und Kühlung; unsere Checkliste für eine H200 NVL im vorhandenen Server nennt die Punkte. Für Ihren eigenen Abnahmetest bei der Lieferung nutzen Sie unseren Leitfaden GPU-Server Burn-in und Abnahmetest, und um Angebote Position für Position zu vergleichen, unseren Leitfaden GPU-Server-Angebote vergleichen.

Angaben für das Angebot

Für den Anfang genügt eine kurze Beschreibung; mit diesen Punkten können wir schon in der ersten Antwort die genaue Konfiguration anbieten.

• Die Modelle, die Sie betreiben wollen, mit Genauigkeit (FP8 oder INT4) und der Kontextlänge, die Sie deklarieren
• Die Höchstzahl gleichzeitig laufender Anfragen oder die Zahl der Nutzer und wie sie arbeiten
• Pläne für Fine-Tuning: Verfahren, Modellgröße und Datensatz
• Ein Modell über vier Karten oder mehrere Modelle oder Kopien; davon hängt der Brückensatz ab
• Die Softwareplattform: Bare Metal, Kubernetes oder vSphere, mit Version
• Den Rackplatz: freie Höheneinheiten, Anschlussart und Stromstärke, A/B-Einspeisung, Ausgänge der PDU und Zulufttemperatur
• Ob der Server auf acht Karten wachsen soll, Lieferort, rechnungsempfangende Gesellschaft und Zeitplan; für eine Ausschreibung helfen unsere technischen Anforderungen für eine GPU-Server-Ausschreibung bei der Formulierung

Senden Sie diese Punkte mit dem Formular unten, und unser Team antwortet innerhalb eines Werktages mit einer Konfiguration und einem schriftlichen Angebot.

Was wir liefern

Wir liefern den Server mit vier NVIDIA H200 NVL und ihren NVLink-Brücken in 4U, mit einer 4-Wege-Brücke oder zwei 2-Wege-Brücken, dazu Versionen mit zwei und acht Karten sowie Karten und Brücken der H200 NVL für Server, die Sie schon betreiben. Das Abonnement für NVIDIA AI Enterprise über fünf Jahre kommt mit jeder Karte, und weitere Lizenzen für NVIDIA AI Enterprise stehen im selben EU-Vertrag und auf derselben Rechnung wie die Hardware.

FAQ