Server mit 8× NVIDIA H200 NVL und NVLink-Brücken in Europa kaufen

Für wen sich der Trainingsknoten mit acht Karten eignet

Einen Server mit acht NVIDIA H200 NVL und zwei 4-Wege-NVLink-Brücken können Sie bei uns kaufen, auf Bestellung gebaut und in die gesamte EU geliefert. Er ist der Trainingsknoten unter unseren KI-Servern: acht Karten zu 141 GB in zwei NVLink-Domänen zu je vier, zwei AMD-EPYC-Prozessoren, 2,3 TB DDR5 mit ECC, acht NVMe-Laufwerke und 400G-Netzwerk. Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages.

Der Knoten passt zu einem Unternehmen oder Forschungsinstitut, das eigene Modelle trainiert und per Fine-Tuning anpasst oder Modelle betreibt, die für vier Karten zu groß sind. Typische Aufgaben sind LoRA auf 70B-Modellen, vollständiges Fine-Tuning bis etwa 32B, der Betrieb von DeepSeek-V3.2 oder GLM-5.3 in FP8 und eine gemeinsame Plattform, auf der bis zu 56 MIG-Instanzen Entwicklungsteams neben dem produktiven Betrieb bedienen. Die H200 NVL rechnet laut NVIDIA außerdem 30 TFLOPS in FP64 und 60 auf ihren Tensor Cores, was für Simulationscodes zählt. Für reine Inferenz mit Modellen der 70B-Klasse brauchen vier Karten oder unser Inferenzknoten mit RTX PRO 6000 Server Edition weniger Strom und Platz im Rack.

Was die Konfiguration enthält

Die Tabelle zeigt die Referenzkonfiguration und was wir je Projekt anpassen.

Unsere Seite zu KI-Servern; Referenzarchitektur von NVIDIA AI Enterprise (Compute-Knoten, 2-8-5) für Kerne, Arbeitsspeicher je GPU, NVMe und Netzwerkadapter; NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems (30. September 2026); Dells Technical Guide zum XE7740 (Rev. A04) und Ciscos Spec Sheet zum C845A M8 (Rev. A.11) für die Netzteile, gelesen am 24. Oktober 2026.

Der Arbeitsspeicher folgt NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems, also mindestens doppelt so viel wie der GPU-Speicher: 2 × 1.128 GB sind 2.256 GB, und 24 Module zu 96 GB ergeben 2.304 GB mit einem Modul auf jedem der 24 Kanäle zweier EPYC-9005-Prozessoren. Die Regeln der Hersteller weichen davon ab. NVIDIAs Referenzarchitektur verlangt mindestens 128 GB je GPU, also 1 TB für acht; Dell führt 512 GB und 1 TB für acht H200 NVL im XE7740 als nicht validiert; Cisco empfiehlt für seinen C845A M8 mindestens das Dreifache des HBM, 4.096 GB. Außerdem verlangt NVIDIAs Referenzarchitektur mindestens sieben Kerne je GPU plus zwei je GPU für das Betriebssystem, für acht Karten also 72; zwei EPYC 9555 mit je 64 Kernen kommen zum Beispiel auf 128.

Zwei 4-Wege-Brücken und die Belegung der Steckplätze

Eine Brücke der H200 NVL verbindet zwei oder vier Karten, nie acht. Dells Technical Guide schreibt „for eight DW H200 GPU cards, two bridges are required“, und Ciscos Spec Sheet verlangt, dass jede Brücke voll bestückt ist. Der Server hat deshalb zwei NVLink-Domänen zu vier Karten mit 900 GB/s je GPU innerhalb einer Domäne, verbunden über PCIe 5.0. NVIDIAs Referenzarchitektur empfiehlt, verbrückte Karten unter denselben Prozessor zu setzen, und Dell nennt eine Brücke über beide Prozessoren möglich, aber nicht empfohlen. Die Brücken werden so eingesetzt, dass jede Domäne unter einem Prozessor liegt, soweit die Steckplatzbelegung des Gehäuseherstellers das zulässt, und der Server kommt mit eingebauten Brücken; Dell etwa schreibt zum Ausbau zwei Werkzeuge je Brücke vor. Welche Server wie viele Karten mit welchen Brücken und Netzteilen aufnehmen, listet unser Leitfaden H200-NVL-kompatible Server.

Varianten: Arbeitsspeicher, Prozessoren, Netzwerk und Ausbau

• Arbeitsspeicher. 2,3 TB reichen für Training mit LoRA und für den Betrieb von Modellen. Vollständiges Fine-Tuning eines 70B-Modells mit CPU-Offload legt rund 847 GB Optimiererzustände in den Arbeitsspeicher, und in den Host ausgelagerte Prefix-Caches wachsen schnell; für solche Aufgaben sind 4 TB vorgesehen.
• Prozessoren. MIG kostet in NVIDIAs Referenzarchitektur zwei Kerne je Instanz; ein Server mit 56 Instanzen braucht nach dieser Regel über 180 Kerne, deshalb wählen wir größere Prozessoren, wenn MIG zum Plan gehört.
• Netzwerk. Ein 400G-Adapter genügt für einen einzelnen Knoten mit schnellem Speichersystem. Für einen Cluster sieht NVIDIAs Referenzarchitektur je zwei GPUs eine 400G-SuperNIC vor, vier je Server, dazu eine BlueField-3-DPU.
• Zuerst vier Karten. Ein Server kann mit vier Karten an einer 4-Wege-Brücke beginnen, in einem Gehäuse mit Netzteilen und Steckplätzen für acht, und die zweite Domäne später erhalten; unser Leitfaden GPU später nachrüsten erklärt, was dafür von Anfang an zu wählen ist.
• Leistungsmodus. Die Leistung der Karte lässt sich unter 600 W einstellen; auf 450 W begrenzt, braucht der Server nach unserer Schätzung rund 5,0 kW, wie H200 NVL mit 450 W erklärt.

Was der Server leistet

Nach unserer Regel für Nutzer je Karte, 0,9 × 140,4 GiB − 3 GiB je Karte, halten die acht Karten 986,9 GiB Gewichte und KV-Cache, 493,4 GiB je NVLink-Domäne. Die Tabelle nennt Beispiele; unser Leitfaden Server mit 8× H200 NVL: Modelle, Nutzer, NVLink hat jede Aufteilung, die Grenzen beim Fine-Tuning und die Rechnung.

Unsere Schätzung nach der Regel für Nutzer je Karte: gleichzeitige Gespräche in voller Kontextlänge, FP8-KV-Cache für Llama 3.3 70B und GLM-5.3, 16 Bit für die anderen; GLM-5.3 und DeepSeek-V3.2 aus unseren Modell-Leitfäden.

Gezählt sind Anfragen, die im selben Moment laufen; die Logs Ihres Gateways zeigen diese Zahl zur Hauptlastzeit. Wir liefern den Server in jeder der genannten Varianten; schicken Sie uns Ihre Modelle, Trainingsjobs und die Höchstzahl gleichzeitig laufender Anfragen, und unser Team antwortet mit einer Konfiguration und den Werten je Aufteilung.

NVIDIA AI Enterprise für fünf Jahre mit jeder Karte

NVIDIAs Licensing Guide, aktualisiert am 2. September 2026, hält fest: „Each NVIDIA H200 NVL Tensor Core GPU includes a five-year NVIDIA AI Enterprise subscription.“ Acht Karten bringen also acht Abonnements mit, und für NVIDIAs KI-Software auf diesem Server ist während der Laufzeit keine eigene Lizenz nötig. Drei Einzelheiten aus demselben Guide sind für die Planung wichtig.

• Startdatum. Die Laufzeit beginnt mit „the ship date of the GPU board to the OEM partner, plus 90 days“ und „cannot be modified, as it is tied to the specific card“. Sie wartet nicht auf die Aktivierung.
• Aktivierung. Das Abonnement wird mit der Seriennummer der Karte aktiviert; unser Leitfaden NVIDIA AI Enterprise aktivieren zeigt die Schritte.
• Wo es läuft. Die Software „can be installed on the NVIDIA Certified Systems in which the GPUs are installed, but not on a different server or instance“. Nach fünf Jahren muss das Abonnement verlängert werden, damit es aktiv bleibt.

Das Abonnement deckt NIM-Microservices, den Support von NVIDIA und Compute-vGPU ab, die NVIDIA nur über AI Enterprise lizenziert. Open-Source-Engines wie vLLM und SGLang laufen auf Bare Metal ohne Abonnement. Wir weisen die Abonnements mit den Karten im Angebot aus, sodass die Laufzeit vor der Bestellung sichtbar ist; unsere Seite zu NVIDIA AI Enterprise erklärt die Lizenzarten.

Strom und Raum

Nach unserer Schätzung brauchen acht Karten mit 600 W und zwei AMD EPYC 9555 zu je 360 W rund 6,3 kW an der Steckdose, mit auf 450 W begrenzten Karten rund 5,0 kW; eine Messung am gelieferten System bestätigt den Wert. Einen einphasigen 230-V-Anschluss mit 32 A planen wir mit 80 Prozent ein, also 5,89 kW; der Server mit voller Leistung braucht deshalb einen Drehstromanschluss mit 400 V (8,87 kW geplant bei 16 A). Mit redundanten Netzteilen an einer A- und einer B-Einspeisung trägt jede Seite den ganzen Server.

• Netzteile und Steckdosen. Dells XE7740 nutzt für die GPU-Zone sechs Netzteile in 3+3 und gibt sein 3.200-W-Netzteil zwischen 200 und 220 V mit 2.900 W an; HPE verlangt im DL380a Gen12 für acht doppelt breite GPUs acht Netzteile mit 2.400 oder 3.200 W und lässt nur C19- oder C19-C20-Kabel zu. Prüfen Sie, ob die PDU im Rack genug C19-Ausgänge hat.
• Kühlung. Rund 6,3 kW Wärme brauchen bei 11 °C Temperaturanstieg etwa 1.000 CFM Luft, nach den 160 CFM je kW aus unserem Leitfaden GPU-Rack: Strom und Kühlung. Dell legt die Grenze für die Zuluft bei acht H200 NVL im XE7740 auf 30 °C fest, gegenüber 35 °C für andere Karten.
• Gewicht und Raum. Cisco gibt für seinen C845A M8 (4RU) 55 kg an; planen Sie für den Einbau zwei Personen oder einen Lift. Ein Server dieser Klasse gehört in ein Rechenzentrum oder einen Serverraum mit Drehstrom.

Software bei Lieferung

Auf Wunsch kommt der Server mit installiertem Betriebssystem, NVIDIA-Treiber, CUDA und einer Container-Laufzeit, sodass Ihr Team am ersten Tag ein Training oder eine Serving-Engine starten kann.

Unsere Seite zu KI-Servern; Mindestversion des Treibers aus NVIDIAs Product Brief PB-12128-001_v01 zur H200 NVL.

Stand Oktober 2026 liefert NVIDIA AI Enterprise 8.2 den R595-Treiber 595.91.07 für Rechenzentren, und R580 ist NVIDIAs Zweig mit Langzeitsupport bis Juni 2028; NVIDIAs Security Bulletin vom 30. September 2026 nennt 580.178.04 und 595.91.07 als Treiber mit den Korrekturen. Unser Artikel zu NVIDIA-Treiberzweigen und CUDA-Versionen erklärt die Wahl. Modelle, RAG und die Plattform darüber sind ein eigener Service, Private AI/ML.

So läuft die Bestellung bei uns

Die Bestellung läuft für einen Server oder mehrere in denselben Schritten.

1. Sie beschreiben die Arbeitslast: Modelle, Trainingsjobs, Nutzer, Daten, Rack und Zeitplan. Die Auslegung ist kostenlos.
2. Wir schlagen die Konfiguration vor und prüfen, ob Karten, Brücken, Gehäuse, Netzteile und Kühlung zu Ihrem Rack und Anschluss passen.
3. Sie erhalten innerhalb eines Werktages ein schriftliches Angebot mit Preis, Lieferzeit und Garantiebedingungen je Komponente. Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt.
4. Sie bestellen mit einem EU-Vertrag und erhalten eine EU-Rechnung von Eurokommerz in Wien; die mit den Karten enthaltenen Abonnements für AI Enterprise stehen im Angebot.
5. Der Server wird vor der Lieferung montiert und getestet, mit einem Einschalt- und Lasttest.
6. Wir liefern in die gesamte EU, auf Wunsch mit Inbetriebnahme vor Ort; andere Ziele auf Anfrage über unseren Logistikpartner.
7. Jede Komponente hat die Herstellergarantie, abgewickelt über uns; DOA-Geräte werden ersetzt, und für die Montage stehen wir selbst ein.

Wir bauen auch in Ihr eigenes Gehäuse oder mit Teilen, die Sie schon besitzen, nach einer Prüfung von Plattform, Strom und Kühlung. Für Ihren eigenen Abnahmetest bei der Lieferung nutzen Sie die Prüfungen aus unserem Leitfaden GPU-Server Burn-in und Abnahmetest.

Was wir für ein Angebot brauchen

Für den Anfang genügt eine kurze Beschreibung; mit diesen Punkten können wir schon in der ersten Antwort die genaue Konfiguration anbieten.

• Die Modelle, die Sie trainieren oder betreiben wollen, mit Genauigkeit, Kontextlänge und Methode (LoRA, QLoRA, vollständiges Fine-Tuning)
• Die Höchstzahl gleichzeitig laufender Anfragen im Betrieb oder die Zahl der Nutzer und Teams
• Ob ein Knoten genügt oder der Server Teil eines Clusters wird, und von welchem Speichersystem er die Daten liest
• Die Softwareplattform: Bare Metal, Kubernetes oder ein Hypervisor, mit Version
• Den Rackplatz: freie Höheneinheiten, Anschlussart und Stromstärke, A/B-Einspeisung, Ausgänge der PDU und Zulufttemperatur
• Lieferort, rechnungsempfangende Gesellschaft, Zeitplan und etwaige Vorgaben einer Ausschreibung, für deren Formulierung unsere technischen Anforderungen für eine GPU-Server-Ausschreibung helfen

Beschreiben Sie diese Punkte im Formular unten, und unser Team antwortet innerhalb eines Werktages mit einer Konfiguration und einem schriftlichen Angebot.

Was wir liefern

Wir liefern den Server mit acht NVIDIA H200 NVL und ihren NVLink-Brücken in 4U oder 5U, dazu Versionen mit zwei und vier Karten sowie die Karten und Brücken der H200 NVL für Server, die Sie schon betreiben. Jede Karte kommt mit ihrem Abonnement für NVIDIA AI Enterprise über fünf Jahre im selben EU-Vertrag und auf derselben Rechnung wie die Hardware.

FAQ