H200 NVL, geliefert in Europa
Dasselbe Rechen-Silizium wie die H100 NVL in bestehenden Umgebungen. Der Unterschied liegt im Speicher, in den schnelleren NVLink-Bridges und im Power-Limit von 600 statt 400 W, und ob sich ein Upgrade lohnt, hängt davon ab, wie speichergebunden Ihre Last ist.
- EU-Vertrag und Rechnung
- Lizenzen gemeinsam mit der Hardware
- Engineering, wenn Sie es wollen
- Garantie und Support
Die Karte, die Bridges und die Lizenz
Gegenüber der H100 NVL bringt das Upgrade Speicher, keine Rechenleistung. In den Tests von Baseten auf SXM-Systemen reichte der Gewinn je nach Last von null bis 3,4×. Das sollten Sie vor der Bestellung wissen.
| Karte | Speicher | Bandbreite | Anmerkung |
|---|---|---|---|
| H200 NVL | 141 GB HBM3e | 4,8 TB/s | Sechs HBM-Stapel. Wenn das Modell nicht mehr in 94 GB passt, ist das das ganze Argument. |
| H100 NVL (Bestand) | 94 GB HBM3 | 3,9 TB/s | Zum Vergleich, nicht von uns geliefert: die Karte in bestehenden Umgebungen, immer noch breiter als H100 SXM mit 3,35 TB/s. Laut der End-of-Life-Mitteilung eines Händlers war der letzte Bestelltermin (Last Time Buy) für die H100 NVL der 1. November 2025. |
| NVLink-Bridges | k. A. | k. A. | 2- oder 4-Wege-Bridges mit 900 GB/s pro GPU, bei der H100 NVL nur Paare mit 600 GB/s: der größte Generationsunterschied, sobald ein Modell über mehrere Karten verteilt ist. |
| NVIDIA AI Enterprise | k. A. | k. A. | Ein Fünf-Jahres-Abonnement ist bei jeder Karte enthalten; NVIDIA zählt die fünf Jahre ab der Auslieferung der Karte an den OEM plus 90 Tage, nicht ab der Aktivierung. |
Die H200 NVL und ihre NVLink-Bridges sind auf Bestellung verfügbar; Mengen und Lieferzeit werden schriftlich mit dem Angebot bestätigt.
Nur Karten sind ein guter Auftrag
Sie brauchen kein Projekt und keinen Engineering-Vertrag, um bei uns zu kaufen. Eine H200 NVL, damit ein vorhandener Server den fehlenden Speicher bekommt, oder gleich vier über Brücken verbunden: Wir bieten genau das an, was Sie anfragen, fakturiert in der EU, Mengen und Lieferzeit schriftlich mit dem Angebot bestätigt.
Nicht nur ein Karton auf der Palette
Ein Vertragspartner in Wien. Kein grenzüberschreitender Einkauf, kein Import, den Sie selbst abwickeln.
Wenn eine Karte eine Lizenz braucht, um das zu tun, wofür Sie sie gekauft haben, steht sie im Angebot, und fällt nicht erst nach drei Monaten auf.
Unser Partner Vixen.UNO plant, implementiert und betreut. Unter demselben Vertrag, oder gar nicht. Ihre Entscheidung.
Herstellergarantie läuft über uns, Support gemeinsam mit dem Team, das das System betreibt.
Welche passt zu Ihnen
Nach den TensorRT-LLM-Optimierungen stellt NVIDIAs Technik-Blog vom März 2024 fest, dass Llama 2 70B auf H200 durch die Rechenleistung begrenzt wird, nicht durch die Speicherbandbreite. Hat Ihre Last diese Form, bringen die zusätzlichen 47 GB Kapazität, aber kaum Tempo.
Zur vollständigen Analyse →Die lauteste Zahl in H200-Material ist 110× bei HPC. Die Fußnote verrät: vier GPUs gegen zwei Sapphire-Rapids-8480-Prozessoren. Ein Vergleich mit CPUs, nicht mit H100. In einem anderen Diagramm lief H100 mit Batch 8 und H200 mit Batch 32.
Zur vollständigen Analyse →Ein 70B in FP16 mit 128K Kontext sind 131 GiB Gewichte plus 40 GiB Cache, etwa 171 GiB für einen einzigen Nutzer. Das Gegenintuitive: Ein 7B mit Multi-Head-Attention verbraucht 512 KiB pro Token, ein 70B mit Grouped-Query-Attention nur 320 KiB.
Zur vollständigen Analyse →H200 NVL, kurz gefasst
H200 NVL, oder reicht unsere H100 NVL?
Warum hat die H200 NVL 141 GB und keine runde Zahl?
Brauche ich die NVLink-Bridges?
Ist die AI-Enterprise-Lizenz enthalten?
Liefern Sie auch den Server?
Aus unserem Engineering-Blog
141 gegen 94 GB, 4,8 gegen 3,9 TB/s, identische Rechenwerte: wann sich das Upgrade rechnet und wann eine vorhandene H100 NVL reicht.
Artikel lesen →Die Formeln für Gewichte, KV-Cache und den Overhead der Laufzeitumgebung.
Artikel lesen →Was vor der Lieferung zu prüfen ist: die vier Dinge, die eine Lieferung stoppen.
Artikel lesen →Preis und Verfügbarkeit anfragen
Wir antworten innerhalb eines Werktages