NVIDIA V100 ersetzen nach CUDA 13: H200 NVL oder RTX PRO Server Edition, je nach Aufgabe

Was CUDA 13 für die V100 geändert hat

Mit CUDA 13.0 endete die Weiterentwicklung für die NVIDIA V100: Die Release Notes halten fest, dass „offline compilation and library support for these architectures have been removed“, gemeint sind Maxwell, Pascal und Volta, und cuFFT und cuSPARSE unterstützen keine GPU vor Turing mehr. Ein V100-Server läuft mit CUDA 12.x und dem Treiber-Branch R580 bis Juni 2028 weiter. Der Ersatz hängt von der Aufgabe ab: die H200 NVL für Programme in doppelter Genauigkeit, die RTX PRO 6000 Blackwell Server Edition oder die RTX PRO 4500 Server Edition für KI-Arbeit.

Die Release Notes sagen auch, was weiter funktioniert: „The use of CUDA Toolkits through the 12.x series to build applications for these architectures will continue to be supported, but newer toolkits will be unable to target these architectures.“ Ein Forschungsteam kann seine V100-Knoten also mit CUDA-12-Containern weiter betreiben. Verloren geht der Anschluss an den übrigen Software-Stack, sobald dieser weiterentwickelt wird. TensorRT 11.4.0 „supports NVIDIA hardware with compute capability SM 7.5 or higher“, so die Support-Matrix vom 5. Oktober 2026. Die Installationsanleitung von vLLM nennt „compute capability 7.5 or higher“ als GPU-Voraussetzung. NVIDIAs Seite der CUDA-GPUs, gelesen am 24. Oktober 2026, führt die V100 gar nicht mehr.

Unsere Empfehlung auf Grundlage von NVIDIAs Datenblättern, Produktseiten und vGPU-Liste, gelesen am 24. Oktober 2026.

Wie lange ein V100-Server Support hat

Drei NVIDIA-Dokumente legen das Ende fest. Die Release Notes des Rechenzentrumstreibers 580.178.04 führen „NVIDIA V100“ noch unter den unterstützten Volta-Produkten, für Bare Metal und Virtualisierung; die des Treibers 595.91.07 nennen unter ihren unterstützten Produkten keine V100. NVIDIAs Treibertabelle, zuletzt aktualisiert am 9. September 2026, führt R580 als Long-Term-Support-Branch mit Lebensende im Juni 2028 und R595 als Production Branch bis März 2027. Ein V100-Server bleibt also bis Juni 2028 auf R580, mit dessen Sicherheitsupdates.

Für virtualisierte V100 setzt NVIDIAs Liste der von vGPU unterstützten GPUs, aktualisiert am 2. Oktober 2026, alle sechs V100-Varianten (SXM2 mit 16 und 32 GB, PCIe mit 16 und 32 GB, FHHL mit 16 GB und V100S PCIe) auf „Maintenance“, mit Branch 19 als letztem unterstützten vGPU-Release und Wartungsende im Juli 2028. Die V100 PCIe 32 GB ist mit letzter Auslieferung im Juni 2021 geführt.

Damit bleiben einem V100-Cluster ab Oktober 2026 rund zwanzig Monate mit unterstützten Treibern, auf einem bei CUDA 12 eingefrorenen Software-Stack. Unser Leitfaden zum Lebenszyklus eines GPU-Servers über fünf Jahre erklärt die Branch-Typen, und NVIDIA-Treiber-Branches und CUDA-Versionen behandelt Container, die ein neueres CUDA als der Treiber brauchen.

Die V100 und die Karten, die sie ersetzen

Datenblatt der NVIDIA V100 (Januar 2020); NVIDIA-Produktseite der H200, Product Brief SP-12355-001_v02 der RTX PRO 6000 Server Edition und Seite der RTX PRO 4500 Server Edition, wie in unseren FP64- und Datenblatt-Artikeln zitiert; Architektur-Whitepaper RTX Blackwell PRO v1.0 für das FP64-Verhältnis, die rund 1,9 TFLOPS sind unsere Rechnung aus 120 TFLOPS FP32. Gelesen am 24. Oktober 2026.

Das V100-Datenblatt nennt für die PCIe-Karte 250 W mit 7 TFLOPS FP64, 14 FP32 und 112 Tensor-Leistung, für das SXM2-Modul 300 W mit 7,8, 15,7 und 125 und für die spätere V100S PCIe 8,2, 16,4 und 130 bei 1.134 GB/s. Alle haben HBM2 mit ECC; die PCIe-Versionen sind mit PCIe Gen3 und 32 GB/s angebunden, das SXM2-Modul über NVLink mit 300 GB/s.

FP64-Programme: nur die H200 NVL ist schneller

Die V100 war eine vollwertige Karte für doppelte Genauigkeit, und hier wird die Wahl des Nachfolgers eng. Die H200 NVL rechnet laut NVIDIAs H200-Seite 30 TFLOPS in FP64, rund 3,8-mal so viel wie eine V100 SXM2, und 60 TFLOPS auf ihren FP64-Tensor-Cores für Matrixprodukte. Die RTX-PRO-Blackwell-Karten rechnen FP64 mit 1/64 ihrer FP32-Rate; laut NVIDIAs Whitepaper sind die wenigen FP64-Kerne vorhanden, „to ensure any programs with FP64 code operate correctly“. Eine RTX PRO 6000 Server Edition erreicht daher rund 1,9 TFLOPS in FP64, ein Viertel einer V100.

Ein Team, das VASP, Quantum ESPRESSO, einen CFD-Löser in doppelter Genauigkeit oder eigenen FP64-Code betreibt, wechselt auf die H200 NVL. Teams, deren Programme in gemischter oder einfacher Genauigkeit rechnen, GROMACS und AMBER in der Standardeinstellung, können die RTX PRO 6000 Server Edition mit ihren 120 TFLOPS FP32 nutzen. Unser Vergleich der FP64-GPU-Server listet die Programme mit ihrer Genauigkeit auf und behandelt die FP64-Emulation in cuBLAS auf Blackwell; unser Artikel zu GPU-Servern für CFD wendet das auf Fluent an.

Für Löser zählt die Bandbreite ebenso wie die FP64-Rate. Die H200 NVL liest ihren Speicher mit 4,8 TB/s, mehr als fünfmal so schnell wie die 900 GB/s der V100; ein speichergebundener Kernel gewinnt also auch dort, wo die FP64-Einheiten nicht die Grenze sind.

KI-Training und Inferenz: von 16 GB auf 96 oder 141 GB

Eine V100 trainiert in Mixed Precision mit FP16 auf ihren Tensor-Cores, und ihre 16 oder 32 GB begrenzen die Batchgröße und das größte Modell, das ein Job halten kann. Die Nachfolger bringen BF16 und FP8, die Blackwell-Karten zusätzlich FP4. Die FP8-Dokumentation von vLLM vom 24. September 2026 hält fest, dass FP8-Berechnung Compute Capability 8.9 oder höher voraussetzt; die H200 NVL (9.0) und die RTX-PRO-Blackwell-Karten (12.0) erfüllen das.

Auf dem Papier halbiert sich NVIDIAs Sparse-Angabe von 1.671 TFLOPS BF16 für die H200 NVL auf 835,5 TFLOPS ohne Sparsity, nach unserer Rechnung rund das 6,7-Fache der 125 TFLOPS einer V100 SXM2 in FP16. Datenblattwerte sind eine Obergrenze; welchen Gewinn ein Trainingsjob sieht, hängt davon ab, wie viel davon in Matrixprodukten läuft.

Für das Bereitstellen von Sprachmodellen fällt die V100 inzwischen aus den gängigen Engines heraus: vLLM verlangt Compute Capability 7.5. Auf den neuen Karten ergibt unsere Regel für Nutzer je Karte (90 Prozent des vom Treiber gemeldeten Speichers, abzüglich 3 GiB) 83,0 GiB je RTX PRO 6000 Server Edition und 123,4 GiB je H200 NVL für Gewichte und KV-Cache. Llama 3.3 70B in FP8 mit 67,7 GiB Gewichten passt auf eine Karte jedes der beiden Typen; in FP16 mit rund 141 GB Gewichten braucht es mindestens fünf V100 mit 32 GB, noch ohne Cache, denn FP8 läuft auf Volta nicht. Unser Leitfaden Wie viele Nutzer schafft eine RTX PRO 6000? enthält die Werte je Modell.

Für eine Abteilung, die Notebooks und kleine Trainingsjobs auf einzelnen V100 betrieben hat, bietet die RTX PRO 4500 Server Edition 32 GB bei 165 W in einem Slot, und MIG teilt sie in zwei Instanzen zu 16 GB. Ihre 800 GB/s liegen leicht unter den 900 GB/s der V100; ein bandbreitengebundener Job, der schon auf eine V100 passte, wird also kaum schneller, die Vorteile sind FP8, FP4 und geringere Leistungsaufnahme. Wir liefern alle drei Karten in Servern nach Auftrag; senden Sie uns die Programme, ihre Genauigkeit und typische Jobgrößen, und unser Team antwortet mit der Karte für jedes davon.

V100-SXM2-Server und NVLink

Systeme mit acht V100 SXM2 verbanden ihre GPUs über NVLink mit 300 GB/s je GPU, und Trainingsjobs, die dafür geschrieben wurden, erwarten ein schnelles All-Reduce. PCIe-Karten verhalten sich anders. Die H200 NVL verbindet zwei oder vier Karten über NVLink-Brücken mit 900 GB/s je GPU, ein Server mit acht H200 NVL bildet also zwei NVLink-Domänen zu je vier, wie unser Artikel zu den NVLink-Brücken der H200 NVL erklärt. Die RTX PRO 6000 Server Edition hat kein NVLink; NVIDIAs Product Brief führt es als „Not supported“, und der Verkehr zwischen den Karten läuft über PCIe 5.0. Datenparallele Jobs auf PCIe-Karten sind möglich, wie unser Artikel zu einem Modell auf mehreren GPUs über PCIe oder NVLink zeigt, ein auf SXM2-NVLink abgestimmter Job gehört aber auf H200 NVL mit Brücken.

Die GPU-Plätze eines SXM2-Servers sind Sockel für SXM2-Module; ein V100-SXM2-System wird daher als ganzer Server ersetzt.

Unsere Rechnung aus den obigen Datenblattwerten, Karten bei ihrer maximalen Leistungsaufnahme von 300 W (V100 SXM2) und 600 W (H200 NVL, RTX PRO 6000 SE).

Zwei H200 NVL als ein verbundenes Paar entsprechen bei FP64 einem vollen Server mit acht V100 SXM2 und halten mehr Speicher, bei halber Kartenleistung. Unsere Schätzung an der Steckdose liegt für die neuen Server bei rund 2,0 kW für zwei H200 NVL und 3,4 kW für vier, jeweils mit zwei AMD EPYC 9355, und bei 6,3 kW für acht mit zwei EPYC 9555, wie in unseren Leitfäden zum Server mit zwei H200 NVL und zum Server mit acht H200 NVL.

Neue Karten in einem V100-PCIe-Server

Ein V100-PCIe-Server wurde für passive Karten mit 250 W an PCIe Gen3 ausgelegt. Die H200 NVL und die RTX PRO 6000 Server Edition nehmen bis zu 600 W je Karte über ein 16-poliges Kabel auf und erwarten PCIe 5.0. Ob ein bestimmtes Gehäuse sie aufnimmt, entscheidet die Support-Liste des Herstellers, zusammen mit Netzteilen, Kabel und Luftstrom je Slot; NVIDIAs Product Brief verlangt je nach Ansaugtemperatur 43 bis 125 CFM durch jede Karte der RTX PRO 6000 Server Edition. Die RTX PRO 6000 Server Edition lässt sich auf ihr Minimum von 300 W begrenzen und kommt damit nahe an das Leistungsbudget einer V100.

Unsere Checkliste für eine H200 NVL in einem bestehenden Server geht die Punkte durch. Ein Server aus der V100-Zeit hat zudem womöglich keine Garantie mehr, und ein neuer Server vermeidet die Mischung aus neuen Karten mit alten Netzteilen und alter Firmware. Wir bauen auf dem Gehäuse eines Kunden erst nach einer Kompatibilitätsprüfung von Plattform, Stromversorgung und Kühlung und sagen im Voraus, wenn etwas nicht funktionieren wird.

Pascal-Karten: P40, P100 und P4

Pascal-Karten sind im Lebenszyklus schon weiter. NVIDIAs Seite zum Ende des vGPU-Supports, aktualisiert am 2. Oktober 2026, nennt für Tesla P40, P100, P4 und P6 Branch 16 als letztes vGPU-Release und Juli 2026 als Ende der Wartung, das inzwischen vorbei ist. CUDA 13.0 hat Pascal zusammen mit Volta entfernt, und vLLM und TensorRT 11.4 laufen darauf nicht. Es gilt dieselbe Zuordnung nach Aufgabe: FP64-Arbeit auf die H200 NVL, Inferenz und Training auf die RTX PRO Server Editions und Low-Profile-Slots auf die NVIDIA L4, wie unsere Seite zum Nachfolger der NVIDIA T4 beschreibt.

Die Software umziehen

Für Code und Container ändern sich drei Dinge. Für Blackwell ist CUDA 12.8 oder neuer nötig, wie die Installationsanleitung von vLLM für die B200 festhält und wie es auch für die RTX-PRO-Blackwell-Karten gilt; die H200 NVL als Hopper-Karte ist von CUDA 13 abgedeckt, das jede Architektur ab Turing unterstützt. Container, die auf alte CUDA-11- oder frühe CUDA-12-Images festgelegt sind, werden auf einer aktuellen Basis neu gebaut, und NVIDIAs Kompatibilitätsleitfaden für Blackwell hält fest, dass Binärdateien, die „only include cubins“, „need to be rebuilt to run on the Blackwell GPUs“. Mixed-Precision-Code für FP16 läuft auf den neuen Karten unverändert; BF16 oder FP8 sind optionale Änderungen nach einer Validierung. Die V100-Knoten können bis Juni 2028 als eigene Partition mit CUDA 12 im Scheduler bleiben, wie unser Leitfaden zum GPU-Server für ein Forschungslabor an der Universität es für gemischte Cluster beschreibt.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team legt die Konfiguration nach Ihrer Arbeitslast und Ihrem Budget aus und antwortet innerhalb eines Werktages. Wir bauen Server mit zwei, vier oder acht H200 NVL und ihren NVLink-Brücken oder mit Karten der RTX PRO 6000 Server Edition oder RTX PRO 4500 Server Edition, vor der Lieferung montiert und getestet, mit einem EU-Vertrag und einer Rechnung und mit Herstellergarantie auf jede Komponente. Unser Trainingsknoten auf der Seite KI-Server trägt acht H200 NVL mit NVLink-Brücken, zwei AMD-EPYC-Prozessoren, 2,3 TB DDR5 ECC, acht NVMe-Laufwerke und 400G-Netzwerk. Jede H200 NVL enthält ein Abonnement für NVIDIA AI Enterprise über fünf Jahre. Beschreiben Sie uns Ihren V100-Cluster und die Programme darauf, und wir antworten mit einem Austauschplan und einem schriftlichen Angebot.

FAQ