L40S-Server auf NVIDIA RTX PRO 6000 Blackwell Server Edition umrüsten: was zu prüfen ist

Nimmt ein L40S-Server die RTX PRO 6000 Server Edition auf?

Ein L40S-Server lässt sich nur dann auf die NVIDIA RTX PRO 6000 Blackwell Server Edition aufrüsten, wenn sein Hersteller die neue Karte für genau dieses Modell, diesen Steckplatz, dieses Kabel und diesen Lüftersatz listet, und viele Server, die 2023 und 2024 mit L40S-Karten gekauft wurden, stehen nicht auf diesen Listen. Wo der Tausch erlaubt ist, verdoppelt jede Karte ihren Speicher auf 96 GB und zieht bis zu 600 W statt 350 W, und Stromanschluss, Kabel und Luftführung entscheiden, ob der Server seinen Platz im Rack behält.

Nicht gelistet sind unter anderem Dells PowerEdge-Server der 16. Generation und der HPE ProLiant DL380a Gen11; gelistet sind etwa der Lenovo SR675 V3 mit AMD EPYC der 5. Generation und der HPE ProLiant DL385 Gen11. Beide Karten sind passiv gekühlt, doppelt breit, in voller Höhe und Länge, mit einem 16-Pin-Stromanschluss; die neue Karte passt also in denselben Einbauplatz. Fast alles andere ändert sich.

NVIDIA-Produktseite L40S und Product Brief SP-12355-001_v02 der RTX PRO 6000 Blackwell Server Edition, wie in unseren Artikeln zu L40S und RTX PRO 6000 zitiert (gelesen am 24. Oktober 2026). Nutzbarer Speicher nach unserer Regel für Nutzer je Karte: 0,9 × der vom Treiber gemeldete Speicher, abzüglich 3 GiB je Karte.

Unser Vergleich von L40S und RTX PRO 6000 Server Edition entscheidet, welche Karte man kauft, und unsere Liste kompatibler Server für die RTX PRO 6000 Server Edition behandelt neue Server. Dieser Leitfaden geht vom L40S-Server aus, den Sie bereits betreiben.

Server aus der L40S-Zeit auf den Herstellerlisten

NVIDIAs Liste zertifizierter Systeme führte die L40S in einer breiten Auswahl von Servern: Dell PowerEdge R750xa, R760 und R760xa, HPE ProLiant DL380a und DL385 Gen11, Lenovo SR650 V3, SR655 V3, SR665 V3 und SR675 V3 sowie Supermicros GPU-Linien in 2U und 4U. Für die RTX PRO 6000 Server Edition sind die Listen der Hersteller kürzer.

Lenovo Press LP2263 (aktualisiert am 28. Juli 2026) und Supermicros Seite zu RTX-PRO-6000-Systemen, gelesen am 24. Oktober 2026; Dell PowerEdge Server GPU Matrix (August 2026), NVIDIA Accelerators for HPE QuickSpecs (Version 83), QuickSpecs HPE DL385 Gen11, Dell XE7745 Technical Guide Rev. A09 und Ciscos Datenblatt zum C845A M8 (24. August 2026), gelesen für unseren Artikel zu kompatiblen Servern am 9. und 24. Oktober 2026. Die L40S-Liste ist NVIDIAs Liste zertifizierter Systeme, wie in unserem L40S-Vergleich zitiert.

Drei Einträge verdienen einen genaueren Blick. Lenovos Fußnote zum SR675 V3 lautet „Supported with 5th Gen AMD EPYC processors only“; ein SR675 V3, der mit EPYC der 4. Generation gekauft wurde, liegt also außerhalb der Liste, obwohl das Gehäuse dasselbe ist. Lenovos Leitfaden markiert die übrigen ThinkSystem-Server in seinen Tabellen, abgesehen vom SR650a V4 und vom SR675 V3, als nicht unterstützt und hält fest, dass die Karte „is only supported on SR650a V4“, mit dessen Maschinentypen. Supermicros Seite zeigt den AMD-basierten AS-4125GS-TNRT mit bis zu vier Karten und den TNRT2 mit bis zu acht; die Intel-basierten SYS-421GE-TNRT und SYS-521GE-TNRT erscheinen dort nicht.

Die Server auf diesen Listen sind aktuelle Plattformen. Einen Server der PCIe-Gen4-Generation, mit AMD EPYC 7003 oder Xeon Scalable der 3. Generation, haben wir auf keiner Herstellerliste für die Karte gefunden. Senden Sie uns die genaue Modellnummer Ihres L40S-Servers, seine Prozessoren und Netzteile; lassen Sie uns den Tausch prüfen, und unser Team antwortet mit dem, was der Hersteller listet und was sich ändern muss.

Leistung je Karte und je Server

Die neue Karte zieht bis zu 600 W gegenüber 350 W bei der L40S, bei voller Leistung 250 W mehr je Karte. NVIDIAs Product Brief gibt der Server Edition zwei Leistungsmodi, 600 W oder 450 W maximal, jeweils mit 300 W Minimum. Mit der 450-W-Begrenzung schrumpft der Unterschied auf 100 W je Karte; StorageReview stellte fest, dass die Karte mit 450 W „gave up 2 to 5 percent at short context“ und „4 to 9 percent at long context“, gemessen an einer Workstation Edition mit derselben GPU und demselben Speicher.

Unsere Schätzung: Leistungsaufnahme der Karten von NVIDIAs L40S-Seite und aus dem Brief der Server Edition, 280 W je EPYC 9355 und 360 W je EPYC 9555, plus 15 Prozent für Speicher, Laufwerke, Lüfter und Wandlungsverluste; eine Messung am gelieferten System bestätigt oder korrigiert sie.

Die Tabelle entscheidet über den Anschluss. Wir planen 2,94 kW je einphasigem 230-V-Anschluss mit 16 A und 5,89 kW je Anschluss mit 32 A, 80 Prozent des Nennwerts. Ein L40S-Server mit vier Karten bleibt mit rund 2,3 kW an einem 16-A-Anschluss; mit vier Server-Edition-Karten zu 600 W braucht er 32 A oder Drehstrom, mit der 450-W-Begrenzung bleibt er bei 16 A. Ein L40S-Server mit acht Karten läuft mit rund 4,0 kW einphasig an 32 A; mit 600 W je Karte wechselt er an einen Drehstromplatz mit 400 V, mit 450 W bleibt er bei 32 A. Mit redundanten Netzteilen an A- und B-Einspeisung muss jede Seite den ganzen Server tragen. Unser Leitfaden zu GPU-Servern an 16 A, 32 A und Drehstrom rechnet die Anschlüsse durch.

Die Netzteile im Server sind die nächste Grenze. HPEs QuickSpecs zum DL380a Gen12 verlangen zum Beispiel Netzteile mit 2.400 W oder 3.200 W, sobald die RTX PRO 6000 konfiguriert ist, mit fünf Netzteilen für zwei oder vier doppelt breite Karten. Ein L40S-Server, der für Karten mit 350 W konfiguriert wurde, hat womöglich kleinere oder weniger Netzteile; prüfen Sie die neue Konfiguration daher mit dem Leistungsrechner des Herstellers und Ihrem genauen Netzteilmodell.

Das 16-Pin-Kabel und seine Sense-Pins

Beide Karten beziehen Strom über einen 16-Pin-Anschluss, und derselbe Stecker bedeutet nicht dasselbe Kabel. Das Kabel meldet über zwei Sense-Pins, wie viel Leistung die Versorgungsseite liefert, und die Server Edition liest sie beim Einschalten. NVIDIAs Brief hält fest, dass „the card will not boot“, wenn das Kabel weniger als die Standardgrenze der Karte meldet. Der Server selbst startet normal, nur die Karte bleibt aus.

Die Hersteller behandeln das Kabel als Teil der Konfiguration. Lenovo hält fest, dass die Optionsnummer der Karte „does not ship with auxiliary power cables“, dass „Cables are server-specific due to length requirements“ und dass „For field upgrades, cables will need to be ordered separately“. Für den SR675 V3 nennt Lenovo ein 16-Pin-Kabel mit 235 mm, 4X97A84510, und für den SR650a V4 ein 16-Pin-Kabel mit 320 mm, 4X97B04860. Wir haben keinen Hersteller gefunden, der die Weiterverwendung eines L40S-Kabels für die Server Edition dokumentiert; bestellen Sie also das Kabel, das der Hersteller für die neue Karte und den Steckplatz listet.

Eine später gesetzte Leistungsgrenze ersetzt das Kabel nicht. Eine mit nvidia-smi gesetzte Grenze muss laut Brief nach jedem Laden des Treibers neu gesetzt werden, eine außerhalb des Betriebssystems über SMBPBI gesetzte bleibt erhalten. Unser Leitfaden zur RTX PRO 6000 Server Edition mit 600, 450 oder 300 W erklärt die Modi und die Befehle.

Luftführung und Zulufttemperatur

Eine passive Karte mit 600 W braucht mehr Luft als eine mit 350 W. NVIDIAs Brief verlangt 43 CFM durch jede Server-Edition-Karte bei 25 °C am Kühlkörpereinlass, steigend auf 125 CFM bei 45 °C. Für den ganzen Server ergibt unser Planungswert von 160 CFM je kW bei 11 °C Erwärmung rund 360 CFM für den L40S-Server mit vier Karten und rund 540 CFM mit vier Server-Edition-Karten zu 600 W; bei acht Karten rund 650 CFM gegenüber rund 1.000 CFM.

Die Hersteller senken mit der neuen Karte die Zuluftgrenze. Dells Technical Guide zum XE7745 erlaubt 35 °C Zuluft mit acht L40S und 30 °C mit acht RTX PRO 6000 Server Edition. Lenovo begrenzt den SR650a V4 mit den RTX-PRO-6000-Karten auf 25 °C. HPE unterstützt das Maximum Performance Fan Kit im DL385 Gen11 nur, wenn GPUs mit 600 W in der Konfiguration sind. Messen Sie die Zulufttemperatur am Rackplatz vor der Bestellung: Ein Raum, in dem vier L40S bei 32 °C problemlos liefen, liegt über Dells Grenze für die neue Karte. Unser Leitfaden zur Zulufttemperatur von GPU-Servern beschreibt, wo man misst.

PCIe-Anbindung, Treiber und CUDA

Die L40S nutzt PCIe Gen4 x16, laut NVIDIA 64 GB/s bidirektional; die Server Edition nutzt Gen5 x16, 128 GB/s. In einem gelisteten Server erhalten die Karten Gen5, und das zählt, weil keine der beiden Karten NVLink hat und ein auf mehrere Karten verteiltes Modell seine Tensoren über PCIe austauscht. Standardmäßig schaltet vLLM sein eigenes All-Reduce bei mehr als zwei GPUs ohne NVLink ab; vLLM 0.30.0 (Release Notes vom 22. September 2026) brachte für solche Systeme ein optional einschaltbares FlashInfer-PCIe-IPC-All-Reduce (#53576). Die Aufteilungen erklärt unser Artikel zur RTX PRO 6000 ohne NVLink.

Die Software muss angepasst sein, bevor die Karten eingebaut werden. Der Brief der Server Edition nennt Treiber R575 und CUDA 12.9 als Minimum, NVIDIA verlangt für Blackwell seine offenen Kernel-Module, und die Karte hat Compute Capability 12.0; Container und Frameworks brauchen also Builds, die sie enthalten. Ein L40S-Host, der noch auf dem Zweig R535 läuft, der im Juni 2026 endete, braucht ohnehin einen neueren Zweig. Stand Oktober 2026 ist R580 der Langzeitzweig mit Support bis Juni 2028, und NVIDIAs Sicherheitsbulletin vom 30. September 2026 nennt 580.178.04 als ersten korrigierten R580-Treiber. Bringen Sie BIOS und Firmware des Management-Controllers auf den Stand, den der Hersteller für die Karte listet. Unser Leitfaden zur Software-Unterstützung von Blackwell RTX für SM120 listet die Framework-Versionen.

vGPU-Hosts: neue Profilnamen und ESXi 8.0 U3g

Ein VDI- oder Compute-Host ändert mehr als seinen Treiber. NVIDIA hat die Server Edition mit vGPU-Release 19.0 aufgenommen, und auf vSphere führt die Support-Matrix die Karte für ESXi 8.0 Update 3g oder neuer und für VMware Cloud Foundation 9.0.1 oder neuer. Die Karte wird im Modus Display Off ausgeliefert, den NVIDIAs Brief für vGPU voraussetzt.

Jede VM braucht einen neuen vGPU-Typ. Die L40S-Typen heißen L40S-1Q bis L40S-48Q, die Typen der Server Edition beginnen mit DC, etwa DC-24Q, und NVIDIAs vWS-Sizing-Leitfaden hält fest, dass „1 GB profiles are not available on Blackwell GPUs“. Ein Host, der 32 Büro-Desktops auf L40S-1B betrieb, verlegt sie also auf einen 2-GB-Typ: NVIDIAs vPC-Sizing-Leitfaden nennt 32 je Karte auf der ganzen Karte und 48 mit MIG-basiertem, zeitgeteiltem vGPU, Letzteres auf vSphere erst ab VCF 9.1.

NVIDIA vGPU Types Reference (29. September 2026) und die vGPU-Referenzen von NVIDIA AI Enterprise 8.2 für Ada und Blackwell (2. September 2026), wie in unseren Leitfäden zu den vGPU-Profilen der L40S und der RTX PRO 6000 Server Edition zitiert.

Die Lizenzen folgen wie bei der L40S dem Serienbuchstaben: Q-Typen brauchen vWS, B-Typen vPC und C-Typen NVIDIA AI Enterprise je GPU; keine der beiden Karten kommt mit einem AI-Enterprise-Abonnement. Unsere Leitfäden zu den vGPU-Profilen der L40S und den vGPU-Profilen der RTX PRO 6000 Server Edition listen jeden Typ. L40S- und Server-Edition-Karten in einem Host zu mischen ist möglich, wo der Hersteller beide listet, wir raten aber davon ab: zwei Profilsätze, zwei Leistungsbudgets, und ein Job über mehrere GPUs läuft im Tempo der langsameren Karte.

Was der Tausch ändert: ein Beispiel mit vier Karten

Nehmen Sie einen L40S-Server mit vier Karten an einem 230-V-Anschluss mit 16 A, der einen internen Assistenten bedient. Seine 192 GB ergeben nach unserer Regel 149,2 GiB. Llama 3.3 70B in FP8, 67,7 GiB Gewichte, läuft darauf nur als eine Kopie über alle vier Karten, mit Cache für 65 Gespräche zu 8K mit FP8-Cache.

Mit vier Server-Edition-Karten und 450-W-Begrenzung bleibt der Server nach unserer Schätzung mit rund 2,7 kW an seinem 16-A-Anschluss und hält 332,2 GiB. Dasselbe Modell läuft dann als eine Kopie je Karte, 48 Gespräche ohne Verkehr zwischen den Karten, oder als eine Kopie über vier Karten mit 211, wie unser Leitfaden zum Server mit vier RTX PRO 6000 Server Edition vorrechnet. Modelle, die nie auf den L40S-Server passten, etwa gpt-oss-120b als eine Kopie je Karte, werden möglich.

Die veröffentlichten Ergebnisse zeigen das Ausmaß der Änderung auf dem einen Benchmark, den beide Karten liefen. In MLPerf® Inference: Datacenter, Closed Division, erreichte ein Dell PowerEdge XE7745 mit acht L40S 3.481,5 Token pro Sekunde mit Llama 2 70B offline (v5.0, Eintrag 5.0-0018, abgerufen von mlcommons.org am 24. September 2026) und ein Dell PowerEdge XE7740 mit acht RTX PRO 6000 Server Edition 29.796,7 (v6.1, Eintrag 6.1-0036, abgerufen von mlcommons.org am 24. Oktober 2026), Ergebnisse von der MLCommons Association verifiziert. Das ist nach unserer Division das 8,6-Fache, keine MLPerf-Metrik, über zwei Runden, zwei Servermodelle und unterschiedliche Software hinweg. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use strictly prohibited. See www.mlcommons.org for more information.

Karten tauschen oder den Server ersetzen

Die Reihenfolge der Prüfungen zählt, denn scheitert eine frühe, erübrigen sich die späteren:

1. Der Hersteller listet die Karte für Ihren genauen Maschinentyp, Ihre Prozessorgeneration und Ihre Steckplätze.
2. Die Netzteile tragen laut Leistungsrechner des Herstellers die neue Summe, mit Redundanz.
3. Der Rackanschluss trägt die neue Leistung an der Steckdose auf A- und B-Seite.
4. Das Kabel des Herstellers für die neue Karte und den Steckplatz ist bestellbar.
5. Die Zulufttemperatur am Rackplatz liegt unter der Grenze des Herstellers für die neue Karte.
6. Treiberzweig, Hypervisor und vGPU-Release unterstützen die Karte, und jede VM hat einen neuen vGPU-Typ.

Scheitert die erste Prüfung, ist ein neuer Server die Antwort, und die L40S-Karten können bleiben, wo sie sind, oder in einen anderen gelisteten Host für VDI, Video oder kleinere Modelle wechseln. NVIDIAs vGPU-Lifecycle-Seite führt die L40S mit Stand 2. Oktober 2026 als voll unterstützt. Ein neuer Server mit RTX PRO 6000 Server Edition vermeidet die PCIe-Gen4-Anbindung und die älteren Netzteile, und unsere Referenz­konfigurationen kombinieren zwei AMD-EPYC-Prozessoren mit zwei oder vier Karten. Wir liefern die Karten für gelistete Server und bauen neue auf Bestellung; schicken Sie uns Servermodell, Anschluss und Arbeitslast, und wir sagen, welcher der beiden Wege passt.

Was wir liefern

Wir liefern die NVIDIA RTX PRO 6000 Blackwell Server Edition als Karte für Server, die Sie bereits betreiben, nach einer Prüfung von Plattform, Strom und Kühlung, und in KI-Servern auf Bestellung mit zwei bis acht Karten, vor der Lieferung montiert und getestet. Beides läuft über einen EU-Vertrag und eine Rechnung, mit Herstellergarantie auf jede Komponente, abgewickelt über uns; Mengen und Lieferzeit werden mit dem Angebot schriftlich bestätigt. vGPU- und NVIDIA-AI-Enterprise-Lizenzen kommen auf dieselbe Rechnung. Spezifikationen und Editionen der Karte stehen auf unserer Seite zur RTX PRO 6000, und unser Leitfaden zur Abnahmeprüfung von GPU-Servern beschreibt die Prüfungen, sobald die neuen Karten eingebaut sind.

FAQ