RTX 6000 Ada vs L40S: dieselben Ada-Kerne und 48 GB, gebaut für die Workstation oder für den Server

RTX 6000 Ada vs L40S: der Unterschied in Kürze

Die RTX 6000 Ada und die L40S haben dieselbe Ada-Lovelace-Kernkonfiguration und dieselben 48 GB GDDR6 mit ECC; auf beiden passen also dieselben Modelle, und ihre Spitzenwerte bei der Rechenleistung liegen höchstens ein Prozent auseinander. Sie unterscheiden sich darin, wo sie laufen sollen. Die RTX 6000 Ada ist eine Workstation-Karte mit eigenem Lüfter, 300 W Leistungsaufnahme, 960 GB/s Speicherbandbreite und eingeschalteten Displayausgängen. Die L40S ist eine passive Rechenzentrumskarte mit 350 W und 864 GB/s, die ihre Kühlung von den Lüftern des Servers bezieht, mit abgeschalteten Displays ausgeliefert wird und auf den GPU-Supportlisten der Serverhersteller steht. Bei einem Rack-Server mit 4 bis 8 Karten entscheidet dieser letzte Punkt die Wahl häufiger als jede technische Angabe.

Beide Karten stehen auf NVIDIAs aktuellen Supportlisten für vGPU und NVIDIA AI Enterprise, und keine hat MIG, NVLink oder FP4-Tensor-Kerne. Der Rest dieses Artikels behandelt die technischen Daten, die Kühlung, den Anzeigemodus, die Serverlisten und die Auswahl für eine Installation mit mehreren Servern oder Workstations.

Technische Daten und Support im Vergleich

Datenblatt der NVIDIA RTX 6000 Ada (2647623, Februar 2023) und Produktseite; Produktseite der NVIDIA L40S und Product Brief PB-11470-001_v02 (August 2023); NVIDIA NVENC Support Matrix (aktualisiert am 31. Juli 2026); Release Notes zu NVIDIA vGPU R595 für vSphere (aktualisiert am 29. September 2026); Support-Matrix von NVIDIA AI Enterprise 7.8 (aktualisiert am 12. August 2026); alle gelesen am 10. Oktober 2026.

NVIDIA nennt auf beiden Produktseiten nur die Ada-Lovelace-Architektur, nicht den Chip. Das Whitepaper zur Ada-Architektur führt die L40, die frühere Rechenzentrumskarte mit denselben 18.176 CUDA-Kernen, als AD102-GPU mit 142 Streaming-Multiprozessoren von 144 im vollen AD102. Bei den Video-Engines spricht die Produktseite der RTX 6000 Ada von „zwei Encode- und zwei Decode-Engines“, während ihr Datenblatt je drei angibt. Auch NVIDIAs NVENC Support Matrix, aktualisiert am 31. Juli 2026, zählt für die Karte drei Encoder, wie für die L40S; die Tabelle folgt daher dem Datenblatt.

Speicherbandbreite, Rechenleistung und Strom für LLM-Inferenz

Die RTX 6000 Ada liest ihren Speicher mit 960 GB/s, die L40S mit 864 GB/s. Bei der Rechenleistung liegt die L40S knapp vorn, mit 91,6 TFLOPS in FP32 gegen 91,1, und sie darf bis zu 350 W aufnehmen gegen 300 W. Generiert ein dichtes Sprachmodell Token für einen Nutzer, liest es je Token einmal alle Gewichte; das Tempo eines Einzelstroms folgt daher der Speicherbandbreite. Nach unserer Rechnung liegt die Obergrenze der RTX 6000 Ada beim selben Modell etwa 11 Prozent höher. Das Einlesen langer Prompts und das Bedienen vieler Anfragen im Batch hängen stärker vom Durchsatz der Tensor-Kerne ab, und dort liegen NVIDIAs FP8-Werte mit Sparsity, 1.457 und 1.466 TFLOPS, höchstens ein Prozent auseinander.

Die Speicherkapazität ist gleich, also passen dieselben Modelle. Was in 48 GB passt, zeigt der Vergleich der 48-GB-GPUs, und die gemessenen MLPerf- und NIM-Ergebnisse der L40S stehen in unserem Artikel zu den Benchmarks der L40S. Einen Benchmark zitieren wir hier nicht, denn ein Abstand dieser Größe hängt mehr von Engine, Präzision und Batch ab als von der Karte. Keine der beiden Karten hat FP4-Tensor-Kerne oder NVLink; ein auf mehrere Karten verteiltes Modell tauscht seine Daten daher bei beiden über PCIe Gen4 aus.

Der Stromanschluss verlangt bei der L40S Aufmerksamkeit. Laut NVIDIAs Product Brief muss das 16-Pin-Kabel „für die Leistungsstufe von 450 W oder 600 W beschaltet sein, damit die L40S bootet“; das GPU-Stromkabel im Server muss also dasjenige sein, das der Serverhersteller für die Karte listet. Die RTX 6000 Ada nimmt bei 300 W Leistungsaufnahme einen 16-Pin-Anschluss nach PCIe CEM5 auf.

Passive L40S und aktiv gekühlte RTX 6000 Ada im Server

Die L40S hat keinen Lüfter. NVIDIA beschreibt einen bidirektionalen Kühlkörper, der „Luftstrom entweder von links nach rechts oder von rechts nach links aufnimmt“; die Karte ist also vollständig auf die Luft angewiesen, die die Serverlüfter durch sie hindurchdrücken. Die RTX 6000 Ada trägt einen eigenen Lüfter, den NVIDIA als aktive Kühllösung führt. Diese Bauweise ist für ein Workstation-Gehäuse ausgelegt.

Im Rack-Server zählt ebenso sehr wie die Temperatur, ob der Serverhersteller die Karte getestet und gelistet hat. Serverhersteller qualifizieren jede GPU-Option mit einem Thermal-Kit, einer Riser-Karte und einem Stromkabel für ein bestimmtes Chassis. Lenovos Product Guide zur RTX 6000 Ada als ThinkSystem-Option sagt, die Teilenummern „gelten für Thermal-Kits und enthalten weitere Komponenten, die für den Einbau der GPU benötigt werden“, und HPEs QuickSpecs für Beschleuniger verweisen auf die QuickSpecs der jeweiligen Plattform „für Konfigurationsregeln einschließlich Enablement-Kits“. Für eine Karte, die nicht auf der Liste steht, gibt es vom Hersteller kein qualifiziertes Kit und kein Kabel für diesen Server; damit wird sie ebenso zu einer Frage des Supportvertrags wie der Temperaturen.

Displayausgänge, Standardmodus und vGPU

Beide Karten haben vier DisplayPort-1.4a-Ausgänge. Die L40S wird im Display-off-Modus ausgeliefert, und ihr Product Brief stellt fest, dass diese Voreinstellung „für den Betrieb der NVIDIA-Virtual-GPU-Software erforderlich ist“. Die RTX 6000 Ada wird mit eingeschalteten Ausgängen ausgeliefert, und eine Fußnote ihres Datenblatts lautet: „Bei Verwendung von vGPU-Software sind die Displayports nicht aktiv“. NVIDIAs vGPU-Release-Notes für vSphere führen die L40S ab Werk als display-off und die RTX 6000 Ada als display-enabled, halten fest, dass solche GPUs „in Installationen der NVIDIA-vGPU-Software im Display-off-Modus verwendet werden müssen“, und nennen das Werkzeug displaymodeselector zum Umstellen des Modus. Eine Flotte von RTX 6000 Ada für vGPU-Hosts braucht diesen Schritt deshalb auf jeder Karte, bevor die Hosts in Produktion gehen.

Im Display-off-Modus haben beide Karten dieselbe vGPU-Unterstützung. Die R595-Release-Notes für vSphere, aktualisiert am 29. September 2026, listen beide für vSphere 8.0 Update 3 und 9.0 mit RTX Virtual Workstation, Virtual PC und Virtual Applications, und auf beiden kann eine virtuelle Maschine mehrere vGPUs der Q-Serie erhalten. Keine der beiden Karten unterstützt MIG: NVIDIAs MIG User Guide, aktualisiert am 11. September 2026, führt keine Ada-Lovelace-GPU, also werden beide per Time-Slicing zwischen virtuellen Maschinen geteilt.

GPU-Supportlisten der Serverhersteller

Die Listen, die wir am 10. Oktober 2026 gelesen haben, weisen in dieselbe Richtung. HPEs QuickSpecs für NVIDIA-Beschleuniger, Version 83 vom 8. September 2026, führen die L40S neben weiteren HPE-Systemen für die ProLiant DL320, DL380 und DL380a in Gen11 und Gen12, den DL145 Gen11, den DL385 Gen11, den ML350 Gen12 und den DL345 Gen12 und enthalten keine Option für die RTX 6000 Ada. Supermicros 2U-GPU-Server SYS-221GE-NR nimmt bis zu vier Karten doppelter Breite auf und listet darunter die L40S, die RTX 6000 Ada aber nicht.

Supermicros SYS-741GE-TNRT, ein Tower, der sich zu einem 4U-Rack-System umbauen lässt, listet beide Karten unter bis zu vier GPUs doppelter Breite, mit einem optionalen rückseitigen Lüfterkit für die Kühlung passiver GPUs. Bei jedem anderen Modell entscheidet die aktuelle GPU-Supportliste des Herstellers für dieses Chassis. Wie viele Karten ein bestimmtes Chassis nach Lanes, Strom und Luft aufnimmt, behandelt unser Artikel wie viele GPUs in einen Server passen.

Wir liefern beide Karten und bauen nach einer Kompatibilitätsprüfung von Plattform, Stromversorgung und Kühlung in Ihr Chassis ein. Nennen Sie uns das Servermodell und die Zahl der Karten, die es aufnehmen soll, im Formular unten.

NVIDIA AI Enterprise und NVIDIA-Certified Systems

Die Support-Matrix von NVIDIA AI Enterprise für Release 7.8, aktualisiert am 12. August 2026, führt unter Ada Lovelace sowohl „NVIDIA L40S“ als auch „NVIDIA RTX 6000 Ada Generation“. Sie knüpft diese Liste an die Bedingung, dass die Software „auf den folgenden NVIDIA-GPUs mit kompatiblen Servern von Drittanbietern unterstützt wird, die auf der Seite NVIDIA-Certified Systems gelistet sind“. Die Produktseite der RTX 6000 Ada nennt NVIDIA AI Enterprise unter der Unterstützung für KI-Software. NVIDIAs Seite zu zertifizierten Systemen umfasst neben Servern auch NVIDIA-Certified Workstations und verweist für die gelisteten Modelle auf ihren Qualified System Catalog.

Für Support unter NVIDIA AI Enterprise bindet die Matrix die Karte an ein System auf dieser Seite; fragen Sie deshalb vor der Bestellung nach der Listung genau des Server- oder Workstation-Modells mit dieser Karte. NVIDIAs Lizenzierungsleitfaden hält fest, dass die Software „je GPU lizenziert wird“, und das gilt für beide Karten.

Auswahl für 4 bis 8 Karten: Rack-Server oder Arbeitsplatz

Bei mehreren Abteilungen richtet sich die Wahl nach dem Ort, an dem die Karten laufen werden. Vier L40S nehmen bis zu 1.400 W Leistung auf und acht bis zu 2.800 W, ohne Prozessoren und Lüfter. Vier RTX 6000 Ada nehmen bis zu 1.200 W auf. Supermicros SYS-741GE-TNRT, das die Karte listet, nimmt bis zu vier GPUs doppelter Breite an zwei redundanten 2.000-W-Netzteilen auf.

Serverlisten aus HPE QuickSpecs Version 83 (8. September 2026) und Produktseiten von Supermicro, gelesen am 10. Oktober 2026; Leistungsaufnahme laut NVIDIA.

Ein Ingenieurbüro, das acht Konstrukteuren je eine RTX 6000 Ada in einer Deskside-Workstation gibt, betreibt acht 300-W-Karten mit eigenen Lüftern und Displays. Stellt dasselbe Büro diese Nutzer auf virtuelle Workstations um, bestellt es zwei Rack-Server mit je vier L40S, auf einem Servermodell, das die Karte listet, und mit vGPU-Lizenzen für die virtuellen Workstations. Wächst ein Modell über 48 GB hinaus, behandelt unser Vergleich von L40S und RTX PRO 6000 Server Edition den nächsten Schritt bei Servern und RTX PRO 6000 Blackwell vs. RTX 6000 Ada den Schritt bei Workstations.

Schicken Sie uns die Zahl der Nutzer, die Arbeitslasten und den Aufstellort der Maschinen über das Formular unten, und wir antworten innerhalb eines Werktages mit einer Konfiguration und einem Angebot.

Was wir liefern

Wir liefern die RTX 6000 Ada und die L40S als professionelle NVIDIA-GPUs sowie KI-Server auf Bestellung mit der L40S für den Rack-Einsatz, mit Herstellergarantie, unter einem EU-Vertrag und auf einer Rechnung. Für Server, die Sie bereits betreiben, bauen wir nach einer Kompatibilitätsprüfung von Plattform, Stromversorgung und Kühlung in Ihr Chassis ein. Lizenzen für NVIDIA AI Enterprise und vGPU stehen auf derselben Rechnung wie die Hardware. Konfiguration und Angebot erhalten Sie innerhalb eines Werktages.

FAQ