NVIDIA RTX PRO Server erklärt: 2U bis 6U, der Knoten 2-8-5-200, die Zertifizierung

Was NVIDIA einen RTX PRO Server nennt

Ein NVIDIA RTX PRO Server ist NVIDIAs Bezeichnung für einen GPU-Server, den Systempartner auf Basis der NVIDIA-MGX-Referenzdesigns bauen, mit zwei bis acht NVIDIA RTX PRO 6000 Blackwell Server Edition oder acht RTX PRO 4500 Blackwell Server Edition an PCIe. NVIDIA verkauft den Server nicht selbst: Cisco, Dell Technologies, Hewlett Packard Enterprise, Lenovo, Supermicro und weitere Hersteller bieten ihn unter eigenen Modellnamen an. NVIDIAs Seite zum RTX PRO Server, aktualisiert am 11. Juni 2026, hält fest: „RTX PRO Servers are NVIDIA-Certified“.

Der Name ordnet Server nach ihrer GPU und ihrem Aufbau, so wie „HGX-Server“ die Server um NVIDIAs SXM-Baseboard bezeichnet. NVIDIA hat am 11. August 2025 RTX PRO Server in 2U für gewöhnliche Rechenzentrums-Racks vorgestellt und Konfigurationen mit zwei, vier oder acht GPUs genannt; Dells PowerEdge R7725 mit zwei RTX PRO 6000 Server Edition war einer der ersten. Als Einsatzfelder nennt die Seite agentische und generative KI, industrielle und physische KI, Simulation und Datenanalyse sowie Rendering.

Was ein solcher Server kann, entscheidet vor allem die Karte. Die Werte unten stammen aus NVIDIAs Datenblatt und Produktseiten, denn die Datentabellen auf der Seite zum RTX PRO Server sind nicht verlässlich. Beide Sprachfassungen nennen 800 GB GPU-Speicher für acht Karten; acht Karten mit 96 GB sind 768 GB. Die deutsche Fassung, aktualisiert am 15. Juni 2026, zeigt zudem eine Kartentabelle mit 48 GB GDDR6, PCIe der 4. Generation, 300 W und aktiver Kühlung. Das sind die Werte einer älteren Karte, nicht der RTX PRO 6000 Blackwell Server Edition.

Produktseite der NVIDIA RTX PRO 6000 Blackwell Server Edition und Product Brief SP-12355-001_v02, gelesen am 24. Oktober 2026; Summen für acht Karten nach unserer Rechnung (8 × 1.597 GB/s = 12.776 GB/s). Die flüssigkeitsgekühlte Version für das 6U-Design belegt laut NVIDIAs Kartenseite einen Slot.

Der Speicher wird nicht zusammengelegt. NVIDIAs Product Brief führt NVLink als „Not supported“, acht Karten sind also acht Speicher zu je 96 GB, die Daten über PCIe austauschen, und ein Modell, das größer als eine Karte ist, wird mit Tensor- oder Pipeline-Parallelität aufgeteilt. Wie viel jeder Karte für Modellgewichte und Gespräche bleibt, zeigt unser Leitfaden zu acht RTX PRO 6000 Server Edition und den LLMs, die darauf passen.

Die vier MGX-Designs: 2U, 4U und 6U

NVIDIAs Seite zum RTX PRO Server zeigt vier Konfigurationen als Beispiele für MGX-Referenzdesigns. Unser Leitfaden zu NVIDIA-MGX-Servern erklärt MGX selbst und den Unterschied zu HGX; hier geht es darum, was jedes Design aufnimmt.

NVIDIA-Seite zum RTX PRO Server, aktualisiert am 11. Juni 2026, gelesen am 24. Oktober 2026. Strom an der Steckdose nach unserer Schätzung: Karten bei voller Leistung plus zwei Prozessoren (2 × AMD EPYC 9135 mit 200 W bei zwei Karten, 2 × EPYC 9355 mit 280 W bei acht RTX PRO 4500, 2 × EPYC 9555 mit 360 W bei acht RTX PRO 6000) plus 15 Prozent für den Rest des Servers.

Das 2U-Design mit zwei Karten passt an einen gewöhnlichen Rackplatz. Nach unserer Schätzung bleibt es unter den 2,94 kW, die wir je 230-V-Anschluss mit 16 A einplanen, wie unsere Seite zu einem Server mit zwei RTX PRO 6000 Server Edition vorrechnet. Das zweite 2U-Design nutzt die RTX PRO 4500 Blackwell Server Edition, eine passive, einfach breite Karte mit 165 W und 32 GB GDDR7 bei 800 GB/s, sodass acht Karten dort Platz finden, wo nur zwei RTX PRO 6000 Server Edition hineinpassen. Acht dieser Karten bringen zusammen 256 GB und eignen sich eher für viele kleine Modelle oder virtuelle Desktops als für ein großes Modell; unser Artikel zu einem Server mit acht RTX PRO 4500 Server Edition behandelt ihn.

Das 4U-Design ist der Server mit acht Karten, den die meisten Käufer meinen. Acht Karten mit 600 W ziehen allein 4,8 kW, und unsere Schätzung für den Server liegt bei rund 6,3 kW, was einen Drehstromanschluss verlangt; ein einphasiger Anschluss mit 230 V und 32 A, mit 5,89 kW geplant, trägt das nicht. Dells Datenblatt für seine Server mit acht Karten nennt als Richtwert rund 8 kW je Knoten, und der Anschluss wird nach dem Wert des Herstellers für das genaue Modell geplant. Das 6U-Design trägt die flüssigkeitsgekühlte Karte und braucht einen Kühlkreislauf im Rack, wie unser Artikel zur Flüssigkühlung für GPU-Racks beschreibt.

Wir bauen Server mit zwei, vier oder acht RTX PRO 6000 Server Edition in diesen Bauformen; senden Sie uns Ihre Modelle, die Zahl der Nutzer und Ihren Stromanschluss im Rack, und unser Team antwortet mit einer Konfiguration und ihrer Leistung je Anschluss.

Der Referenzknoten 2-8-5-200

NVIDIAs Enterprise-Referenzarchitektur für die RTX PRO AI Factory, zuletzt aktualisiert am 18. Mai 2026, beschreibt Cluster aus RTX PRO Servern. Ihre Übersicht bezeichnet jeden Knoten als „NVIDIA-Certified RTX PRO Server equipped with eight RTX PRO 6000 Blackwell Server Edition GPUs“ und schreibt, das Design „is based on the 2-8-5-200 infrastructure configuration (2 CPUs, 8 GPUs, 5 NICs at 200 Gbps each)“.

NVIDIA RTX PRO AI Factory Enterprise Reference Architecture, Seiten Overview und Components, zuletzt aktualisiert am 18. Mai 2026, gelesen am 24. Oktober 2026.

Die vier SuperNICs tragen den Verkehr zwischen den Servern, der fünfte Adapter, die DPU, den Verkehr zu Speicher, Management und Nutzern. Vier Server bilden eine skalierbare Einheit, und das Dokument beschreibt Cluster aus 16 Servern mit 128 GPUs und aus 32 Servern mit 256 GPUs mit Spectrum-X Ethernet.

Für einen Server mit acht Karten ergeben die Regeln nach unserer Rechnung: 56 Kerne bei 7 je GPU, 72 mit den 2 je GPU für Betriebssystem oder Hypervisor und 136, wenn jede Karte in vier MIG-Instanzen geteilt wird. Der Arbeitsspeicher kommt auf mindestens 1.024 GB. Die skalierbare Einheit und das Cluster-Netz sind für Unternehmen wichtig, die von Beginn an mehrere Server planen. Ein einzelner Server für die Inferenz eigener Modelle braucht die Regeln je Knoten und ein oder zwei Netzwerkports zu Nutzern und Speicher, nicht den vollen Aufbau mit fünf Adaptern. Unser Leitfaden zur CPU für einen GPU-Server wendet diese Kernzahlen auf AMD-EPYC- und Intel-Xeon-Prozessoren an.

NVIDIA-Certified: was geprüft wird und wer den Support leistet

Die Zertifizierung ist ein eigenes NVIDIA-Programm für Partnersysteme. NVIDIAs Seite zu NVIDIA-Certified Systems, aktualisiert am 3. September 2026, schreibt: „All systems undergo a rigorous suite of functional, security, and performance tests“, von einer GPU bis zu mehreren Knoten, einschließlich Offload für Netzwerk und Speicher, TPM-Sicherheit und Fernverwaltung, und: „Hardware support for NVIDIA-Certified Systems is available from the system vendors“. Zertifizierte Modelle stehen in NVIDIAs Qualified System Catalog, nach Hersteller, Modell und GPU.

NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems, zuletzt aktualisiert am 30. September 2026, legt die Ausgangswerte für einen Inferenzserver fest. Sie weichen an zwei Stellen von der Referenzarchitektur ab.

NVIDIA-Certified Systems Configuration Guide, Table 1, zuletzt aktualisiert am 30. September 2026, und RTX PRO AI Factory RA, Components, 18. Mai 2026, beide gelesen am 24. Oktober 2026; Zeilen für acht Karten nach unserer Rechnung.

Der Leitfaden verlangt außerdem, die GPUs gleichmäßig auf Sockel und PCIe-Root-Ports zu verteilen, und „NICs and NVMe drives“ sollen „within the same PCIe switch or root complex as the GPUs“ sitzen. Er ergänzt: „a PCIe switch may be optional for cost-effective inference servers“. Unsere Referenz­konfigurationen unter KI-Server folgen dem Leitfaden: zwei AMD-EPYC-Prozessoren und mindestens doppelt so viel Arbeitsspeicher wie GPU-Speicher, 384 GB bei zwei Karten, 768 GB bei vier und 1.536 GB bei acht RTX PRO 6000 Server Edition.

Zertifiziert ist ein Modell, das mit einer bestimmten GPU und Kartenzahl bestanden hat. Ein Server, der als „RTX PRO Server“ angeboten wird, sollte im Katalog mit genau dieser Karte und Kartenzahl stehen, und die Garantie für die Karten sollte mit dem Server kommen.

Switch-Boards oder ConnectX-8-SuperNICs

Acht Karten mit Gen5 x16 brauchen 128 Lanes. Zwei AMD-EPYC-9005-Prozessoren stellen in einem Server mit zwei Sockeln laut AMDs Datenblatt bis zu 160 Lanes bereit, und für Netzwerkadapter und Laufwerke bleibt dann wenig. Die meisten Server mit acht Karten setzen deshalb PCIe-Switches zwischen Prozessoren und Karten.

Der ältere Aufbau hängt die Karten hinter separate PCIe-Switch-Boards. NVIDIAs technischer Blog vom 18. Mai 2025 beschreibt ihn als zwei CPUs, acht GPUs und fünf Netzwerkadapter; dieser Aufbau „also requires two to four discrete PCIe switches“. HPEs ProLiant Compute DL380a Gen12 nutzt laut seinen technischen Unterlagen ein GPU-Kit mit vier PCIe-Switchboards, Dells PowerEdge XE7745 vier Broadcom-Switches.

In den RTX-PRO-Server-Designs mit 4U und 6U integriert jede ConnectX-8 SuperNIC „48 lanes of PCIe Gen6 connectivity with an integrated PCIe Gen6 switch“. Der Netzwerkadapter ist dann zugleich der Switch für zwei GPUs. NVIDIA nennt für diesen Aufbau bis zu 400 Gbit/s Netzwerkbandbreite je RTX PRO 6000 Server Edition und bis zu 50 GB/s je GPU für den Verkehr zwischen GPUs an verschiedenen CPU-Sockeln, gegenüber 25 GB/s oder weniger im älteren Aufbau, und gibt „up to 2x higher NCCL all-to-all performance“ an.

Beide Aufbauten werden unter derselben 4U-Beschreibung verkauft. Supermicro etwa zeigt ein SYS-422GL-NR mit Dual-Root-PCIe-5.0-Switches und ein SYS-422GL-FNR2 mit ConnectX-8-Switch-Board und acht 400GbE-Ports, beide für acht doppelt breite Karten, beide mit vier Netzteilen zu 3.200 W in 3+1, wie unser MGX-Leitfaden auflistet.

NVIDIAs technischer Blog vom 18. Mai 2025 und Supermicro-Systemseiten, wie in unserem MGX-Leitfaden zitiert (gelesen am 16. Oktober 2026); NVIDIA-Certified Systems Configuration Guide, 30. September 2026.

Ein Inferenzserver, der eine Modellkopie je Karte betreibt, schickt kaum Daten zwischen seinen Karten hin und her, und der Aufbau spielt kaum eine Rolle. Ein Modell, das mit Tensor-Parallelität über vier oder acht Karten verteilt ist, tauscht in jeder Schicht Daten aus, und Training über mehrere Server ebenso. Fragen Sie dafür, welchen Aufbau das Angebot nennt, und prüfen Sie den Weg zwischen je zwei Karten mit nvidia-smi topo -m; unser Leitfaden zu P2P, IOMMU und NCCL auf RTX-PRO-6000-Servern erklärt die Einstellungen, und RTX PRO 6000 ohne NVLink die Aufteilungen eines Modells.

Welche Herstellerserver dazu zählen

NVIDIAs Seite nennt Cisco, Dell Technologies, Hewlett Packard Enterprise, Lenovo und Supermicro unter den Systempartnern, dazu weitere Hersteller wie Advantech, ASRock Rack, Compal, Eviden, Foxconn, MiTAC Computing, Quanta Cloud Technology, Wistron und Wiwynn. Die Unterlagen der Hersteller zeigen, wie weit ihre Modelle reichen.

NVIDIA-Pressemitteilung vom 11. August 2025; Lenovo Press LP2263 (28. Juli 2026); HPE QuickSpecs a00047453enw; Datenblatt Cisco UCS C845A M8 (24. August 2026); Dell PowerEdge XE7745 Technical Guide Rev. A09 (September 2026); gelesen am 24. Oktober 2026 oder wie in unserer Liste kompatibler Server zitiert.

Dieselbe Karte kommt in jedem Modell mit anderen Grenzen. Dells Leitfaden zum XE7745 nennt für Konfigurationen mit der RTX PRO 6000 Server Edition eine höchste Umgebungs­temperatur von 30 °C und schreibt, der Server „does not support user power cap“. Lenovo nutzt den 450-W-Modus der Karte, um vier Karten in 2U unterzubringen. Unsere Liste der mit der RTX PRO 6000 Server Edition kompatiblen Server behandelt Kabel, Slots und Leistungsmodi je Modell.

Was die Bezeichnung für Käufer ändert

Die Bezeichnung sagt Ihnen, dass der Server einem NVIDIA-Aufbau folgt und, wenn das Modell im Katalog steht, dass NVIDIA ihn mit dieser Karte geprüft hat. Strom, Kühlung, Management, Support und die Verbindung zwischen den Karten legt sie nicht fest. Diese stehen in den Unterlagen des Herstellers für das genaue Modell, und ein Angebot sollte sie nennen.

Seite zu NVIDIA-Certified Systems (3. September 2026), wie in unserem MGX-Leitfaden zitiert; Herstellerunterlagen wie oben.

Unser Leitfaden zu 2, 4 oder 8 RTX PRO 6000 Server Edition je Server hilft bei der Größe, und die Ergebnisse von MLPerf® Inference v6.1 für PCIe-GPU-Server zeigen, wie nah Server mit acht Karten verschiedener Hersteller in denselben Benchmarks beieinanderlagen. Für einen Cluster aus mehreren Servern ist die skalierbare Einheit der Referenzarchitektur mit vier Knoten ein sinnvoller Planungsschritt. Wir prüfen Rack, Strom und Luftführung, bevor wir ein Angebot schreiben; beschreiben Sie Ihren Raum und die Anschlüsse je Rack, und wir sagen Ihnen, welches Design und welche Kartenzahl passen.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team legt die Konfiguration nach Ihrer Arbeitslast und Ihrem Budget aus und antwortet innerhalb eines Werktages. Wir bauen KI-Server auf Bestellung mit zwei, vier oder acht RTX PRO 6000 Server Edition, acht RTX PRO 4500 Server Edition oder H200 NVL mit NVLink-Brücken, auf Plattformen, deren Hersteller die Karte für diesen Slot und Leistungsmodus führen. Jeder Server wird vor der Lieferung montiert und getestet, und jede Komponente hat die Herstellergarantie, mit einem EU-Vertrag und einer EU-Rechnung. Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt. Betriebssystem, Treiber, CUDA und eine Container-Laufzeit installieren wir auf Wunsch.

FAQ