NVIDIA MGX Server erklärt: was die modulare Bauweise für Käufer bedeutet

Was NVIDIA MGX ist

NVIDIA MGX ist eine modulare Referenzarchitektur, mit der Serverhersteller GPU-Server aus Bausteinen bauen, die NVIDIA definiert und validiert hat, von Knoten mit 2U und 4U bis zu Systemen im Rack-Maßstab. NVIDIA nennt sie „eine offene modulare Referenzarchitektur“ für OEMs, ODMs und Partner im Ökosystem, und die MGX-Seite, aktualisiert am 31. Mai 2026, zählt „über 100 Kombinationen modularer Designs“. Ein Hersteller wählt die CPU, x86 oder NVIDIA Grace, die PCIe-GPUs, zum Beispiel die RTX PRO 6000 Blackwell Server Edition oder die H200 NVL, und das Netzwerk, etwa ConnectX SuperNICs und BlueField DPUs. HGX ist NVIDIAs anderes Serverdesign, ein Baseboard mit vier oder acht SXM-GPUs, die über NVLink verbunden sind; der HGX B300 hat acht.

Für einen Käufer bedeutet die Bezeichnung MGX, dass der Hersteller von einer Anordnung und einem Komponentensatz von NVIDIA ausgegangen ist. Servermodell, Netzteile, Lüfter, Management-Controller, Kartenliste und Garantie kommen weiterhin vom Hersteller. Als NVIDIA MGX auf der Computex 2023 vorstellte, nannte der Hersteller Gehäuse mit „1U, 2U, 4U (luft- oder flüssigkeitsgekühlt)“ und schrieb, „MGX unterscheidet sich von NVIDIA HGX™ dadurch, dass es eine flexible, generationenübergreifende Kompatibilität mit NVIDIA-Produkten bietet“.

Auf der aktuellen MGX-Seite sind die CPU-Optionen x86 und Arm, darunter NVIDIA Grace und Vera, die GPUs PCIe-Karten und Bauteile im Rack-Maßstab, und zum Netzwerk gehören BlueField DPUs, Spectrum-X Ethernet und Quantum InfiniBand. Die Seite zeigt außerdem NVIDIAs NVL72-Racks als MGX-Designs im Rack-Maßstab.

MGX vs. HGX vs. ein generischer PCIe-GPU-Server

Die drei Designs unterscheiden sich darin, wie die GPUs montiert und verbunden sind.

NVIDIA-Seiten zu MGX (31. Mai 2026), zum RTX PRO Server (11. Juni 2026) und zur RTX PRO 4500 Blackwell Server Edition (9. Juli 2026), die H200-Produktseite (27. August 2026) und die HGX-Seite (30. September 2026), alle gelesen am 16. Oktober 2026.

Für die Dimensionierung ist der wichtigste Unterschied die Verbindung zwischen den GPUs. Die RTX PRO 6000 hat kein NVLink, acht Karten in einem MGX-Server sind also acht getrennte Speicherpools zu je 96 GB, die Daten über PCIe 5.0 x16 austauschen, und der Server wird Karte für Karte geplant. Unser Beispiel zur Verteilung auf einem Server mit acht RTX PRO 6000 zeigt, wie ein Unternehmen mit 1.000 Beschäftigten seine Modelle auf die Karten verteilt. Ein HGX-B300-Server verbindet seine acht GPUs in einer NVLink-Domäne, was zu Training und zu Modellen passt, die für eine Karte zu groß sind. Unser Vergleich von DGX B300, DGX B200 und HGX B300 behandelt die HGX-Seite im Detail.

RTX PRO Server: die MGX-Designs in 2U, 4U und 6U

NVIDIA verwendet den Namen RTX PRO Server für Server mit Karten der RTX PRO Blackwell Server Edition, die seine Systempartner bauen. Die Seite zum RTX PRO Server, aktualisiert am 11. Juni 2026, zeigt vier Konfigurationen als „Beispiele auf Grundlage der modularen Referenzdesigns NVIDIA MGX™“.

Seite zum NVIDIA RTX PRO Server, aktualisiert am 11. Juni 2026, gelesen am 16. Oktober 2026; nur der 6U-Eintrag ist als flüssigkeitsgekühlt gekennzeichnet.

Die RTX PRO 4500 Blackwell Server Edition im zweiten 2U-Design ist laut NVIDIAs Produktseite vom 9. Juli 2026 eine passive Single-Slot-Karte mit 165 W und 32 GB GDDR7.

Die Seite schreibt „RTX PRO Servers are NVIDIA-Certified™“. Unter den Systempartnern nennt sie Cisco, Dell Technologies, Hewlett Packard Enterprise, Lenovo und Supermicro. Welche Modelle dieser Hersteller die Karte aufnehmen und wie viele, führt unsere Übersicht der mit der RTX PRO 6000 Server Edition kompatiblen Server auf.

NVIDIAs Referenzarchitektur für die RTX PRO AI Factory, zuletzt aktualisiert am 18. Mai 2026, beschreibt einen Server mit acht RTX PRO 6000 als „2-8-5-200 infrastructure configuration“. Sie verlangt mindestens sieben physische CPU-Kerne, 128 GB Systemspeicher und eine Gen5-x16-Anbindung je GPU. Ihr Netzwerk besteht aus vier BlueField-3 SuperNICs mit bis zu 400 Gbit/s für den Verkehr zwischen Servern und einer BlueField-3 DPU für den Nord-Süd-Verkehr. Gen5-PCIe-Switches verlangt sie nur dort, wo mehr Anbindungen nötig sind, und bevorzugt sonst die direkte Anbindung.

ConnectX-8 SuperNICs statt PCIe-Switches

Acht Karten mit Gen5 x16 brauchen 128 Lanes, die sich zwei Prozessoren außerdem mit den Netzwerkadaptern und NVMe-Laufwerken teilen; die meisten Server mit acht Karten nutzen deshalb diskrete PCIe-Switches, und einige Designs mit zwei Sockeln binden alle acht direkt an, wie unser Artikel dazu erklärt, wie viele GPUs in einen Server passen. NVIDIAs technischer Blog vom 18. Mai 2025 beschreibt die ältere Anordnung als zwei CPUs, acht GPUs und fünf Netzwerkadapter, die „außerdem zwei bis vier diskrete PCIe-Switches erfordert“. In der neueren MGX-Anordnung integriert jede ConnectX-8 SuperNIC „48 Lanes PCIe-Gen6-Konnektivität mit einem integrierten PCIe-Gen6-Switch“, sodass der Netzwerkadapter zugleich als PCIe-Switch für die GPUs dient.

Mit zwei GPUs je SuperNIC nennt NVIDIA bis zu 400 Gb/s Netzwerkbandbreite je RTX PRO 6000. Für den Verkehr zwischen GPUs an verschiedenen CPU-Sockeln nennt der Blog „bis zu 50 GB/s IO-Bandbreite pro GPU“, gegenüber 25 GB/s oder weniger in der älteren Anordnung, und er gibt „bis zu 2-mal höhere NCCL-All-to-All-Leistung“ an. Ein Inferenzserver, der eine Kopie des Modells je Karte betreibt, sendet fast nichts zwischen seinen Karten, während ein über Karten aufgeteiltes Modell und Arbeit über mehrere Knoten von der neueren Anordnung profitieren.

Beide Anordnungen werden verkauft, das Angebot muss also nennen, welche Sie bekommen. Supermicro, das NVIDIA als MGX-Partner führt, zeigt zwei 4U-Systeme für bis zu acht doppelt breite GPUs. Das SYS-422GL-NR wird als „4U MGX Dual-Root PCIe GPU System“ mit PCIe-5.0-x16-Switches beschrieben. Das SYS-422GL-FNR2 trägt ein NVIDIA ConnectX-8 PCIe Switch Board und acht Ports mit 400GbE. Beide Seiten führen die RTX PRO 6000 und RTX PRO 4500 Server Edition sowie die H200 NVL. Beide nennen vier Netzteile mit 3.200 W in einer 3+1-Konfiguration und eine Betriebstemperatur von 10 bis 35 °C.

MGX-Server mit der H200 NVL

Die H200 NVL ist die PCIe-Version der H200, und NVIDIAs Produktseite, aktualisiert am 27. August 2026, nennt als ihre Serveroptionen „NVIDIA MGX™ H200 NVL Partner- und NVIDIA-Certified Systems mit bis zu 8 GPUs“. Die H200 SXM kommt dagegen in „NVIDIA HGX™ H200 Partner- und NVIDIA-Certified Systems™ mit 4 oder 8 GPUs“. Die NVL-Karte ist eine luftgekühlte Dual-Slot-Karte mit bis zu 600 W, konfigurierbar, und 141 GB Speicher mit 4,8 TB/s. Anders als die RTX PRO 6000 kann sie 2 oder 4 Karten über eine NVLink-Brücke mit 900 GB/s je GPU verbinden.

NVIDIAs Enterprise-Referenzarchitektur für die H200 NVL nutzt, wie NVIDIAs technischer Blog vom 11. Dezember 2024 sie beschreibt, „eine PCIe-optimierte Referenzkonfiguration 2-8-5“ aus zwei CPUs, acht Karten und fünf Netzwerkadaptern. Sie sieht eine BlueField-3 SuperNIC für je zwei H200-NVL-Karten und eine BlueField-3 DPU je Server vor. Fragen Sie bei einem MGX-Server mit H200-NVL-Karten, welche Karten die Brücken verbinden, 2-Wege oder 4-Wege, und ob der Hersteller die Brücke für dieses Modell führt; Supermicro führt die NVLink-Brücke als Option bei beiden oben genannten 4U-Systemen.

Für einen MGX-Server mit H200-NVL-Karten nennt die Konfiguration, die wir vorschlagen, die Anordnung der Brücken, und wir prüfen Rack, Strom und Luftstrom, bevor wir ein Angebot erstellen. Schicken Sie uns die Karten, ihre Zahl je Server und die Stromzuleitung, und wir schlagen eine Konfiguration vor.

NVIDIA-Certified Systems: was die Bezeichnung abdeckt

NVIDIAs Seite zu NVIDIA-Certified Systems, aktualisiert am 3. September 2026, schreibt: „Alle Systeme durchlaufen eine strenge Reihe von Funktions-, Sicherheits- und Leistungstests“. Die Tests reichen von einer GPU bis zu mehreren Knoten und decken auch Netzwerk- und Storage-Offload, TPM-Sicherheit und Fernverwaltung ab. NVIDIA ergänzt: „Hardware-Support für NVIDIA-Certified Systems ist bei den Systemherstellern erhältlich“. Der Qualified System Catalog führt die zertifizierten Modelle, nach Kategorie gefiltert; prüfen Sie dort das genaue Modell mit Ihren Karten.

Ein MGX-Design ist der Ausgangspunkt des Herstellers, und die Zertifizierung ist ein eigenes Programm von NVIDIA. Ein Server muss zuerst qualifiziert werden, was NVIDIA als „Qualifizierung von Thermik, Mechanik, Stromversorgung und Signalintegrität“ beschreibt, bevor er zur Zertifizierung eingereicht werden kann. NVIDIAs Konfigurationsleitfaden für NVIDIA-Certified Systems, aktualisiert am 30. September 2026, gibt dem Inferenzserver, den er beschreibt, mindestens zwei CPU-Sockel, sechs physische Kerne je GPU und das Doppelte des gesamten GPU-Speichers als System-RAM. Er nennt 2, 4 oder 8 GPUs je Server ausgewogen und setzt NICs und NVMe-Laufwerke an denselben PCIe-Switch oder Root-Complex wie die GPUs. NVIDIA stellt diese Werte als „Ausgangspunkt für workloadspezifische Anforderungen“ dar. Unser Leitfaden dazu, was Sie beim Kauf eines KI-Servers festlegen sollten, macht daraus eine Anfrage.

Wo sich MGX-Server verschiedener Hersteller unterscheiden

Die MGX-Module legen die Anordnung fest. Stromversorgung, Kühlung, Management und Support liegen bei jedem Hersteller selbst, und dieselbe Karte kann in zwei Servern mit unterschiedlichen Grenzen kommen. Manche Modelle begrenzen einen Steckplatz auf 450 W, und manche verlangen eine bestimmte Netzteilgröße, sobald die RTX PRO 6000 konfiguriert ist. Acht Karten mit 600 W ziehen 4,8 kW, bevor Prozessoren und Lüfter hinzukommen.

Bausteine aus NVIDIAs Seiten zu MGX und zum RTX PRO Server und aus dem Konfigurationsleitfaden; Beispiele für Netzteile und Temperatur aus Supermicros Seiten zum SYS-422GL-NR und zum SYS-422GL-FNR2; gelesen am 16. Oktober 2026.

Fragen Sie nach dem Grenzwert der Zulufttemperatur für Ihre genaue GPU-Konfiguration und vergleichen Sie ihn mit dem, was der Platz im Rack im Sommer hält. Fragen Sie bei der Garantie, ob eine Karte abgedeckt ist, die außerhalb der Optionsteilenummern des Herstellers gekauft wurde.

MGX-PCIe-Server oder HGX-B300-Server

Für ein Unternehmen mit 1.000 bis 2.000 Beschäftigten, dessen Modelle in 96 oder 141 GB passen, betreibt ein MGX-PCIe-Server mit acht Karten eine Kopie des Modells je Karte. Unser Verteilungsbeispiel bedient 1.000 Beschäftigte von einem solchen Server und 2.000 von zweien. Ein Server hat kein Failover bei einem Hostausfall, ein Dienst, der auch während Wartungsfenstern laufen muss, braucht also zwei. Die H200 NVL bringt NVLink-Brücken für 2 oder 4 Karten mit, wo ein Modell oder sein Cache mehr als eine Karte braucht.

Ein HGX-B300-Server passt zu Training, zum Fine-Tuning großer Modelle und zur Inferenz von Modellen, die acht GPUs in einer NVLink-Domäne brauchen, mit insgesamt 2,1 TB GPU-Speicher. Wir liefern DGX-B300- und HGX-B300-Server projektbezogen. Bevor wir ein Angebot erstellen können, fragt die Distribution nach Unternehmen, Projekt und Verwendungszweck, und die Freigaben dauern länger als eine Bestellung von Karten.

Braucht Ihre Anwendung einen HGX-B300-Server, beschreiben Sie Unternehmen, Projekt und Verwendungszweck im Formular unten, und wir prüfen Preis und Verfügbarkeit für Ihr Projekt.

Was wir liefern

Wir bauen KI-Server auf Bestellung mit 2 bis 8 Karten RTX PRO 6000 Server Edition, RTX PRO 4500 Server Edition oder H200 NVL, montiert und im Burn-in getestet, mit Herstellergarantie auf jede Komponente und Lieferung in die ganze EU, unter einem EU-Vertrag und auf einer Rechnung. Wir prüfen Rack, Strom und Luftstrom vor dem Angebot, und Konfiguration und Angebot folgen innerhalb eines Werktages. Die professionellen NVIDIA-GPUs liefern wir auch als Karten für Server, die Sie bereits betreiben, nach einer Kompatibilitätsprüfung von Plattform, Stromversorgung und Kühlung. Lizenzen für NVIDIA AI Enterprise und vGPU kommen auf dieselbe Rechnung.

FAQ