DGX Station GB300: technische Daten, Speicher und Alternativen mit RTX PRO 6000 und H200 NVL

Technische Daten der NVIDIA DGX Station GB300

Die NVIDIA DGX Station ist ein KI-System im Deskside-Format auf Basis eines GB300 Grace Blackwell Ultra Desktop Superchip, der eine Grace-CPU mit 72 Kernen und eine Blackwell-Ultra-GPU über NVLink-C2C mit 900 GB/s verbindet. Stand Oktober 2026 nennen NVIDIAs Produktseite und Datenblatt insgesamt 748 GB kohärenten Speicher. Davon sind 252 GB HBM3e mit 7,1 TB/s an der GPU und 496 GB LPDDR5X mit 396 GB/s an der CPU. NVIDIAs Seite nennt Dell, Exxact, HP, MSI und Supermicro unter den Herstellern, die sie bauen. Wir liefern sie nicht; die Alternativen unten sind die Systeme mit RTX PRO 6000 und H200 NVL, die wir liefern.

NVIDIA nennt 20 PFLOPS FP4 und 10 PFLOPS FP8, beide mit Sparsity laut der Fußnote im Datenblatt, die für jeden nicht anders gekennzeichneten Tensor-Core-Wert gilt. Die GPU lässt sich in bis zu sieben MIG-Instanzen aufteilen. Ein ConnectX-8 SuperNIC liefert bis zu 800 Gb/s Ethernet über zwei Ports mit 400 Gb/s, und NVIDIA gibt die Leistungsaufnahme des gesamten Systems mit 1.600 W an. NVIDIAs Produktseite und Datenblatt nennen Ubuntu mit NVIDIA AI Developer Tools als unterstütztes Betriebssystem; laut Entwicklungsleitfaden basiert es auf Ubuntu 24.04, und die Grace-Kerne nutzen den Befehlssatz Arm v9.0.

Die Version von Supermicro ist ein 40 kg schwerer Tower mit Flüssigkeitskühlung im geschlossenen Kreislauf und einem Netzteil mit 1.600 W, und im Rack belegt sie 6U. Das kleinere GB10-System behandelt unser Vergleich von DGX Station und DGX Spark.

Speicher der DGX Station: 252 GB HBM3e und 496 GB LPDDR5X

NVIDIAs Ankündigung vom 18. März 2025 nannte für die DGX Station „784 GB kohärenten Speicherraum“. Die aktuelle Produktseite, das Datenblatt vom August 2026 und der am 22. Juli 2026 aktualisierte Entwicklungsleitfaden der DGX Station nennen 748 GB. ServeTheHome berichtete am 20. März 2026, dass die Spezifikation von 2025 288 GB HBM3e mit 8 TB/s vorsah; mit den 496 GB LPDDR5X ergibt das nach unserer Rechnung 784 GB. Die Produktseite von Supermicro stimmt mit den aktuellen Werten überein. Ein Test oder Angebot, das 784 GB nennt, wiederholt den Wert von 2025.

Nur die 252 GB HBM3e sind GPU-Speicher. Die 496 GB LPDDR5X hängen mit 396 GB/s an der Grace-CPU, etwa ein Achtzehntel der Bandbreite des HBM3e. Die GPU erreicht sie über NVLink-C2C, das laut Entwicklungsleitfaden „den kohärenten Zugriff auf CPU- und GPU-Speicher ermöglicht“. NVIDIAs technischer Blog vom 5. September 2025 beschreibt das auf Grace-Systemen als „einen einzigen, einheitlichen Speicheradressraum, den sich CPU und GPU teilen“; Software kann daher mehr Speicher belegen, als die GPU fasst, ohne Daten von Hand zu kopieren.

HBM3e und LPDDR5X bei der LLM-Inferenz

Für jedes erzeugte Token wird jedes aktive Gewicht einmal gelesen, die Geschwindigkeit, die ein Nutzer sieht, folgt also der Speicherbandbreite, wie unser Vergleich von RTX PRO 6000 und H200 NVL für die LLM-Inferenz durchrechnet. Auf der DGX Station gehören die Gewichte und der KV-Cache aktiver Gespräche in die 252 GB HBM3e. Gewichte im LPDDR5X werden mit höchstens 396 GB/s gelesen, das Lesen dauert also etwa 18-mal so lange wie aus dem HBM3e. NVIDIAs Seiten nennen keine Token-Raten für ein Modell, das auf beide Ebenen verteilt ist, und NVIDIAs technischer Blog führt das Auslagern des KV-Cache unter den Arbeitslasten, die vom gemeinsamen Speicher profitieren.

Qwen3-235B-A22B in NVFP4, mit etwa 134 GB Gewichten, passt mit Platz für seinen Cache in den HBM3e, und die Blackwell-Ultra-GPU rechnet FP4 nativ. Dasselbe Modell in FP8, mit 236 GB, ließe im HBM3e kaum Platz für den Cache. Laut NVIDIAs Entwicklungsleitfaden ermöglichen die 748 GB die Arbeit mit Modellen von bis zu 1T Parametern, und bei dieser Größe liegt der Großteil der Gewichte in der langsameren Ebene. Kimi K2 Thinking, ein in INT4 veröffentlichtes Modell mit 1T Parametern, hat 594 GB Gewichte, mehr als das Doppelte des HBM3e. Den Bedarf einzelner Modelle zeigt unser Leitfaden zu LLM-Hardwareanforderungen nach Modell.

DGX Station vs. Systeme mit RTX PRO 6000 und H200 NVL

Die Tabelle vergleicht die DGX Station mit den drei Alternativen, die wir liefern, jeweils in der größten Ausbaustufe; diese verteilen den Speicher auf mehrere PCIe-Karten.

NVIDIA-Produktseiten, Datenblatt der DGX Station (August 2026) und MIG-Benutzerhandbuch, gelesen am 9. Oktober 2026; „mit Sparsity“ kennzeichnet NVIDIAs Werte mit Sparsity; die Seite der Server Edition macht keine Angabe zur Sparsity; die Leistung des Towers an der Steckdose ist unsere Schätzung.

Workstation mit RTX PRO 6000 Max-Q als Alternative zur DGX Station

Die Alternative für den Arbeitsplatz ist ein Tower mit zwei bis vier Karten der RTX PRO 6000 Blackwell Max-Q, jede mit 96 GB GDDR7 bei 1.792 GB/s und einer Leistungsgrenze von 300 W. NVIDIA gibt an, dass die Max-Q „bis zu vier GPUs in einem einzigen System“ ermöglicht, 384 GB insgesamt. Das ist mehr GPU-Speicher, als die DGX Station an HBM3e hat, bei etwa einem Viertel ihrer Bandbreite je GPU. Keine Edition der RTX PRO 6000 hat NVLink, ein Modell über 96 GB wird also über PCIe Gen5 auf die Karten verteilt. MIG teilt jede Karte in bis zu vier isolierte Instanzen zu 24 GB, sechzehn im Tower; vGPU gibt es auf der Max-Q nicht.

Ein Tower mit vier Karten zieht unter Volllast nach unserer Schätzung etwa 1,8 bis 2 kW an der Steckdose, gegenüber den 1.600 W, die NVIDIA für die DGX Station angibt. Geeignete Tower, PCIe-Lanes, Netzteile und Wärme behandelt unser Artikel zu vier RTX PRO 6000 Max-Q in einer Workstation.

Rackserver mit Karten der RTX PRO 6000 Server Edition

Für einen Serverraum kommt die RTX PRO 6000 Server Edition in Rackserver mit vier bis acht Karten. Sie hat dieselben 96 GB GDDR7, mit 1.597 GB/s statt 1.792 GB/s, und eine konfigurierbare Leistungsgrenze von bis zu 600 W. Acht Karten fassen 768 GB, das Dreifache des HBM3e der DGX Station, als acht getrennte Speicher, die über PCIe verbunden sind. MIG ergibt bis zu vier Instanzen zu 24 GB je Karte, 32 bei acht Karten, und die Server Edition ist die einzige Edition der RTX PRO 6000 mit vGPU für virtuelle Maschinen.

Für viele Nutzer hält der Server eine Kopie des Modells je Karte hinter einem Load Balancer. Nach unserer Dimensionierungsregel fasst eine Karte Llama 3.3 70B in FP8 mit FP8-Cache für etwa zwölf gleichzeitige Gespräche mit 8K Kontext, acht Kopien also etwa achtmal so viele. Acht Karten mit 600 W ziehen 4,8 kW, bevor Prozessoren und Lüfter hinzukommen; planen Sie daher dreiphasige Zuleitungen am Rack.

DGX Station vs. H200-NVL-Server mit NVLink-Bridges

Die H200 NVL ist eine luftgekühlte PCIe-Karte im Dual-Slot-Format mit 141 GB HBM3e bei 4,8 TB/s und einer konfigurierbaren Leistungsgrenze von bis zu 600 W. NVLink-Bridges für zwei oder vier Karten verbinden diese mit 900 GB/s je GPU, gegenüber 128 GB/s über PCIe Gen5. Zwei gekoppelte Karten fassen 282 GB HBM3e, 30 GB mehr als die GPU der DGX Station, und vier fassen 564 GB. Hopper hat FP8, aber keine FP4-Arithmetik, und vLLM führt NVFP4-Checkpoints darauf nur als Weight-only-Variante aus; dimensionieren Sie die Karte also nach FP8- oder INT4-Gewichten. Jede Karte teilt sich in bis zu sieben MIG-Instanzen zu 16,5 GB und enthält ein fünfjähriges Abonnement für NVIDIA AI Enterprise.

Vier gekoppelte H200 NVL halten größere Modelle vollständig im HBM3e. GLM-4.5 in FP8 mit 361 GB Gewichten und Llama 4 Maverick in FP8 mit 417 GB passen in 564 GB, während die DGX Station von beiden jeweils mehr als 100 GB im LPDDR5X halten würde. Wo ein NVFP4-Checkpoint veröffentlicht ist, ist er deutlich kleiner, bei Qwen3-235B 134 GB gegenüber 236 GB in FP8, und die DGX Station führt ihn nativ aus, anders als die H200 NVL. Die DGX Station hat auf ihrer einen GPU außerdem mehr Bandbreite, 7,1 TB/s gegenüber 4,8 TB/s. Kartenzahlen für Modelle mit 235B bis 1T Parametern nennt unser Leitfaden dazu, wie viele H200-NVL-Karten große Modelle brauchen.

Wir liefern die RTX PRO 6000 und die H200 NVL mit ihren NVLink-Bridges, als Karten oder in Servern, die nach Auftrag gebaut werden. Nennen Sie uns die Modelle und die Zahl der Nutzer, und wir schlagen eine Konfiguration mit RTX PRO 6000 oder H200 NVL vor.

Wo die DGX Station die stärkere Wahl ist

Die DGX Station ist die stärkere Wahl, wenn ein großes Modell für einen Entwickler oder wenige Nutzer läuft. Ein Modell, das für eine H200 NVL mit 141 GB zu groß ist, aber mit seinem Cache in 252 GB passt, läuft auf einer GPU mit 7,1 TB/s, ohne aufgeteilt zu werden. Zwei gekoppelte H200 NVL fassen es ebenfalls und lesen mit Tensor-Parallelismus ihre Hälften der Gewichte nach unserer Rechnung mit zusammen 9,6 TB/s, auf Kosten von Bridge-Verkehr in jeder Schicht. Der LPDDR5X ergänzt 496 GB kohärenten Speicher für Modelle oder Caches, die nicht passen, bei geringerer Geschwindigkeit. Eine PCIe-Karte erreicht den Hostspeicher nur über PCIe Gen5, nach NVIDIAs Zahlen mit einem Siebtel der Bandbreite von NVLink-C2C.

Der ConnectX-8 liefert bis zu 800 Gb/s Netzwerkbandbreite ohne zusätzliche Karte. NVIDIAs Datenblatt sagt, dass Entwickler Modelle lokal bearbeiten und sie „mit denselben Tools, Bibliotheken, Frameworks und vortrainierten Modellen“ in der Cloud oder im Rechenzentrum bereitstellen können. Mit 1.600 W Systemleistung passt die DGX Station auch in ein Büro ohne Serverraum, an einem dafür geplanten Stromkreis.

Wo Systeme mit RTX PRO 6000 und H200 NVL besser passen

Die Systeme, die wir liefern, sind die stärkere Wahl, wenn viele Personen das System gleichzeitig nutzen. Jedes aktive Gespräch hat seinen eigenen KV-Cache, der Speicherbedarf eines Dienstes wächst also mit seinen Nutzern. Acht Karten der Server Edition bieten 768 GB und vier H200 NVL 564 GB, gegenüber 252 GB HBM3e auf der DGX Station. Die MIG-Isolation wächst mit der Kartenzahl, von bis zu sieben Instanzen auf der DGX Station auf sechzehn in einem Tower mit vier Karten und 32 in einem Server mit acht Karten.

Jede GPU in diesen Systemen ist eine Standard-PCIe-Karte mit Herstellergarantie, die sich für sich austauschen lässt. Unsere Systeme nutzen Prozessoren vom Typ AMD EPYC, Intel Xeon oder Threadripper PRO, x86-Software und Monitoring-Agenten laufen also unverändert; auf der Arm-basierten Grace-CPU der DGX Station brauchen sie Arm-Builds. Für Fine-Tuning als gemeinsam genutzten Dienst verbinden H200-NVL-Karten HBM3e mit NVLink mit 900 GB/s zwischen den Karten.

Unsere Lesart der NVIDIA-Spezifikationen aus der ersten Tabelle.

Wir bauen Workstations mit RTX PRO 6000 sowie Server mit RTX PRO 6000 oder H200 NVL nach Auftrag und prüfen Rack, Strom und Luftstrom, bevor wir ein Angebot erstellen. Schreiben Sie uns die Modelle, ihre Präzision und die Zahl gleichzeitiger Nutzer.

Was wir liefern

Wir liefern die RTX PRO 6000 Blackwell in den Editionen Workstation, Max-Q und Server sowie die H200 NVL mit ihren Zweifach- und Vierfach-NVLink-Bridges, als professionelle NVIDIA-GPUs für Systeme, die Sie bereits betreiben, oder in auf Bestellung gebauten KI-Servern, die wir montieren und im Burn-in testen. Alles kommt mit Herstellergarantie unter einem EU-Vertrag und auf einer Rechnung, zusammen mit Lizenzen für NVIDIA AI Enterprise und vGPU. Die DGX Station bauen die Hersteller, die NVIDIA auflistet; wir liefern sie nicht. Modelle, RAG und MLOps darauf sind unsere Leistung Private AI/ML; das Engineering übernimmt unser Engineering-Partner Vixen.UNO.

FAQ