NVIDIA DGX Station GB300 oder Workstation mit zwei bis vier RTX PRO 6000 im Vergleich

DGX Station GB300 und RTX-PRO-6000-Workstation in einer Tabelle

Die NVIDIA DGX Station GB300 und eine Workstation mit zwei bis vier NVIDIA RTX PRO 6000 Blackwell sind beide Systeme für lokale KI-Arbeit am Arbeitsplatz, und sie unterscheiden sich darin, wie sie Speicher bereitstellen. Die Station hält 252 GB HBM3e auf einer GPU bei 7,1 TB/s, neben einem Arm-Prozessor, und läuft mit Linux. Die Workstation verteilt 192 bis 384 GB GDDR7 auf zwei bis vier Karten mit je 96 GB, auf einer x86-Plattform mit Windows oder Linux, und keine Edition der RTX PRO 6000 hat NVLink.

Die Workstation-Spalten stehen für die beiden Editionen für den Arbeitsplatz, beide mit 96 GB und 1.792 GB/s: die Workstation Edition mit 600 W, von der Hersteller eine oder zwei je Tower aufführen, und die Max-Q Workstation Edition mit 300 W, für die NVIDIA bis zu vier je System nennt. Die Spezifikationen der Station selbst stehen in unserem Artikel DGX Station GB300: Spezifikationen und Alternativen.

NVIDIAs Produktseite zur DGX Station (Seitenmetadaten vom 4. November 2026), Datenblatt (August 2026) und Entwicklungsleitfaden sowie NVIDIAs MIG User Guide, gelesen am 12. November 2026; NVIDIAs Datenblätter und Produktseiten zu den Editionen der RTX PRO 6000 Blackwell. Nutzbarer Speicher und Leistungsaufnahme der Workstations sind unsere Schätzungen, die unten erklärt werden.

Eine GPU mit 252 GB oder Karten mit je 96 GB

Unsere Sizing-Regel nimmt das 0,9-Fache des Speichers, den der Treiber meldet, und zieht je GPU 3 GiB ab; der Rest nimmt Gewichte und KV-Cache auf. Eine RTX PRO 6000 meldet 95,6 GiB, das ergibt 83,0 GiB je Karte. Für die Station hat NVIDIA den gemeldeten Wert nicht veröffentlicht; wir planen deshalb mit 252 GB, also 234,7 GiB, und erhalten 208,2 GiB. Die 748 GB kohärenter Speicher sind die Summe aus diesem GPU-Speicher und 496 GB LPDDR5X am Prozessor; warum Gewichte in den HBM3e gehören, erklärt unser Artikel dazu, welche offenen Modelle auf der DGX Station GB300 laufen.

Bis 83 GiB halten beide Systeme dieselben Modelle: Llama 3.3 70B in FP8 (67,7 GiB) und gpt-oss-120b (60,8 GiB) passen auf eine Karte und auf die Station. Darüber beginnt der Unterschied. NVIDIAs NVFP4-Checkpoints von Qwen3.8-Flash-Next (123,5 GiB) und GLM-5.3-Flash (190,5 GiB) sowie DeepSeek-V4-Flash-0731 (155,5 GiB) bleiben auf der einen GPU der Station. In einer Workstation muss die Serving-Software sie auf mehrere Karten verteilen, und GLM-5.3-Flash braucht mehr als zwei (190,5 GiB gegenüber 166,1 GiB). Umgekehrt liegt Qwen3-235B-A22B-2507 in FP8 (219,8 GiB) über den 208,2 GiB der Station und passt als eine Kopie auf vier Max-Q, mit rund 112 GiB Rest für den Cache. Ein Modell, das über den HBM3e hinauswächst, kann auf der Station den LPDDR5X nutzen, mit 396 GB/s, rund einem Achtzehntel der Bandbreite des HBM3e.

Keine Edition der RTX PRO 6000 hat NVLink; die Karten tauschen Daten über PCIe 5.0 x16 aus, 64 GB/s je Richtung. vLLM schaltet sein eigenes All-Reduce bei mehr als zwei GPUs ohne NVLink ab; ein Paar behält es also, eine Aufteilung auf vier Karten nicht, und der Leitfaden von vLLM empfiehlt für GPUs ohne NVLink Pipeline-Parallelität. Die Layouts behandeln unsere Artikel zur RTX PRO 6000 ohne NVLink und zu einem Modell auf mehreren GPUs.

unsere Schätzungen nach der Sizing-Regel oben: gleichzeitige Gespräche mit vollem Kontext, die in den Speicher passen, mit FP8-KV-Cache für Llama 3.3 70B (1,25 GiB je Gespräch) und 16-Bit-Cache für gpt-oss-120b (1,125 GiB je Gespräch), wie in unseren Artikeln zu den Modellen der DGX Station und zu den Workstations mit zwei und vier Max-Q veröffentlicht.

Die Zahlen sagen nach unserer Schätzung, was in den Speicher passt, und nichts über das Tempo. Je GPU hat die Station etwa die vierfache Bandbreite einer Karte, 7,1 TB/s gegenüber 1.792 GB/s. Bandbreite geteilt durch die je Token gelesenen Bytes ergibt eine Obergrenze für eine Anfrage: Für ein dichtes 70B-Modell in FP8, das je Token rund 70,6 GB liest, sind das nach unserer Schätzung rund 100 Token pro Sekunde auf der Station und rund 25 auf einer Karte. NVIDIA veröffentlicht keine Token-Raten für die Station, und unsere Quellen enthalten keine Messung desselben Modells auf beiden Systemen; diese Seite nennt deshalb keine Rangfolge nach Tempo.

Welche Software auf Arm und welche auf x86 läuft

Der Prozessor der Station ist ein Grace mit 72 Kernen und dem „ARM v9.0 instruction set with crypto extensions“. NVIDIAs Produktseite nennt „Ubuntu with NVIDIA AI Developer Tools“ als unterstütztes Betriebssystem, und der Entwicklungsleitfaden beschreibt ein „Ubuntu 24.04 server image with desktop packages“. Weder die Spezifikationstabelle der Produktseite noch das Datenblatt nennt für die Station DGX OS. Von NVIDIAs Playbooks führt das zu vLLM die Station unter „Ubuntu (Linux)“, das zu zwei Knoten schreibt „DGX Station (DGX OS, Linux)“; eine Version von DGX OS nennt für die Station keines der gelesenen Dokumente.

Welche NVIDIA-Software auf der Station getestet ist, steht in der Abhängigkeitstabelle des Entwicklungsleitfadens.

Seite „Dependencies & Tools“ in NVIDIAs DGX Station Development Guide, gelesen am 12. November 2026; „getestet“ steht für „Yes“, „nicht unterstützt“ für „No“ in NVIDIAs Spalte.

NVIDIA definiert unterstützte Software als mit der Mindestversion und späteren Releases getestet und verifiziert. Als nicht unterstützt markierte Einträge „may still function“, ohne Zusage von NVIDIA, und es gilt: „Support coverage may evolve over time“. Zwei Seiten desselben Leitfadens widersprechen sich: Die Seite zum Software-Stack führt TensorRT-LLM unter den zentralen KI-Bibliotheken und nennt CUDA 13.1, die Abhängigkeitstabelle führt TensorRT-LLM als nicht unterstützt und nennt CUDA Toolkit 13.2 als Minimum. Für NIM und für den Production Branch von NVIDIA AI Enterprise hat NVIDIA die Unterstützung in einer Fußnote der Produktseite angekündigt. Fragen Sie nach dem aktuellen Stand, bevor Sie NIM auf einer Station einplanen.

Eigene Software muss von x86 portiert werden, und der Leitfaden nennt die Punkte. Code mit SSE-, AVX-, AVX2- oder AVX-512-Intrinsics wird auf NEON, SVE oder SVE2 umgestellt, mit SIMDe und SSE2NEON als Hilfswerkzeugen. Arm ordnet Speicherzugriffe zwischen Threads schwach, wo x86 „total store order“ hat; fehlerhafter Multithread-Code kann sich deshalb anders verhalten. Das System ist auf Speicherseiten von 64 KB abgestimmt, und Anwendungen, die 4-KB-Seiten brauchen, werden noch nicht unterstützt: „Future support is being assessed.“ Zum Ausführen von x86-Binärdateien oder zu Emulation sagt der Leitfaden nichts. Auch Agenten für Monitoring, Backup oder Endpoint-Schutz brauchen Arm64-Versionen.

Die GPU ist ein eigenes Build-Ziel. NVIDIAs MIG-Leitfaden nennt für die GB300 der Station die Compute Capability 10.3, und das Kompilierbeispiel im Entwicklungsleitfaden verwendet -DCMAKE_CUDA_ARCHITECTURES="103-real"; die RTX PRO 6000 Blackwell hat die Compute Capability 12.0. Ein Kernel oder Container, der für das eine gebaut ist, belegt nichts für das andere, wie unser Leitfaden zur Software-Unterstützung der Blackwell-RTX-Karten für die Karten erklärt.

Die Workstation ist eine x86-Plattform und läuft deshalb mit dem Betriebssystem und dem Image, die ein Unternehmen bereits verwaltet, Windows oder eine Linux-Distribution, und x86-Software und Agenten laufen unverändert. Die Karten steuern Bildschirme direkt an. MIG braucht Linux, den Treiber 575.51.03 oder neuer, ein aktuelles vBIOS und die Umschaltung der Karte in den Compute-Modus, der ihre Displayausgänge abschaltet; weder die Workstation Edition noch die Max-Q steht auf NVIDIAs vGPU-Liste. An der Station gehört der Mini-DisplayPort zum Management-Controller; ein Monitor für Grafikarbeit braucht deshalb die eine zusätzliche RTX-PRO-Karte, die NVIDIA zulässt. NVIDIAs Leitfaden hält fest: „RTX PRO device memory is not hardware-coherent with CPU memory.“

NVIDIA hat auf einer eigenen Seite eine DGX Station for Windows angekündigt, und HP nennt seine Version die „first GB300 AI station certified to run on Red Hat Enterprise Linux“. Lassen Sie sich in beiden Fällen das Betriebssystem für die bestellte Herstellerversion schriftlich bestätigen. Wir bauen Workstations mit RTX PRO 6000 auf Bestellung und liefern Herstellerversionen der DGX Station projektbezogen; schicken Sie uns die Software, die Sie heute einsetzen, und das größte geplante Modell, wir antworten innerhalb eines Werktages.

Strom, Abwärme und Lautstärke am Arbeitsplatz

NVIDIA gibt für die Station eine Systemleistung von insgesamt 1.600 W an. Bei 230 V sind das rund 7 A, und die Abwärme beträgt bis zu rund 1,6 kW, beides nach unserer Schätzung. ASUS, Gigabyte und Supermicro beschreiben für den Superchip einen geschlossenen Flüssigkeitskreislauf, und in den gelesenen Dokumenten nennt nur ASUS einen Geräuschwert, etwa 50 dB im Auto Mode bei maximaler Last ohne zusätzliche Grafikkarte. Hinweise zum Stromkreis, Netzkabel und Raum behandelt unser Artikel DGX Station GB300: Stromverbrauch und Kühlung im Büro.

Für die Workstation rechnet unsere Schätzung zur Leistung der Karten einen Prozessor mit 350 W hinzu und 15 Prozent für Arbeitsspeicher, Laufwerke, Lüfter und Netzteilverluste; eine Messung am gelieferten System bestätigt den Wert.

NVIDIAs Systemleistung insgesamt für die DGX Station; die Workstation-Zeilen sind unsere Schätzungen aus unseren Artikeln zu zwei Workstation Edition und zur Workstation mit vier Max-Q; Abwärme nach unserer Umrechnung mit 1 W = 3,412 BTU/h.

Nach unserer Planungsregel, ein Stromkreis mit 230 V und 16 A zu 80 Prozent oder 2,94 kW, passt jedes dieser Systeme an einen Stromkreis, zwei der größeren nicht. Die Workstation Edition hat einen Double-Flow-Through-Kühler, die Max-Q einen aktiven Kühler. Für zwei Workstation Edition veröffentlicht kein Hersteller einen akustischen Wert unter GPU-Last, und für vier Max-Q haben wir keine unabhängige Geräuschmessung gefunden. Tower, Netzteile und Kühlung behandeln unsere Artikel zu zwei Workstation Edition und zu vier Max-Q in einer Workstation.

Was sich später ergänzen lässt

NVIDIAs Spezifikation führt für die Station eine Speicherkonfiguration, vier M.2-Steckplätze und drei PCIe-Steckplätze auf, und die Station „can be configured with up to one additional NVIDIA RTX PRO Blackwell Generation GPU“. Wachstum darüber hinaus ist eine zweite Station: NVIDIA unterstützt die Kopplung von bis zu zwei, direkt verkabelt mit zwei QSFP-Kabeln zu je 400 Gbit/s, und das Playbook hält fest: „No inter-node NVLink“.

Eine Workstation wächst mit Karten, bis zu vier Max-Q in einem Tower, der vier aufführt. Vier Karten mit x16 belegen 64 PCIe-5.0-Lanes, und den Arbeitsspeicher legen wir auf das Doppelte des GPU-Speichers aus, 768 GB bei vier Karten, nach NVIDIAs Konfigurations­leitfaden für zertifizierte Systeme. Jede Karte ist eine Standard-PCIe-Karte mit Herstellergarantie und lässt sich einzeln tauschen. Passen die Modelle auf kleinere Karten, nimmt ein Tower andere Karten aus unserem Sortiment auf: Die RTX PRO 5000 Blackwell mit 48 GB hat nach unserer Regel ein Budget von 40,0 GiB je Karte (Kaufseite, 48 GB und 72 GB im Vergleich), und unsere Übersicht der Alternativen zur RTX PRO 6000 mit 48 und 32 GB zeigt, welche Aufgaben solche Karten tragen.

Wie jedes System bestellt wird

NVIDIA verkauft die Station nicht selbst. Die Produktseite führt sieben Hersteller auf, darunter ASUS, Dell, Gigabyte, HP, MSI und Supermicro, die eigene Versionen bauen; zwei davon beschreiben unsere Artikel zur Gigabyte W775-V10-L01 und zum ASUS ExpertCenter Pro ET900N G3. Herstellerversionen der DGX Station GB300 liefern wir projektbezogen: Bevor wir ein Angebot erstellen können, fragt die Distribution nach Unternehmen, Projekt und Verwendungszweck. Die Schritte stehen in unserem Leitfaden DGX Station GB300 in der EU kaufen.

Die Workstation wird auf Bestellung gebaut: Wir konfigurieren sie auf einer Plattform mit Threadripper PRO oder Xeon W, mit einer oder zwei Workstation Edition oder bis zu vier Max-Q, montieren und testen sie vor der Lieferung und schicken ein schriftliches Angebot innerhalb eines Werktages; die Herstellergarantie auf jede Komponente wird über uns abgewickelt. Die Kaufseiten zu zwei Max-Q, vier Max-Q und zum PC mit Workstation Edition führen die Konfigurationen auf; die Karte steht auf unserer Seite zur RTX PRO 6000, ihre Werte in den technischen Daten der RTX PRO 6000 Blackwell. Nennen Sie uns die Modelle, die Zahl der Nutzer und den Raum, dann bieten wir die Workstation an oder bereiten die Projektanfrage für die Station vor.

Welches System zu welcher Aufgabe passt

• Ein Modell zwischen rund 83 und 190 GiB Gewichten, für einen Entwickler oder wenige Nutzer. Die Station hält es ohne Aufteilung auf einer GPU bei 7,1 TB/s, sofern die Toolchain auf Arm-Linux läuft.
• Windows-Anwendungen, CAD, Rendering oder reine x86-Software neben der KI-Arbeit. Die Workstation: Für die Station nennt NVIDIA Ubuntu.
• Viele Entwickler mit je einem GPU-Anteil. Vier Max-Q ergeben bis zu 16 MIG-Instanzen mit 24 GB; die Station bis zu sieben, jede mit einem Achtel ihres GPU-Speichers. Die gemeinsame Nutzung behandelt unser Artikel zur DGX Station GB300 im Team.
• Mehrere Modelle nebeneinander oder viele Nutzer eines Modells, das auf eine Karte passt. Die Workstation betreibt eine Kopie je Karte, und eine ausgefallene Karte stoppt eine Kopie.
• Ein Modell über 208 GiB, das im GPU-Speicher bleiben soll. Vier Max-Q halten nach unserer Regel 332,2 GiB, über PCIe verteilt; über rund 330 GiB ist der nächste Schritt ein Server mit acht Karten.
• Entwicklung für den Betrieb auf x86-Servern mit RTX PRO 6000 Server Edition. Eine Workstation mit Workstation Edition oder Max-Q hat dieselbe x86-Plattform, dieselben 96 GB je Karte und dieselbe Compute Capability 12.0 wie diese Server.
• Kleinere Modelle. Siehe unsere GPU-Workstations von der RTX PRO 2000 bis zur RTX PRO 5000 und den Vergleich DGX Station und DGX Spark.

FAQ