DGX B300 vs. DGX B200 vs. HGX-B300-Server: Unterschiede und welches System passt

DGX B300 vs. DGX B200: die Unterschiede

Der DGX B300 und der DGX B200 sind beide NVIDIA-Systeme mit acht SXM-GPUs, zwei NVLink-Switches und 14,4 TB/s aggregierter NVLink-Bandbreite in 10U. Im Vergleich B300 vs. B200 trägt jede B300 (Blackwell Ultra) 288 GB HBM3e gegenüber 180 GB je GPU im DGX B200, liefert 50 Prozent mehr dichten FP4-Durchsatz und nach NVIDIAs Angabe den doppelten Attention-Durchsatz. Der DGX B300 wechselt beim Clusternetz von ConnectX-7 mit 400 Gbit/s auf ConnectX-8 mit 800 Gbit/s je GPU, und seine GPUs geben den größten Teil des FP64- und INT8-Durchsatzes auf. HGX B300 vs. DGX B300 ist eine eigene Frage: NVIDIA druckt für beide dieselben GPU-Werte, doch ein HGX-B300-Server wird von einem Serverhersteller gebaut, mit dessen Prozessoren, Arbeitsspeicher, Kühlung und Support.

Je System mit acht GPUs, sofern nicht „je GPU“ angegeben. NVIDIA-HGX-Plattformseite (Stand 30. September 2026), Produktseiten DGX B200 und DGX B300 (Stand 16. und 15. Oktober 2026), DGX B300 User Guide (5. Oktober 2026); Attention und Bandbreite je GPU aus NVIDIAs technischem Blog zu Blackwell Ultra (22. August 2025) und dem Datenblatt des DGX B300 (Februar 2026); Compute Capability aus NVIDIAs CUDA-GPU-Liste, abgerufen am 16. Oktober 2026.

Leistung B300 vs. B200: dichtes FP4, FP8 und Attention

NVIDIA gibt die meisten Tensor-Core-Werte mit Sparsity an, und die Fußnote dazu lautet: „Dicht ist ½ des gezeigten Sparsity-Werts.“ Für FP4 nennt die HGX-Tabelle beide Werte, und der Sparsity-Wert ist für beide Systeme gleich, 144 PFLOPS. Der dichte Wert unterscheidet sich: 108 PFLOPS für acht B300 gegenüber 72 für acht B200, nach unserer Division 13,5 und 9 PFLOPS je GPU. NVIDIAs Blog zu Blackwell Ultra gibt für die Chips 15 und 10 PFLOPS dichtes NVFP4 an, dasselbe Verhältnis von 1,5. NVFP4-Checkpoints nutzen die strukturierte 2:4-Sparsity hinter dem Sparsity-Wert nicht; vergleichen Sie daher die dichte Spalte, wie unser Vergleich dichter und Sparsity-Werte in TFLOPS erklärt.

FP8 und BF16 bleiben unverändert, bei 72 und 36 PFLOPS mit Sparsity je System. Ein in FP8 betriebenes Modell oder ein Training in BF16 oder FP8 gewinnt durch die Tensor-Raten der B300 auf dem Papier nichts. NVIDIA nennt für beide bis zu 8 TB/s Speicherbandbreite je GPU; die Obergrenze für die Token-Rate eines Nutzers, Bandbreite geteilt durch die je Token gelesenen Bytes, ist für ein Modell, das auf beide GPUs passt, daher etwa gleich. Die B300 gewinnt dort, wo FP4-Rechenleistung, Attention oder Speicherkapazität die Arbeit begrenzen: bei der Prompt-Verarbeitung und großen Batches in NVFP4, bei langen Kontexten und bei mehr gleichzeitigen Sitzungen je GPU.

Für Attention nennt NVIDIAs Blog für die Special Function Units 10,7 TeraExponentials pro Sekunde bei Blackwell Ultra gegenüber 5 bei Blackwell, was eine „bis zu 2-fach schnellere“ Berechnung der Attention-Schichten ergebe. Attention wächst mit dem Kontext, der Gewinn ist also am größten bei langen Prompts, RAG-Anfragen mit vielen abgerufenen Passagen und Reasoning-Modellen, die lange Antworten schreiben.

Die B300 gibt doppelte Genauigkeit und INT8 auf. NVIDIAs HGX-Tabelle nennt 10 TFLOPS FP64 je System mit acht GPUs gegenüber 296 bei der B200 und 3 POPS INT8 gegenüber 72. Ein Simulations-, CFD- oder Quantenchemie-Code, der FP64 braucht, läuft auf dem neueren System deutlich langsamer. Modelle, deren Gewichte und Aktivierungen auf INT8 quantisiert sind, sollten auf der B300 auf FP8 umgestellt werden, das dort mit derselben Rate läuft wie auf der B200.

Technische Daten DGX B200 vs. DGX B300: Strom, Kühlung, CPU, Netzwerk

Nach NVIDIAs Angaben nehmen die beiden DGX-Modelle ähnlich viel Leistung auf und unterscheiden sich bei Netzwerk, Gewicht, Stromverteilung und Zuluftgrenze.

NVIDIA DGX B200 User Guide (Stand 8. September 2026) und Produktseite (16. Oktober 2026); DGX B300 User Guide (Stand 5. Oktober 2026), Produktseite (15. Oktober 2026), Datenblatt (Februar 2026) und „Data Center Best Practices with DGX B300“ (Version 1.0, 27. Februar 2026).

NVIDIA bietet den DGX B300 in einer Version für Wechselstrom mit PDU und einer für Gleichstrom mit Stromschiene an, und die Produktseite nennt ihn „erstmals in NVIDIA-MGX-Racks einsetzbar“. Die niedrigere Zuluftgrenze zählt, wenn beide Generationen in einem Raum stehen, denn Zuluft zwischen 30 und 35 °C passt zum DGX B200, aber nicht zum DGX B300. NVIDIAs Rechenzentrumsleitfaden legt ein Rack mit zwei DGX B300 an Wechselstrom auf 39,4 kW Spitze und 30 kW im Mittel aus; planen Sie die Stromzuleitung daher auf die Spitze und nicht auf die Typenschildwerte aus der Tabelle. Das Clusternetz verdoppelt sich je Port, Switches, Optiken und Kabel müssen also für 800 Gbit/s geplant werden. NVIDIAs Referenzarchitektur DGX SuperPOD für den DGX B300 mit Wechselstrom, aktualisiert am 2. September 2026, nutzt Quantum-X800-InfiniBand-Switching und skalierbare Einheiten mit 72 Systemen. Raum, Bodenlast und Stromverteilung für ein oder zwei Systeme behandelt unser Artikel zu technischen Daten und Strombedarf des DGX B300.

HGX B300 vs. DGX B300: NVIDIAs System oder ein Herstellerserver

NVIDIA beschreibt HGX als „ein einzelnes Baseboard mit acht“ SXM-GPUs der Generationen Rubin, Blackwell oder Blackwell Ultra, und Serverhersteller bauen ihre HGX-B300-Server darum herum. Die GPU-Werte in NVIDIAs HGX-Tabelle sind dieselben wie beim DGX B300, und die Tabelle ergänzt: „CPU- und Speicherdaten werden durch die Angebote der OEMs festgelegt.“ Als NVIDIA Blackwell Ultra am 18. März 2025 ankündigte, nannte es Cisco, Dell Technologies, Hewlett Packard Enterprise, Lenovo und Supermicro unter den Unternehmen, die darauf basierende Server liefern sollten. Deren HGX-B300-Server unterscheiden sich vom DGX B300 und voneinander bei Prozessoren, Arbeitsspeicher, Gehäusehöhe und Kühlung.

Der luftgekühlte 8U-HGX-B300-Server von Supermicro nimmt zum Beispiel zwei AMD-EPYC-9005-Prozessoren und bis zu 6 TB DDR5 auf. Seine 4U-Version arbeitet mit direkter Flüssigkeitskühlung, die laut Supermicro bis zu 98 Prozent der Systemwärme abführt, und bringt bis zu 64 GPUs in ein Standard-19-Zoll-Rack (Pressemitteilung vom 9. Dezember 2025).

NVIDIA-Produktseite DGX B300 (15. Oktober 2026) und HGX-Plattformseite (30. September 2026); Supermicro-Produktseite AS-8126GS-NB3RT, abgerufen am 16. Oktober 2026, und Pressemitteilung vom 9. Dezember 2025.

Wählen Sie den DGX B300, wenn ein Unternehmen für das ganze System einstehen soll, wenn Sie entlang NVIDIAs Referenzarchitekturen DGX BasePOD oder SuperPOD wachsen wollen und wenn Sie Mission Control für den Clusterbetrieb nutzen möchten. Wählen Sie einen HGX-B300-Server, wenn Sie AMD-Prozessoren, mehr als 4 TB Arbeitsspeicher, direkte Flüssigkeitskühlung oder ein niedrigeres Gehäuse brauchen oder wenn Ihre übrigen Server bereits unter den Management-Tools und dem Supportvertrag eines Herstellers laufen. NVIDIA AI Enterprise wird auf beiden pro GPU lizenziert, acht Lizenzen je System, und die Seite des DGX B300 führt die Software als empfohlen, nicht als enthalten. Den Kauf selbst behandelt unser Leitfaden zum Kauf eines DGX B300 in der EU.

Wir liefern den DGX B300 und die HGX-B300-Server projektbezogen. Bevor wir ein Angebot erstellen können, fragt die Distribution nach Unternehmen, Projekt und Verwendungszweck: Nennen Sie uns diese drei Angaben, dann prüfen wir Preis und Verfügbarkeit für Ihr Projekt.

Welches System für Inferenz, Training, HPC und gemischte Flotten

Für die Inferenz großer Modelle mit langen Kontexten entscheidet der Speicher der B300. Llama 3.1 405B in FP8 belegt bei einem Byte je Parameter etwa 405 GB für die Gewichte. Auf einem DGX B200 bleibt damit vor Abzug einer Reserve etwa 1 TB für den KV-Cache, auf einem DGX B300 etwa 1,7 TB von den 2,1 TB, die NVIDIA angibt; die B300 hält also etwa 60 Prozent mehr gleichzeitige lange Sitzungen. Ein 70B-Modell in BF16, etwa 141 GB, passt auf eine B200-GPU mit unter 40 GB Spielraum und auf eine B300-GPU mit mehr als 100 GB, und das verändert, wie viele Gespräche jede Kopie bedient.

Für Training und Fine-Tuning in BF16 oder FP8 sind die Tensor-Raten gleich; der Vorteil der B300 liegt im Speicher je GPU, für größere Batches oder weniger GPUs je Modell-Shard, und in 800 Gbit/s je GPU zwischen den Knoten. Für HPC-Codes, die FP64 brauchen, hat die B200 nach NVIDIAs Werten etwa die 30-fache Rate der B300, 296 gegenüber 10 TFLOPS je System, und die H200 NVL ist mit 30 TFLOPS je Karte angegeben.

Gemischte Flotten funktionieren, wenn Jobs danach verteilt werden, was jede Generation gut kann: FP64- und INT8-Arbeit auf die B200-Knoten, Inferenz mit langem Kontext und in NVFP4 auf die B300. NVIDIAs CUDA-Liste gibt der B200 die Compute Capability 10.0 und der B300 10.3; prüfen Sie daher, ob die eingesetzten Framework- und Container-Versionen die B300 unterstützen, bevor beide in einer Scheduler-Warteschlange laufen.

Wann ein PCIe-Server mit H200 NVL oder RTX PRO 6000 besser passt

Ein SXM-System mit acht GPUs ist für Modelle ausgelegt, die mit niedriger Latenz über GPUs verteilt werden müssen, und für Training, das in jedem Schritt Gradienten austauscht. Passt jede Modellkopie auf eine RTX PRO 6000 Server Edition mit 96 GB oder eine H200 NVL mit 141 GB, betreibt ein PCIe-Server eine Kopie je Karte, braucht mit acht Karten zu 600 W 4,8 kW GPU-Leistung und steht in einem gewöhnlichen Serverraum. Unser Vergleich von DGX B300 und acht RTX PRO 6000 stellt beide gegenüber, und der Vergleich von RTX PRO 6000 und H200 NVL behandelt die Wahl zwischen den beiden Karten. Die H200 NVL eignet sich außerdem für FP64-Arbeit und verbindet 2 oder 4 Karten per NVLink-Bridge, und die RTX PRO 6000 bietet zusätzlich Grafik und virtuelle Workstations, die der B300 fehlen.

Wir bauen KI-Server nach Auftrag mit vier oder acht dieser Karten und prüfen vor dem Angebot Rack, Strom und Luftstrom. Beschreiben Sie Ihre Modelle, deren Präzision und die Zahl der Nutzer, und wir antworten innerhalb eines Werktages mit Konfiguration und Angebot.

Was wir liefern

Wir liefern den DGX B300 und die HGX-B300-Server projektbezogen, unter einem EU-Vertrag und auf einer Rechnung. Bevor wir ein Angebot erstellen können, fragt die Distribution nach Unternehmen, Projekt und Verwendungszweck. Die Freigaben dauern länger als eine Bestellung von Grafikkarten. Für Workloads, die auf PCIe-Karten passen, bauen wir KI-Server nach Auftrag mit Karten H200 NVL und RTX PRO 6000 Server Edition, montiert und im Burn-in getestet, mit Herstellergarantie auf jede Komponente. Die Karten selbst finden Sie in unserem Sortiment professioneller GPUs, und Lizenzen für NVIDIA AI Enterprise kommen auf dieselbe Rechnung.

FAQ