NVIDIA DGX Spark: Zwei Knoten im Verbund, und was er jenseits von Sprachmodellen kann

Warum überhaupt jemand zwei koppelt

Unser erster DGX-Spark-Artikel endete mit der Grenze, die die Maschine definiert: 273 GB/s Speicherbandbreite, die die Generierung für einen einzelnen Nutzer auf einem dichten 70B-Modell auf wenige Token pro Sekunde deckelt. Das zweite Gerät hebt diese Grenze nicht an. Was es tut, ist den Speicher auf 256 GB zu verdoppeln, und das ändert die Frage von „wie schnell“ zu „ob überhaupt“. Modelle, die nicht auf ein Gerät passen, von einem 70B in FP16 bis zu einem 235B-Mixture-of-Experts in NVFP4, werden ladbar. Dafür verkauft NVIDIA das zweite Kabel, und das ist der einzige Grund, es zu kaufen.

Wie die Verbindung tatsächlich funktioniert

Jedes Gerät hat zwei QSFP-Ports an seinem ConnectX-7-Controller. Der Port ist mit 200 Gbit/s spezifiziert, aber der Controller ist über zwei unabhängige PCIe-Gen5-x4-Verbindungen an den GB10-Chip angebunden, und jeder QSFP-Port erscheint in Linux als zwei Ethernet-Schnittstellen, jede mit eigenem RoCE-Gerät. NVIDIAs eigener Performance-Leitfaden misst 92,57 und 97,28 Gbit/s über die beiden logischen Verbindungen, 189,85 Gbit/s zusammen. Behandeln Sie das Paar in der Praxis als zwei 100G-Verbindungen und nicht als eine 200G-Verbindung; der Cluster-Assistent prüft auf eine Untergrenze von 184 Gbit/s und markiert alles darunter.

Ein freigegebenes QSFP112-Direct-Attach-Kabel zwischen den beiden Geräten ist die gesamte nötige Verkabelung; NVIDIA gibt an, dass die volle Bandbreite mit einem einzigen Kabel erreicht wird. Zwei oder drei Geräte lassen sich direkt verkabeln; vier brauchen einen Switch mit QSFP56-DD-Ports ab 200 Gbit/s. Der NVIDIA Sync Cluster Assistant unterstützt zwei bis vier Geräte, führt die Verbindungsprüfungen und den Geschwindigkeitstest aus und hört dort auf: Die Arbeitslast richtet er nicht ein.

Was NVIDIA unterstützt und was es verspricht

Die Playbooks sind bei der Software eindeutig. Für vLLM ein Ray-Cluster mit Tensor-Parallelität über die beiden Geräte über die QSFP-Verbindung. Für TensorRT-LLM OpenMPI mit einer Tensor-Parallel-Größe von zwei, nach dem Rezept Qwen3-235B-A22B-FP4. Für das Training beschreibt NVIDIAs Update vom Januar 2026 verteiltes Fine-Tuning von Modellen bis 70B Parametern über zwei Geräte mit FSDP und LoRA.

Die Marketingaussage ist mit der Software gewandert. Die Launch-Seite sprach von zwei Geräten für Modelle mit bis zu 405 Milliarden Parametern; die aktuelle Seite nennt bis zu vier Geräte und bis zu 700 Milliarden. Beides sind Kapazitätsaussagen über den Speicher, keine Versprechen zur Geschwindigkeit.

Gemessene Zwei-Knoten-Werte

Zwei Lehren stecken in dieser Tabelle. Erstens ist die Zwei-Knoten-Verbindung langsam genug, dass Pipeline-Parallelität, die Aktivierungen einmal pro Pipeline-Stufe über die Verbindung sendet, die Tensor-Parallelität schlägt, die an jeder Schicht synchronisiert: 555 gegen 252 Token pro Sekunde beim selben Modell. Zweitens landet die Generierung im Einzelstrom auf einem 235B- oder 320B-Modell bei 12 bis 15 Token pro Sekunde, was für einen Ingenieur brauchbar und für ein Team unbrauchbar ist. Das zweite Gerät kauft Kapazität, nicht Geschwindigkeit.

Jenseits von Sprachmodellen

Die GPU ist ein Blackwell-Baustein mit Tensor-Cores der fünften Generation, und bei allem, was kein bandbreitenlimitiertes Decoding ist, verhält sie sich auch so.

Bei der Bildgenerierung überrascht die Maschine: Ein 1K-FLUX-Bild alle 2,6 Sekunden ist ein Arbeitstempo für ein Designteam, und die 128 GB bedeuten, dass die FP16-Gewichte der großen Diffusionsmodelle ohne Offloading-Tricks laden. Bei Video tut sie es nicht: Die Desktop-RTX 5090 mit einem Bruchteil des Speichers beendet denselben Hunyuan-Clip in einem Drittel der Zeit, weil Videogenerierung rechenintensiv ist und der GB10 grob ein Viertel bis ein Drittel des Tensor-Durchsatzes der Desktop-Karte hat, zusätzlich zur Speicherbandbreite der Laptop-Klasse.

Fine-Tuning liegt dazwischen. QLoRA auf einem 70B-Modell mit 760 Token pro Sekunde ist nach Rechenzentrumsmaßstäben langsam und für einen nächtlichen Lauf über ein paar tausend Dokumente völlig praktikabel, und genau das ist das meiste Fine-Tuning in Unternehmen. Robotik wird in dem Sinne unterstützt, dass Isaac Sim und Isaac Lab aus dem Quellcode für aarch64 gebaut werden und NVIDIA ein Playbook veröffentlicht; eine Umgebung zum Anklicken und Loslegen ist es nicht.

Die ganze Zeit über liegt das Gerät im Leerlauf bei etwa 35 W und zieht unter GPU-Last rund 160 W an der Steckdose. Es ist der leiseste uns bekannte Weg, diese Zahlen zu erreichen.

Die Gaming-Frage

Sie kommt in jedem zweiten Gespräch auf, also hier die Position. DGX OS ist Ubuntu auf Arm. Es gibt kein Windows, und NVIDIA macht keine Aussage, die Spiele auf dem Produkt unterstützt. Enthusiasten haben es über x86-Emulation zum Laufen gebracht: Cyberpunk 2077 mit rund 50 Bildern pro Sekunde bei 1080p auf mittleren Einstellungen über Box64 und Steam, und Canonicals Steam-Snap mit FEX und Proton erreicht 75 Bilder pro Sekunde bei 1080p auf niedrigen Einstellungen. Das ist ein Experiment, kein Feature, und der Treiberstack, der es möglich macht, kann sich ohne Ankündigung ändern.

NVIDIAs eigentliche Antwort auf die Frage ist ein anderes Produkt. RTX Spark, auf der Computex 2026 gezeigt, mit denselben 6.144 CUDA-Kernen, derselben Grace-CPU mit 20 Kernen und 128 GB, läuft mit Windows on Arm und ist für später in diesem Jahr angekündigt. Ist die Anforderung ein Desktop, der spielt und nebenbei lokale Modelle ausführt, warten Sie auf dieses Gerät. Ist die Anforderung eine Entwicklungsmaschine für Modelle, ist der DGX Spark das richtige Werkzeug, und die Frage beantwortet sich von selbst.

Wofür er gedacht ist

NVIDIAs eigene Einordnung hat sich nicht geändert: Inferenz auf Modellen bis 200 Milliarden Parameter und Fine-Tuning von Modellen bis 70 Milliarden, lokal, für Entwicklung und Validierung. Zwei Geräte erweitern die erste Zahl und machen die zweite komfortabel. Keines von beiden ersetzt einen Server mit einer echten GPU, wenn das Modell vor Nutzern in Produktion geht, und die Bandbreitenwerte oben sind der Grund. Unser Engineering-Partner Vixen.UNO nutzt den Spark als Prototyping-Station und dimensioniert das Produktionssystem separat; die beiden Fragen haben verschiedene Antworten.

FAQ