NVIDIA DGX Spark: Zwei Knoten im Verbund, und was er jenseits von Sprachmodellen kann

Warum überhaupt jemand zwei koppelt

Unser erster DGX-Spark-Artikel endete mit der Grenze, die die Maschine definiert: 273 GB/s Speicherbandbreite, die die Generierung für einen einzelnen Nutzer auf einem dichten 70B-Modell auf wenige Token pro Sekunde deckelt. Das zweite Gerät hebt diese Grenze nicht an. Was es tut, ist den Speicher auf 256 GB zu verdoppeln, und das ändert die Frage von „wie schnell“ zu „ob überhaupt“. Modelle, die nicht auf ein Gerät passen, von einem 70B in FP16 bis zu einem 235B-Mixture-of-Experts in NVFP4, werden ladbar. Dafür verkauft NVIDIA das zweite Kabel, und das ist der einzige Grund, es zu kaufen.

Wie die Verbindung tatsächlich funktioniert

Jedes Gerät hat zwei QSFP-Ports an seinem ConnectX-7-Controller. Der Port ist mit 200 Gbit/s spezifiziert, aber der Controller ist über zwei unabhängige PCIe-Gen5-x4-Verbindungen an den GB10-Chip angebunden, und jeder QSFP-Port erscheint in Linux als zwei Ethernet-Schnittstellen, jede mit eigenem RoCE-Gerät. NVIDIAs eigener Performance-Leitfaden misst 92,57 und 97,28 Gbit/s über die beiden logischen Verbindungen, 189,85 Gbit/s zusammen. Behandeln Sie das Paar in der Praxis als zwei 100G-Verbindungen und nicht als eine 200G-Verbindung; der Cluster-Assistent prüft auf eine Untergrenze von 184 Gbit/s und markiert alles darunter.

Ein freigegebenes QSFP112-Direct-Attach-Kabel zwischen den beiden Geräten ist die gesamte nötige Verkabelung; NVIDIA gibt an, dass die volle Bandbreite mit einem einzigen Kabel erreicht wird. Zwei oder drei Geräte lassen sich direkt verkabeln; vier brauchen einen Switch mit QSFP56-DD-Ports ab 200 Gbit/s. Der NVIDIA Sync Cluster Assistant unterstützt zwei bis vier Geräte, führt die Verbindungsprüfungen und den Geschwindigkeitstest aus und hört dort auf: Die Arbeitslast richtet er nicht ein.

Was NVIDIA unterstützt und was es verspricht

Die Playbooks sind bei der Software eindeutig. Für vLLM ein Ray-Cluster mit Tensor-Parallelität über die beiden Geräte über die QSFP-Verbindung. Für TensorRT-LLM OpenMPI mit einer Tensor-Parallel-Größe von zwei, nach dem Rezept Qwen3-235B-A22B-FP4. Für das Training beschreibt NVIDIAs Update vom Januar 2026 verteiltes Fine-Tuning von Modellen bis 70B Parametern über zwei Geräte mit FSDP und LoRA.

Die Marketingaussage ist mit der Software gewandert. Die Launch-Seite sprach von zwei Geräten für Modelle mit bis zu 405 Milliarden Parametern; die aktuelle Seite nennt bis zu vier Geräte und bis zu 700 Milliarden. Beides sind Kapazitätsaussagen über den Speicher, keine Versprechen zur Geschwindigkeit.

Gemessene Zwei-Knoten-Werte

Zwei Lehren stecken in dieser Tabelle. Erstens ist die Zwei-Knoten-Verbindung langsam genug, dass Pipeline-Parallelität, die Aktivierungen einmal pro Pipeline-Stufe über die Verbindung sendet, die Tensor-Parallelität schlägt, die an jeder Schicht synchronisiert: 555 gegen 252 Token pro Sekunde beim selben Modell. Zweitens landet die Generierung im Einzelstrom auf einem 235B- oder 320B-Modell ohne spekulatives Dekodieren bei 12 bis 15 Token pro Sekunde, ein Tempo für einen Ingenieur; DevelopersIO hat auf dem 320B-Modell über acht parallele Anfragen zusammen 76,2 Token pro Sekunde gemessen. Das zweite Gerät kauft Kapazität, nicht Geschwindigkeit.

Jenseits von Sprachmodellen

Die GPU ist ein Blackwell-Baustein mit Tensor-Cores der fünften Generation, und bei allem, was kein bandbreitenlimitiertes Decoding ist, verhält sie sich auch so.

Bei der Bildgenerierung überrascht die Maschine: Ein 1K-FLUX-Bild alle 2,6 Sekunden ist ein Arbeitstempo für ein Designteam, und die 128 GB bedeuten, dass die FP16-Gewichte der großen Diffusionsmodelle ohne Offloading-Tricks laden. Bei Video tut sie es nicht: Die Desktop-RTX 5090 mit einem Bruchteil des Speichers beendet denselben Hunyuan-Clip in einem Drittel der Zeit, weil Videogenerierung rechenintensiv ist und der GB10 grob ein Viertel bis ein Drittel des Tensor-Durchsatzes der Desktop-Karte hat, zusätzlich zur Speicherbandbreite der Laptop-Klasse.

Fine-Tuning liegt dazwischen. QLoRA auf einem 70B-Modell mit 760 Token pro Sekunde ist nach Rechenzentrumsmaßstäben langsam und für einen nächtlichen Lauf über ein paar tausend Dokumente völlig praktikabel, und genau das ist das meiste Fine-Tuning in Unternehmen. Robotik wird in dem Sinne unterstützt, dass Isaac Sim und Isaac Lab aus dem Quellcode für aarch64 gebaut werden und NVIDIA ein Playbook veröffentlicht; eine Umgebung zum Anklicken und Loslegen ist es nicht.

Unter vorwiegender GPU-Last hat Tom’s Hardware rund 160 W an der Steckdose gemessen; NVIDIA deklariert 233,2 W maximal und 38,0 W im Leerlauf bei 230 V. Das Software-Update vom Januar 2026 brachte Hot-Plug-Unterstützung für den ConnectX-7-Adapter, die laut NVIDIA bis zu 18 W spart, solange die Netzwerkports ungenutzt sind, und Tom’s Hardware maß am USB-C-Eingang, dass der Leerlaufverbrauch nach diesem Update von etwa 37 W auf 22 bis 25 W sank.

Die Gaming-Frage

Sie kommt in jedem zweiten Gespräch auf, also hier die Position. DGX OS ist Ubuntu auf Arm. Es gibt kein Windows, und wir haben keine Aussage von NVIDIA gefunden, dass Spiele auf dem Produkt unterstützt werden. Gelungen ist es über x86-Emulation: Tom’s Hardware berichtete über den Test eines Nutzers mit Cyberpunk 2077 bei rund 50 Bildern pro Sekunde in 1080p auf mittleren Einstellungen über Box64 und Steam, ein Beitrag in NVIDIAs Entwicklerforum zeigt 75 Bilder pro Sekunde in 1080p auf niedrigen Einstellungen mit Canonicals Steam-Snap, FEX und Proton, und Guru3D berichtete über eine Anleitung von NVIDIA-Mitarbeitern im Forum, die mit DLSS 4 Multi Frame Generation über 175 Bilder pro Sekunde erreicht. Das ist ein Experiment, kein Feature, und der Treiberstack, der es möglich macht, kann sich ohne Ankündigung ändern.

NVIDIAs eigentliche Antwort auf die Frage ist ein anderes Produkt. RTX Spark, auf der Computex 2026 gezeigt, mit denselben 6.144 CUDA-Kernen, derselben Grace-CPU mit 20 Kernen und 128 GB, läuft mit Windows on Arm und ist für später in diesem Jahr angekündigt. Ist die Anforderung ein Desktop, der spielt und nebenbei lokale Modelle ausführt, warten Sie auf dieses Gerät. Ist die Anforderung eine Entwicklungsmaschine für Modelle, ist der DGX Spark das richtige Werkzeug, und die Frage beantwortet sich von selbst.

Wofür er gedacht ist

NVIDIAs eigene Einordnung hat sich nicht geändert: Inferenz auf Modellen bis 200 Milliarden Parameter und Fine-Tuning von Modellen bis 70 Milliarden, lokal, für Entwicklung und Validierung. Zwei Geräte erweitern die erste Zahl und machen die zweite komfortabel. Keines von beiden ersetzt einen Server mit einer echten GPU, wenn das Modell vor Nutzern in Produktion geht, und die Bandbreitenwerte oben sind der Grund. Geht das Modell in Produktion, wählt unser Engineering-Partner Vixen.UNO die GPU-Server dafür aus, vom einzelnen Server bis zum Cluster, wie es unsere Seite zu Private AI/ML beschreibt; den Prototyp und das Produktionssystem zu dimensionieren sind getrennte Fragen.

FAQ