Wie viele DGX Spark sich verbinden lassen und was ein Spark jenseits von Sprachmodellen kann

Warum zwei Spark-Systeme koppeln: 256 GB für größere Modelle

Einen DGX Spark mit 256 GB Speicher gibt es nicht. NVIDIA führt das System mit 128 GB oder, über OEM-Partner, mit 64 GB. Zwei Spark-Systeme mit je 128 GB, verbunden über ein QSFP-Kabel, ergeben 256 GB, und NVIDIA nennt dafür Modelle mit bis zu 400 Milliarden Parametern. Jeder Spark behält seine eigenen 128 GB, das Modell wird also über die Verbindung auf beide verteilt, und mit den Speichereinstellungen aus NVIDIAs Playbooks bleiben rund 204 bis 230 GB für Gewichte und KV-Cache. Welche Modelle 256 GB brauchen, rechnet unser Artikel zu DGX Spark mit 256 GB durch.

Wie unser erster DGX-Spark-Artikel zeigt, begrenzen 273 GB/s Speicherbandbreite die Generierung für einen einzelnen Nutzer auf einem dichten 70B-Modell auf wenige Token pro Sekunde. Ein zweites Spark-System kann diese Grenze nur über Tensor-Parallelität anheben, und die Verbindung zwischen den Systemen zehrt den Gewinn teilweise oder ganz wieder auf. Außerdem verdoppelt es den Speicher: Zwei Systeme mit je 128 GB fassen 256 GB, sodass sich Modelle laden lassen, die nicht auf einen Spark passen, von einem 70B in FP16 bis zu einem 235B-Mixture-of-Experts in NVFP4. NVIDIA bewirbt die Kopplung zweier Systeme vor allem wegen dieser Kapazität. Zwei der 64-GB-Systeme, die OEM-Partner seit dem 23. Oktober 2026 verkaufen, kommen zusammen auf 128 GB, die NVIDIA für Modelle mit bis zu 200 Milliarden Parametern ausweist.

Wie die QSFP-Verbindung funktioniert

Jedes Spark-System hat zwei QSFP-Ports an seinem ConnectX-7-Controller. Der Port ist mit 200 Gbit/s spezifiziert; der Controller ist über zwei unabhängige PCIe-Gen5-x4-Verbindungen an den GB10-Chip angebunden, und jeder QSFP-Port erscheint in Linux als zwei Ethernet-Schnittstellen, jede mit eigenem RoCE-Gerät. NVIDIAs eigener Performance-Leitfaden misst 92,57 und 97,28 Gbit/s über die beiden logischen Verbindungen, 189,85 Gbit/s zusammen. Planen Sie mit zwei 100G-Verbindungen statt mit einer 200G-Verbindung; der Cluster Assistant prüft auf eine Untergrenze von 184 Gbit/s und markiert alles darunter.

Ein freigegebenes QSFP112-Direct-Attach-Kabel zwischen den beiden Spark-Systemen ist die gesamte nötige Verkabelung; NVIDIA gibt an, dass die volle Bandbreite mit einem einzigen Kabel erreicht wird. Zwei oder drei Systeme lassen sich direkt verkabeln; vier brauchen einen Switch mit einer 200-Gbit/s-Ethernet-Verbindung je Spark, so formuliert es NVIDIAs Playbook zum Verbinden mehrerer Spark-Systeme. Der NVIDIA Sync Cluster Assistant unterstützt zwei bis vier Systeme und führt die Verbindungsprüfungen und den Geschwindigkeitstest aus, richtet aber die Arbeitslast nicht ein. Laut NVIDIAs Blog vom 21. Oktober 2026 unterstützt der DGX Spark in manueller Konfiguration Cluster mit bis zu acht Systemen, und NVIDIA Sync soll noch im Oktober 2026 acht Spark-Systeme unterstützen; Produktseite und Clustering-Leitfaden, beide am 21. Oktober 2026 aktualisiert, nennen weiterhin vier.

Unser Engineering-Partner Vixen.UNO kann auch die Arbeitslast über die Spark-Systeme hinweg einrichten, unter demselben Vertrag wie die Hardware. Schreiben Sie uns, welches Modell Sie auf die Systeme verteilen wollen; das erste Beratungsgespräch zu Einrichtung und Integration ist kostenlos.

Was NVIDIA unterstützt und was es verspricht

NVIDIAs Playbooks legen die Software fest, und laut NVIDIA lädt der Model Launcher in NVIDIA Sync, der noch im Oktober 2026 erscheinen soll, ein passendes Modell samt Container für einen Spark oder einen Cluster herunter. Für vLLM richtet NVIDIA Sync den Cluster ein, und ein auf dem Head-Spark gestartetes Rezept stellt das Modell über beide Systeme mit einer Tensor-Parallel-Größe von zwei bereit. TensorRT-LLM nutzt OpenMPI mit derselben Tensor-Parallel-Größe und dem Rezept Qwen3-235B-A22B-FP4. Für das Training beschreibt NVIDIAs Update vom Januar 2026 verteiltes Fine-Tuning von Modellen bis 70B Parametern über zwei Spark-Systeme mit FSDP und LoRA.

NVIDIA gibt für zwei Systeme zwei Werte an: Die Produktseite, aktualisiert am 21. Oktober 2026, nennt bis zu 400 Milliarden Parameter auf zwei Systemen mit je 128 GB und bis zu 700 Milliarden auf vier, die Hardware-Übersicht vom selben Tag dagegen weiterhin 405 Milliarden für eine Konfiguration mit zwei Spark-Systemen. Diese Parameterzahlen beschreiben die Speicherkapazität, nicht die Geschwindigkeit.

Gemessene Zwei-Knoten-Werte

Die Zwei-Knoten-Verbindung ist langsam genug, dass Pipeline-Parallelität, die Aktivierungen einmal pro Pipeline-Stufe über die Verbindung sendet, die Tensor-Parallelität übertrifft, die an jeder Schicht synchronisiert: 555 gegen 252 Token pro Sekunde beim selben Modell bei Batch 128. Die Generierung im Einzelstrom auf einem 235B- oder 320B-Modell erreicht ohne spekulatives Dekodieren 12 bis 15 Token pro Sekunde, was zur Arbeit eines Ingenieurs passt. DevelopersIO hat auf dem 320B-Modell über acht parallele Anfragen zusammen 76,2 Token pro Sekunde gemessen, mit Multi-Token-Prediction. Ein zweites Spark-System erweitert in erster Linie die Speicherkapazität und erhöht die Geschwindigkeit je Anfrage höchstens teilweise.

Jenseits von Sprachmodellen

Bildgenerierung und Fine-Tuning hängen stärker von der Rechenleistung ab als von der Speicherbandbreite, deshalb zählen dort die Tensor-Cores der fünften Generation im GB10 mehr als seine 273 GB/s.

Die Bildgenerierung ist schnell. Ein 1K-FLUX-Bild alle 2,6 Sekunden ist ein brauchbares Arbeitstempo für ein Designteam, und mit 128 GB laden die FP16-Gewichte der großen Diffusionsmodelle ohne Offloading. Die Videogenerierung ist langsamer. Die Desktop-RTX 5090 mit einem Bruchteil des Speichers stellt denselben Hunyuan-Clip in einem Drittel der Zeit fertig, weil Videogenerierung rechenintensiv ist und der GB10 grob ein Viertel bis ein Drittel des Tensor-Durchsatzes der Desktop-Karte hat, dazu eine Speicherbandbreite der Laptop-Klasse.

Fine-Tuning liegt dazwischen. QLoRA auf einem 70B-Modell mit 760 Token pro Sekunde ist nach Rechenzentrumsmaßstäben langsam, aber für einen nächtlichen Lauf über ein paar tausend Dokumente praktikabel, und in dieser Größenordnung liegt das meiste Fine-Tuning in Unternehmen. Robotik wird in dem Sinne unterstützt, dass Isaac Sim und Isaac Lab aus dem Quellcode für aarch64 gebaut werden und NVIDIA ein Playbook veröffentlicht; eine Umgebung zum Anklicken und Loslegen ist es nicht.

Unter vorwiegender GPU-Last hat Tom’s Hardware rund 160 W an der Steckdose gemessen; NVIDIA deklariert 233,2 W maximal und 38,0 W im Leerlauf bei 230 V. Das Software-Update vom Januar 2026 brachte Hot-Plug-Unterstützung für den ConnectX-7-Adapter, die laut NVIDIA bis zu 18 W spart, solange die Netzwerkports ungenutzt sind. Tom’s Hardware maß am USB-C-Eingang, dass der Leerlaufverbrauch nach diesem Update von etwa 37 W auf 22 bis 25 W sank.

Gaming und Windows auf dem DGX Spark

DGX OS ist Ubuntu auf Arm. Es gibt kein Windows, und wir haben keine Aussage von NVIDIA gefunden, dass Spiele auf dem Produkt unterstützt werden. Spiele wurden über x86-Emulation zum Laufen gebracht. Tom’s Hardware berichtete über den Test eines Nutzers mit Cyberpunk 2077 bei rund 50 Bildern pro Sekunde in 1080p auf mittleren Einstellungen über Box64 und Steam, und ein Beitrag in NVIDIAs Entwicklerforum zeigt 75 Bilder pro Sekunde in 1080p auf niedrigen Einstellungen mit Canonicals Steam-Snap, FEX und Proton. Guru3D berichtete über eine Anleitung von NVIDIA-Mitarbeitern im Forum, die mit DLSS 4 Multi Frame Generation über 175 Bilder pro Sekunde erreicht. Keines dieser Setups wird von NVIDIA unterstützt, und ein Treiber-Update kann sie unbrauchbar machen.

Für Windows hat NVIDIA ein anderes Produkt. RTX Spark wurde auf der Computex 2026 gezeigt; die größte Version hat dieselben 6.144 CUDA-Kerne, eine Grace-CPU mit 20 Kernen und bis zu 128 GB, und NVIDIA nennt Windows 11 als Betriebssystem. Laut NVIDIAs Pressemitteilung vom 16. Oktober 2026 sind RTX-Spark-Laptops „ab heute weltweit erhältlich“, und laut NVIDIAs Entwicklerblog folgen die kompakten Desktop-Rechner im November. Die Unterschiede beschreibt unser Vergleich von DGX Spark und RTX Spark; der DGX Spark ist als Entwicklungssystem für Modelle konzipiert.

Wofür der DGX Spark gedacht ist und wann ein GPU-Server nötig wird

NVIDIA positioniert den DGX Spark weiterhin für lokale Inferenz auf Modellen bis 200 Milliarden Parameter und für Fine-Tuning von Modellen bis 70 Milliarden, zur Entwicklung und Validierung; die Produktseite nennt die 200 Milliarden für das System mit 128 GB und 100 Milliarden für die Konfiguration mit 64 GB. Zwei Spark-Systeme erweitern die Grenze für Inferenz und machen die Grenze für Fine-Tuning komfortabel. Weder ein Spark noch zwei Spark-Systeme ersetzen einen GPU-Server, wenn das Modell vor Nutzern in Produktion geht; der Grund sind die Bandbreitenwerte oben. Geht das Modell in Produktion, wählt unser Engineering-Partner Vixen.UNO die GPU-Server dafür aus, vom einzelnen Server bis zum Cluster, wie es unsere Seite zu Private AI/ML beschreibt, und wir liefern sie als auf Bestellung gebaute KI-Server.

Was wir liefern

Wir liefern den NVIDIA DGX Spark als Founders Edition (128 GB, 4 TB) EU-weit unter einem Vertrag und auf einer Rechnung, mit Herstellergarantie, zum Beispiel zwei Spark-Systeme zur Kopplung auf 256 GB oder vier für ein Team; Mengen und Lieferzeit bestätigen wir schriftlich mit dem Angebot.

FAQ