NVIDIA DGX Spark: Alternativen als Workstation mit RTX-PRO-Blackwell-Karten, 16 bis 48 GB

Alternativen zum DGX Spark als Workstation mit einer bis vier Karten

Die Workstation-Alternativen zu einem NVIDIA DGX Spark aus unserem Lieferprogramm sind Aufbauten mit NVIDIA-RTX-PRO-Blackwell-Karten: eine oder zwei NVIDIA RTX PRO 5000 Blackwell mit 48 GB, zwei bis vier NVIDIA RTX PRO 4500 Blackwell Workstation Edition mit 32 GB oder NVIDIA RTX PRO 4000 Blackwell mit 24 GB in einem Slot und eine NVIDIA RTX PRO 2000 Blackwell mit 16 GB für kleine Modelle. Der Spark hält ein großes Modell in 128 GB gemeinsamem Speicher mit 273 GB/s. Die Karten haben jeweils weniger Speicher, 16 bis 48 GB, mit 288 bis 1.344 GB/s; ein Modell innerhalb des Budgets einer Karte wird also aus einem Speicher mit bis zu etwa fünffacher Bandbreite erzeugt, und ein größeres muss aufgeteilt werden oder passt nicht.

Der DGX Spark in der Founders Edition ist ein 1,2 kg schweres Desktop-System mit dem GB10-Chip, in dem sich 20 Arm-Kerne und eine Blackwell-GPU 128 GB LPDDR5x unter DGX OS teilen. Seine Daten und die veröffentlichten Messungen stehen in unseren Artikeln DGX Spark: technische Daten, DGX Spark Benchmarks und Was in seine 128 GB passt; diese Seite fügt dem nichts hinzu und betrachtet die Workstation-Seite.

NVIDIA-Datenblätter 5349550 (RTX PRO 5000, Juni 2026), 5108623 (RTX PRO 4500 Workstation Edition, April 2026), 5323450 (RTX PRO 4000, Juni 2026) und 5322351 (RTX PRO 2000, Juni 2026); Werte des DGX Spark wie auf unserer DGX-Spark-Seite; nutzbarer Speicher nach unserer Dimensionierungsregel, unsere Schätzung.

Der nutzbare Speicher ist das Budget für Gewichte und KV-Cache nach unserer Dimensionierungsregel: das 0,9-Fache des Speichers, den der Treiber meldet, abzüglich 3 GiB je Karte. Der gemeldete Speicher ist von den 95,6 GiB umgerechnet, die der Treiber auf einer 96-GB-Karte zeigt; diese Umrechnung ist eine Annahme, und es entscheidet der Treiber auf der gelieferten Karte. Für den Spark veröffentlicht NVIDIA keine Zahl für den nutzbaren Speicher. Die Speicheranteile 0,8 und 0,9 in NVIDIAs vLLM-Playbooks ergeben grob 102 bis 115 GB des Speichers für Gewichte und Cache, die 0,7 des Startskripts für einen Spark etwa 90 GB.

128 GB mit 273 GB/s oder 16 bis 48 GB je Karte mit bis zu 1.344 GB/s

Um für einen Nutzer ein Token zu erzeugen, liest die GPU die aktiven Gewichte einmal; die Rate eines einzelnen Gesprächs ist deshalb durch die Speicherbandbreite begrenzt. Bei einem Modell, das passt, liegt die Obergrenze der Erzeugung auf der RTX PRO 5000 etwa beim Fünffachen des Spark, 1.344 GB/s gegenüber 273 GB/s. Nach unserer Division der Datenblattwerte sind die 896 GB/s der RTX PRO 4500 Workstation Edition etwa das 3,3-Fache und die 672 GB/s der RTX PRO 4000 etwa das 2,5-Fache der Bandbreite des Spark, und die 288 GB/s der RTX PRO 2000 liegen etwa gleichauf. Das sind Verhältnisse der Bandbreite. Eine veröffentlichte LLM-Tokenrate, die wir zitieren können, gibt es für diese vier Karten nicht; wir nennen deshalb keine.

Für den Spark sind Raten veröffentlicht. NVIDIA hat gpt-oss-120b mit 55,4 Token pro Sekunde für eine Anfrage gemessen, LMSYS im Oktober 2025 Llama 3.1 70B in FP8 mit 2,7 Token pro Sekunde für einen Nutzer. Beide zeigen, wofür die 128 GB da sind: gpt-oss-120b hat 60,8 GiB Gewichte und ein 70B-Modell in FP8 wie Llama 3.3 70B hat 67,7 GiB; keines passt auf eine einzelne 48-GB-Karte. NVIDIAs Angabe von Modellen bis 200 Milliarden Parameter ist eine 4-Bit-Aussage, 106 bis 112 GB mit den Blockskalierungen.

Eine Workstation erreicht solche Modelle nur durch Aufteilen. Jede Karte adressiert ihren eigenen Speicher, NVIDIAs Datenblätter zu diesen Karten führen kein NVLink, und die Serving-Software teilt das Modell über PCIe auf. Nach unserer Speicherrechnung halten zwei RTX PRO 5000 48 GB Llama 3.3 70B in FP8 als eine tensor-parallele Kopie mit 9 Gesprächen zu je 8.192 Token und FP8-KV-Cache und gpt-oss-120b mit 17 Gesprächen zu je 32.768 Token und 16-Bit-Cache; vier RTX PRO 4500 Workstation Edition halten 28 und 37. Eine belastbare veröffentlichte Messung der Skalierung mit Tensor-Parallelität auf diesen Karten haben wir nicht gefunden; die Zahlen sagen also, was passt, und nichts über die Geschwindigkeit. Ist ein Modell dieser Größe die Aufgabe, hält der Spark es in einem einzigen Speicher, wie RTX PRO 5000 72 GB oder DGX Spark für die 72-GB-Karte ausrechnet, die wir ebenfalls liefern.

Entwicklung und Prototyping mit offenen Modellen

Bei dieser Aufgabe zählt, welche Dateien auf einer Karte mit Platz für den Kontext laden. Die Tabelle verwendet Dateien der Herausgeber selbst mit ihrer Größe auf Hugging Face, gelesen am 10. November 2026.

Dateigrößen von Hugging Face, gelesen am 10. November 2026; Einstufung nach unserer Dimensionierungsregel, keine Messung. Jede Datei, die auf eine kleinere Karte passt, passt auch auf die größeren.

Mit einer Datei über unserem Budget planen wir nicht, auch wenn sie sich noch laden ließe. Alle vier sind Blackwell-Karten, NVFP4-Dateien rechnen auf ihnen also nativ: NVIDIAs NVFP4-Checkpoint von Qwen3.8-27B mit 20,4 GiB passt auf eine 32-GB-Karte und lässt rund 5,3 GiB übrig. Auf der RTX PRO 5000 gibt MIG zwei Entwicklern je eine isolierte Instanz mit 24 GB; das setzt Linux, den Treiber 575.57.08 oder neuer, das vBIOS 98.02.73.00.00 und den auf Compute gestellten Display-Modus voraus. Die kleineren Karten behandeln Lokale LLMs auf 16-GB-Karten und Die RTX PRO 4000 Blackwell für lokale LLMs.

Sie können die Workstation allein bestellen, die Einrichtung von vLLM, Ollama oder ComfyUI allein oder beides zusammen: die Workstation mit allem fertig installiert und eingerichtet; schreiben Sie uns, wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

Ein Assistent für ein kleines Team auf einer Workstation

Einen Team-Assistenten legt man nach den Gesprächen aus, die im selben Moment gehalten werden. Die Zahlen unten sind Gespräche mit 8.192 Token und FP8-KV-Cache.

Unsere Schätzung, durch den Speicher begrenzt, keine Messung: (nutzbarer Speicher der Kopie − Gewichte) ÷ KV-Cache je Gespräch (0,625 und 1,0 GiB), abgerundet; Gewichte 15,2 und 32,0 GiB. TP=2 ist eine tensor-parallele Kopie über zwei Karten.

Ein Gespräch ist hier eine gleichzeitig laufende Anfrage, und ein Team erzeugt davon weit weniger, als es Mitglieder hat. Die Beispielwerte unseres Leitfadens Privater ChatGPT-Server nach Unternehmens­größe ergeben etwa 4 gleichzeitig laufende Anfragen je 100 Mitarbeiter; nach dem Speicher trägt also jeder Aufbau der Tabelle ein kleines Team mit einem Modell der 14B-Klasse. Auf einer RTX PRO 4500 Workstation Edition hält Qwen3-32B in NVFP4 (19,3 GiB) nach unserer Schätzung 6 solche Gespräche. Für ein dichtes 70B-Modell in FP8 auf dem Spark liest unsere DGX-Spark-Seite die 2,7 Token pro Sekunde so: ausreichend für einen Entwickler, nicht für zwanzig Personen an einem Chat-Assistenten.

Fine-Tuning kleiner Modelle

NVIDIAs Fine-Tuning-Playbook für den Spark zeigt volles Fine-Tuning eines 3B-Modells, LoRA auf einem 8B-Modell und QLoRA auf einem 70B-Modell. Die Karten decken die mittlere Stufe ab. Nach den Zahlen auf unseren Workstation-Seiten belegt LoRA auf einem 8B-Modell etwa 16,7 GB an Modellzuständen; auf einer 24-GB-Karte bleiben etwa 7 GB, auf einer 32-GB-Karte etwa 15 GB. QLoRA auf einem 70B-Modell belegt 42,8 GB und passt auf keine einzelne Karte mit 24 oder 32 GB; auf einer 48-GB-Karte blieben nach unserem Abzug von den nominellen 48 GB etwa 5 GB, und wir planen nicht damit. Diese Aufgabe bleibt beim Spark.

Bildgenerierung mit ComfyUI

Die Tabelle zählt Modelldatei, Text-Encoder und VAE zusammen gegen das 0,9-Fache des Kartenspeichers. Sie ist eine Rechnung aus den Dateigrößen; gemessen ist hier nichts, und wir nennen keine Geschwindigkeit.

Dateigrößen von Hugging Face, gelesen am 10. November 2026; unsere Rechnung. „alles“ = Modell, Text-Encoder und VAE passen zusammen; „nur Modell“ = die Modelldatei passt, der Text-Encoder wird entladen oder im Arbeitsspeicher gehalten; „Auslagerung“ = die Modelldatei allein übersteigt das 0,9-Fache des Kartenspeichers. Die letzte Spalte ist die RTX PRO 4500 Workstation Edition.

Die RTX PRO 5000 48 GB fasst jede Zeile vollständig. FLUX.2 klein 4B ist unter Apache 2.0 veröffentlicht, SDXL unter OpenRAIL++ mit dessen Nutzungsbeschränkungen; Stable Diffusion 3.5 steht unter der Stability AI Community License mit eigenen Bedingungen. Dateien und Lizenzen stehen in ComfyUI auf RTX PRO 2000, 4000 und 4500.

Windows, CAD-Software und Displays auf derselben Maschine

Der Spark läuft mit DGX OS, also Ubuntu 24.04 für Arm, und unsere DGX-Spark-Seite rät, jede reine Binärabhängigkeit auf eine Arm-Version zu prüfen. Eine Workstation mit diesen Karten ist eine x86-Maschine mit dem Betriebssystem, das die IT ohnehin verwaltet. NVIDIAs Release Notes zum RTX-Enterprise-Treiber 621.14 vom 4. November 2026 führen alle vier Karten für Windows 11 und für Windows 10 22H2, mit Release 620 als letztem Zweig für Windows 10; die Linux-Treiberlisten enthalten sie ebenfalls.

Dieselben Karten steuern die Displays an. Die RTX PRO 5000, die RTX PRO 4500 Workstation Edition und die RTX PRO 4000 haben vier Ausgänge DisplayPort 2.1b, die RTX PRO 2000 vier Ausgänge Mini DisplayPort 2.1b. Dassaults Zertifizierungsliste für SOLIDWORKS 2026, gelesen am 10. November 2026, enthält Zeilen mit Desktop-Workstations für RTX PRO 2000, 4000, 4500 und 5000 Blackwell, ohne Editionen oder Speichergrößen zu trennen; eine Zeile zertifiziert ein Rechnermodell mit einer Karte und einem Treiber. Ein Konstruktionsbüro kann auf einer solchen Maschine CAD und ein lokales Modell betreiben; unser Leitfaden GPU-Workstations von der RTX PRO 2000 bis zur 5000 geht die Aufbauten durch.

Was die Workstation bereitstellen muss

Unsere Schätzung: Leistungsaufnahme der Karten nach NVIDIAs Datenblättern plus ein Prozessor mit 350 W, plus 15 Prozent für den Rest des Systems, zu bestätigen durch eine Messung am gelieferten System. Der DGX Spark hat ein 240-W-Netzteil; NVIDIAs Erklärung nennt 233,2 W maximal und 38,0 W im Leerlauf an der Steckdose.

Jeder Aufbau der Tabelle bleibt weit unter den 2,94 kW, die wir an einem 230-V-Stromkreis mit 16 A einplanen. Das Gehäuse muss mehr bereitstellen als die Steckdose. Die RTX PRO 5000 und die RTX PRO 4500 Workstation Edition belegen je zwei Slotbreiten und haben je einen 16-poligen Stromanschluss, mit einem Adapter von zwei 8-poligen PCIe-Kabeln im Karton; vier der letzteren brauchen acht freie 8-polige Kabel oder vier native 16-polige Kabel. Die RTX PRO 4000 belegt einen Slot und bringt einen Adapter von einem 8-poligen Kabel mit. Die RTX PRO 2000 hat halbe Bauhöhe (2,7 Zoll), das Format, das meist Low Profile genannt wird, belegt zwei Slotbreiten und nimmt höchstens 70 W auf, ohne Stromkabel. Eine Workstation mit vier RTX PRO 4500 Workstation Edition gibt rund 1,3 kW Wärme ab, etwa 4.500 BTU pro Stunde.

Für die Plattform verlangt NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems vom 30. September 2026, der für Server geschrieben ist, mindestens sechs Prozessorkerne je GPU und Arbeitsspeicher von mindestens dem Doppelten des GPU-Speichers; vier Karten mit x16 belegen 64 PCIe-5.0-Lanes. Wir bauen diese Workstations auf Bestellung auf Threadripper-PRO- oder Xeon-W-Plattformen und liefern die Karten für Tower, die sie aufnehmen; schicken Sie uns die Modelle, die Zahl der Personen und den Raum, in dem die Maschine steht, und wir antworten mit einer Konfiguration. Marken-Tower und ihre Optionslisten behandelt RTX PRO in Dell-, HP- und Lenovo-Workstations.

Die Aufbauten nach Aufgabe, mit ihren Kaufseiten

• Kleine Modelle an einem kompakten Arbeitsplatz. Eine RTX PRO 2000 für Dateien bis etwa 10 GiB: RTX PRO 2000 Blackwell kaufen, RTX PRO 2000 Blackwell: technische Daten.
• Ein Entwickler oder wenige Nutzer, Modelle bis zur 35B-Klasse in FP8. Eine RTX PRO 5000 48 GB, zwei für eine zweite Kopie oder ein 32B-Modell mit mehr Cache: RTX PRO 5000 Blackwell 48 GB kaufen, RTX PRO 5000 mit 48 GB oder 72 GB, Workstation mit 48-GB-Karten kaufen.
• Mehrere Personen oder Modelle nebeneinander, 14B-Klasse. Zwei bis vier RTX PRO 4500 Workstation Edition, ein Modell je Karte: RTX PRO 4500 Blackwell kaufen, RTX PRO 4500 Blackwell mit 32 GB, Workstation mit RTX PRO 4500 Workstation Edition kaufen.
• Vier GPUs in vier Slots. Zwei bis vier RTX PRO 4000 für Modelle bis etwa 14B in FP8 je Karte: RTX PRO 4000 Blackwell kaufen, RTX PRO 4000 Blackwell: technische Daten, Workstation mit RTX PRO 4000 kaufen.
• Ein Modell über 40 GiB in einem einzigen Speicher oder QLoRA auf einem 70B-Modell. Der DGX Spark, beschrieben auf unserer DGX-Spark-Seite.

Das ganze Workstation-Programm steht auf unserer Seite KI-Workstation für LLMs kaufen und in unserem Vergleich der Workstation-GPUs für KI 2026. Die Karten eine Klasse höher vergleicht RTX PRO 6000 Alternativen mit 48 und 32 GB, die Deskside-Klasse darüber DGX Station GB300 oder RTX-PRO-6000-Workstation und drei Desktop-Systeme DGX Spark, Mac Studio oder Ryzen AI Max. Was eine Anfrage enthalten sollte, steht in Sizing-Anfrage für Private AI: was wir wissen müssen.

Eine erste Beratung ist kostenlos. Nennen Sie uns die Aufgabe und die Modelle, an die Sie denken, oder schreiben Sie an request@eurokommerz.at.

FAQ