4× NVIDIA RTX PRO 4000 Blackwell in einer Workstation: 96 GB, Modelle, Nutzer und Strom

Vier getrennte GPUs mit 24 GB in vier Steckplätzen

Vier NVIDIA RTX PRO 4000 Blackwell bringen 96 GB GPU-Speicher in einen Tower, und zwar als vier GPUs mit je 24 GB. Nach unserer Regel für Nutzer je Karte reicht das für vier Kopien eines 14B-Modells, ein 32B-Modell über alle vier Karten oder ein 70B-Modell in 4 Bit über alle vier; eine GPU mit 96 GB ergibt sich daraus nicht. Am stärksten ist der Aufbau, wenn vier Personen, vier Modelle oder vier Aufgaben je eine eigene Karte bekommen.

Die RTX PRO 4000 ist die Single-Slot-Karte der RTX-PRO-Blackwell-Reihe: In NVIDIAs Übersicht der Desktop-GPUs ist sie die einzige Blackwell-Workstation-Karte mit Einzelslot. Vier davon passen in vier benachbarte Steckplätze, wo vier Doppelslot-Karten acht Slotbreiten brauchen.

Datenblatt der NVIDIA RTX PRO 4000 Blackwell (5323450, Juni 2026) und NVIDIAs Übersicht der professionellen Desktop-GPUs, gelesen am 24. Oktober 2026. NVIDIAs Produktseite nennt 1.290 AI TOPS und 40 TFLOPS FP32 beim Boost-Takt; das Datenblatt nennt 1.178 und 37, diese Seite folgt dem Datenblatt. Summen für vier Karten sind unsere Rechnung.

Die Karte hat Tensor Cores der fünften Generation mit FP4, einen aktiven Kühler und kein NVLink; die vier Karten tauschen Daten also nur über PCIe aus. NVIDIAs MIG-Leitfaden führt sie nicht auf, und NVIDIAs Liste der von der vGPU-Software unterstützten GPUs, zuletzt aktualisiert am 2. Oktober 2026, enthält sie nicht.

Wie viel der 96 GB für Modelle und Cache bleibt

Unsere Regel für Nutzer je Karte nimmt 90 Prozent des Speichers, den der Treiber meldet, und zieht je Karte 3 GiB für CUDA-Kontext, CUDA-Graphen und Aktivierungen ab; der Rest hält Gewichte und KV-Cache. Eine RTX PRO 6000 mit 96 GB meldet 95,6 GiB. Diesen Wert skalieren wir für die 24-GB-Karte nach Kapazität, eine Annahme, und kommen auf 0,9 × 23,9 − 3 = 18,5 GiB je Karte und 74,0 GiB für vier. Prüfen Sie den Wert mit nvidia-smi -q auf Ihrer eigenen Karte. Unser Leitfaden wie viele Nutzer eine RTX PRO 6000 bedient leitet die Regel her.

Bei vier Karten fallen die 3 GiB viermal an. Eine RTX PRO 6000 Max-Q mit denselben 96 GB hält nach derselben Regel 83,0 GiB, 9 GiB mehr als die vier RTX PRO 4000 zusammen.

Mit FP8-KV-Cache belegt ein Gespräch mit 8.192 Token 0,5625 GiB bei Qwen3-8B, 0,625 GiB bei Qwen3-14B, 1,0 GiB bei Qwen3-32B und 1,25 GiB bei Llama 3.3 70B. Ein 16-Bit-Cache verdoppelt diese Werte.

Modelle und Aufteilungen auf vier Karten mit 24 GB

Vier Karten erlauben drei Aufteilungen: eine Kopie je Karte, zwei Paare mit TP=2 oder eine Kopie mit TP=4 über alle vier. Je mehr Karten eine Kopie umfasst, desto mehr Platz bleibt für Gespräche und desto mehr Verkehr läuft in jeder Schicht über PCIe.

Unsere Schätzungen nach der Regel für Nutzer je Karte, speichergebunden und abgerundet, keine Messwerte: gleichzeitige Gespräche mit 8.192 Token und FP8-KV-Cache; gpt-oss-120b mit 32.768 Token und 16-Bit-Cache von 1,125 GiB. Gewichte wie in unseren Leitfäden zur Auslegung.

Zwei Zeilen zeigen die Rechnung. Eine Kopie von Qwen3-14B auf einer Karte lässt 18,5 − 15,2 = 3,3 GiB frei, das sind fünf Gespräche. Eine Kopie von Llama 3.3 70B in NVFP4 mit TP=4 hat 74,0 GiB; abzüglich 39,8 GiB Gewichte bleiben 34,2 GiB, und 34,2 ÷ 1,25 ergibt 27 Gespräche.

Die Grenze liegt bei rund 14B Parametern in FP8 je Karte. Bis dahin betreibt jede Karte ihr eigenes Modell. Ein 32B-Modell in FP8 braucht mindestens zwei Karten, und ein Paar mit TP=2 hat 37,0 GiB, zu wenig für Llama 3.3 70B, selbst in NVFP4. Llama 3.3 70B in FP8 lässt sich auf alle vier Karten laden, lässt aber nur Platz für fünf Gespräche; für dieses Modell führt unsere Auslegung zu einer Karte mit 96 GB.

Nutzer je Modell

Gespräche sind Anfragen, die im selben Moment laufen, nicht die Zahl der Nutzer. Unser Leitfaden zum privaten ChatGPT-Server nach Firmengröße rechnet mit rund 20 gleichzeitigen Anfragen in der Spitze für 500 Beschäftigte und rund 40 für 1.000.

Nach diesen Werten decken vier Kopien von Qwen3-14B mit 20 Gesprächen ein Unternehmen mit rund 500 Beschäftigten ab, mit dem Vorteil, dass eine Karte neu starten oder aktualisiert werden kann, während die anderen drei weiterarbeiten. Qwen3-32B als eine Kopie mit TP=4 und 42 Gesprächen reicht für rund 1.000. Llama 3.3 70B in NVFP4 mit 27 passt für knapp 700 Beschäftigte und belegt jede Karte.

Im Team ist die gemischte Nutzung häufiger. Eine Karte betreibt ein Coding-Modell für die Entwicklung, eine ein Embedding-Modell und einen Reranker für die Dokumentensuche, eine ein Modell für Spracherkennung, und die vierte bleibt für Versuche frei. Jede Engine hat dann ihren eigenen Speicher und ihren eigenen Update-Zyklus, wie unser Leitfaden zu mehreren Modellen auf einem GPU-Server beschreibt. Wir bauen diese Workstation auf Bestellung und legen sie je Modell aus; schicken Sie uns die geplanten Modelle und die Personen, die sie nutzen, und unser Team antwortet mit einer Aufteilung je Karte.

Ein Modell ohne NVLink auf vier Karten verteilen

Eine Kopie mit TP=4 teilt jede Schicht in vier Teile, und nach jeder Schicht addieren die Karten ihre Teilergebnisse in einem All-Reduce über PCIe. vLLM nutzt seinen eigenen Custom-All-Reduce-Kernel nur für bis zu zwei GPUs ohne NVLink; der Quellcode schaltet ihn bei „more than two PCIe-only GPUs“ ab, eine Kopie mit TP=4 läuft also über NCCL. vLLM 0.30.0 vom 22. September 2026 hat ein optionales All-Reduce über FlashInfer PCIe IPC für zwei, vier oder acht Karten ohne NVLink eingeführt (Pull Request #53576); ein veröffentlichtes Ergebnis auf der RTX PRO 4000 haben wir nicht gefunden. Unser Artikel zu TP=2, TP=4 oder Replikaten ohne NVLink erklärt beide Wege.

Die Bandbreite setzt die Obergrenze für ein einzelnes Gespräch, weil für jedes Token die Gewichte einmal gelesen werden. Nach unserer Rechnung:

Unsere Rechnung, Bandbreite ÷ je Token gelesene Bytes, nur Gewichte. Die Obergrenzen für TP=4 enthalten nicht die Zeit für das All-Reduce über PCIe, die für diese Karte niemand veröffentlicht hat; die reale Token-Erzeugung erreicht nur einen Teil jeder Obergrenze.

Auf dem Papier liegen die Obergrenzen mit TP=4 über denen der Max-Q, und das All-Reduce nimmt in jeder Schicht einen Teil dieses Vorsprungs wieder weg. Vier RTX PRO 4000 mit TP=4 hat kein Herausgeber gemessen; planen Sie deshalb mit den Speicherwerten und behandeln Sie das Tempo als offen, bis ein Testlauf mit Ihrem Modell vorliegt.

Auch die Steckplätze zählen. In Lenovos ThinkStation PX liegen die vier Steckplätze mit PCIe 5.0 x16 je zwei an jedem Prozessor, und die Slots 1 bis 5 brauchen den zweiten Prozessor; eine Kopie mit TP=4 überquert also die Verbindung zwischen den Sockeln, während jedes Paar mit TP=2 an einem Prozessor bleibt. Dells Precision 7960 schließt zwei ihrer vier GPU-Steckplätze mit PCIe 4.0 x16 an, was die Anbindung dieser Karten halbiert. Der Peer-to-Peer-Verkehr hängt außerdem von den Einstellungen für IOMMU und ACS ab, die unser Leitfaden RTX PRO 6000 P2P unter Linux für jede RTX-PRO-Karte nennt.

Vier Karten, vier Aufgaben

Ihre Stärke spielt die Konfiguration bei der Trennung aus. Jede Karte ist eine ganze GPU mit eigenem Speicher, eigenen vier DisplayPort-2.1b-Ausgängen und eigenen zwei Encodern und zwei Decodern. NVIDIAs Datenblatt nennt je Karte bis zu vier Displays mit 3840 × 2160 und 165 Hz oder zwei mit 7680 × 4320 und 100 Hz.

• Vier Aufgaben gleichzeitig. Ein Container oder Prozess sieht eine Karte, und ein Absturz oder Neustart auf einer Karte lässt die anderen drei weiterlaufen.
• Fine-Tuning-Versuche parallel. Nach den Werten je Parameter in unserem Leitfaden zum GPU-Speicher für Fine-Tuning belegt LoRA auf einem 8B-Modell rund 16,7 GB für Modellzustände, das lässt auf einer 24-GB-Karte rund 7 GB frei; vier Läufe mit verschiedenen Einstellungen passen nebeneinander. QLoRA auf einem 70B-Modell mit 42,8 GB passt auf keine einzelne Karte.
• Video. Acht NVENC und acht NVDEC in einem Tower bedienen Transkodierung, Videoanalyse oder mehrere Remote-Sitzungen.
• Visualisierung und KI nebeneinander. Eine oder zwei Karten steuern die Monitore für CAD oder Rendering, die übrigen betreiben Modelle.

Die RTX PRO 4000 hat kein MIG, eine Karte wird also nie geteilt; die Einheit der Aufteilung ist die ganze Karte. Ohne vGPU bekommt eine virtuelle Maschine eine Karte nur durch Passthrough der ganzen GPU, was Plattform und Hypervisor unterstützen müssen; planen Sie einen Test ein, bevor Sie sich darauf verlassen.

Workstations mit vier RTX PRO 4000

Konfigurator der Dell Precision 7960 (Kanada), Lenovo-PSREF-Spezifikation der ThinkStation PX vom 9. Oktober 2026 und Spezifikationen der HP Z8 Fury G6i, gelesen am 24. Oktober 2026.

Dells Konfigurator bietet die Precision 7960 mit einer, zwei, drei oder vier RTX PRO 4000 Blackwell an, dort mit 145 W angegeben. Lenovo führt die Karte für die ThinkStation PX ohne Höchstzahl und mit 140 W; NVIDIAs Datenblatt nennt 145 W. Für jeden Tower entscheidet der Konfigurator des Herstellers über Anzahl, Steckplätze und Netzteil. Wir liefern die Karten für diese Tower und bauen Workstations mit vier Karten auf Bestellung auf Plattformen mit Threadripper PRO oder Xeon W; nennen Sie uns das Tower-Modell Ihres Unternehmens, und wir prüfen Steckplätze, Stromkabel und Kühlung, bevor wir ein Angebot machen.

Nach NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems, geschrieben für Server und hier mit derselben Rechnung angewandt, verlangen vier Karten mit 24 GB mindestens 192 GB Arbeitsspeicher und 24 Prozessorkerne. Die Karten belegen 64 Lanes mit PCIe 5.0; NVMe-Laufwerke und eine Netzwerkkarte kommen hinzu.

Strom und Wärme an 230 V

Unsere Schätzung unter Volllast aus NVIDIAs Leistungsaufnahme der Karten und einem Workstation-Prozessor mit 350 W, zuzüglich 15 Prozent für Arbeitsspeicher, Laufwerke, Lüfter und Netzteilverluste.

Mit rund 1,1 kW zieht der Tower mit vier Karten unter 5 A an einem 230-V-Stromkreis, deutlich innerhalb eines Stromkreises mit 16 A, den wir mit 80 Prozent planen, also 2,94 kW. Dieselben 1,1 kW landen im Dauerbetrieb als Wärme im Raum; ein geschlossenes Büro wird warm, und für eine Maschine, die den ganzen Tag Modelle betreibt, passen ein Technikraum oder ein klimatisiertes Büro. Vier aktiv gekühlte Karten in benachbarten Steckplätzen ziehen ihre Luft durch schmale Spalte, deshalb zählen die Gehäuselüfter und die GPU-Liste des Towers hier mehr als bei zwei Karten.

Eine RTX PRO 6000 Max-Q oder vier RTX PRO 4000

NVIDIA-Datenblätter; Gespräche nach unserer Regel für Nutzer je Karte mit FP8-KV-Cache, wie auf unserer Seite zwei RTX PRO 4000 oder eine RTX PRO 6000 Max-Q.

Für ein großes Modell ist die einzelne Max-Q die stärkere Variante, bei rund der halben Leistungsaufnahme, und mit MIG gibt sie unter Linux ebenfalls vier isolierte GPUs mit 24 GB, um den Preis ihrer Displayausgänge im Compute-Modus. Vier RTX PRO 4000 bleiben die bessere Wahl für vier ganze GPUs mit eigenen Monitoren, vier getrennte Aufgaben und Videoarbeit und für Teams, die Karte für Karte wachsen.

Zwei weitere Aufbauten liegen dazwischen. Vier RTX PRO 4500 Blackwell bieten 128 GB mit 896 GB/s je Karte und 800 W in acht Slotbreiten, wie auf unserer Seite Workstation mit RTX PRO 4500 kaufen. Vier RTX PRO 6000 Max-Q bieten 384 GB bei 1.200 W Leistungsaufnahme der Karten, wie in vier RTX PRO 6000 Max-Q in einer Workstation. Die Komponenten und die Bestellschritte für diesen Aufbau stehen auf unserer Seite Workstation mit RTX PRO 4000 kaufen, und unser Vergleich der Single-Slot-GPUs für KI behandelt die Alternative im Rack-Server.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages. Wir liefern die RTX PRO 4000 Blackwell als Karten für Tower, die Sie schon betreiben, und bauen Workstations mit bis zu vier davon auf Bestellung, vor der Lieferung montiert und getestet, auf Wunsch mit Betriebssystem, NVIDIA-Treiber, CUDA und Container-Laufzeit. Jede Komponente hat Herstellergarantie, abgewickelt über uns, mit einem EU-Vertrag und einer EU-Rechnung; Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt.

FAQ