Vier RTX PRO 6000 Max-Q in einer Workstation: 384 GB unter dem Schreibtisch und was es dafür braucht

Wozu es die Max-Q gibt

Vier RTX PRO 6000 Max-Q passen in eine Workstation, und die Hersteller führen diese Bestückung in ihren Spezifikationen, etwa HP für die Z8 Fury G6i und Lenovo für die ThinkStation PX. Ein solcher Aufbau bietet 384 GB GPU-Speicher, braucht 64 PCIe-Lanes für die Karten und nach unserer Schätzung bis zu etwa 2 kW an der Steckdose. Die RTX PRO 6000 Blackwell gibt es in drei Editionen mit denselben 24.064 CUDA-Kernen und 96 GB GDDR7, wie unser Editionsvergleich erklärt. Die Workstation Edition läuft mit 600 W und einem Double-Flow-Through-Kühler, die Server Edition ist passiv gekühlt und für Rack-Gehäuse gedacht, und die Max-Q behält den vollen Speicher und die vollen 1.792 GB/s bei 300 W. Laut NVIDIAs Produktseite „ermöglicht sie bis zu vier GPUs in einem einzigen System“, mit „bis zu 384 GB kombiniertem Speicher in einer Konfiguration mit vier GPUs“.

Die niedrigere Leistungsgrenze senkt den Takt und damit die Spitzenwerte: 2.280 MHz Boost statt 2.617, 110 TFLOPS FP32 statt 125 und 3.511 AI TOPS statt 4.000. In einem Test vom Juli 2025 hat Puget Systems die Max-Q in Blender, Octane, Redshift und V-Ray 5 bis 13 Prozent hinter der Workstation Edition gemessen und bei den GPU-Effekten von DaVinci Resolve sowie in Unreal Engine etwa 14 Prozent dahinter. NVIDIA beschreibt den Kühler nur als „aktiv“; Puget beschreibt ihn als Radialgebläse, das Luft aus dem Inneren des Gehäuses ansaugt und durch die Rückseite hinausdrückt, und genau das erlaubt es, vier Karten nebeneinander zu setzen. Eine Karte mit Double-Flow-Through-Kühler gibt ihre Wärme dagegen ins Gehäuse ab, was bei ihrer Leistungsaufnahme von 600 W der wahrscheinlichste Grund dafür ist, dass die Hersteller in der Tabelle unten nur eine oder zwei pro Maschine oder gar keine listen.

Welche Tower vier Max-Q-Karten aufnehmen

Produktseiten, Konfiguratoren und Spezifikationsdokumente der Hersteller, Stand Oktober 2026; die Angabe zur Eingangsspannung der Pro Precision 9 T6 aus dem Launch-Bericht von StorageReview. HPs Spezifikationsseite der Z8 Fury G6i, gelesen am 24. Oktober 2026, nennt bis zu vier Max-Q und keine Workstation Edition. HPs Vorgängermodell Z8 Fury G5 nahm ebenfalls vier Max-Q-Karten oder eine Workstation Edition auf.

Die Tower, die vier Max-Q-Karten aufnehmen, listen keine vier 600-W-Karten; das Maximum, das einer dieser Hersteller listet, sind zwei, in Dells Pro Precision 9 T6. Jedes dieser Netzteile liefert seine volle Nennleistung an einer europäischen 230-V-Steckdose; die niedrigeren Werte in den Tabellen der Hersteller gelten für Netze mit 100 bis 127 V.

Nach dem Leistungsbudget unten kann das 1.400-W-Netzteil von Dell vier Karten unter Volllast nicht versorgen, und ein einzelnes HP-Netzteil liefe an seiner Grenze; eine Bestellung mit vier Karten sollte deshalb das größere Netzteil oder die Ausführung mit zwei Netzteilen nennen.

Wir bauen Max-Q-Workstations mit vier Karten auf Bestellung, auf Plattformen mit Threadripper PRO oder Xeon W, mit Prozessor, Netzteil und Kühlung, die für diese Last ausgelegt sind. Nennen Sie uns den Tower, den Sie bereits betreiben, und wir sagen Ihnen vorher, wenn vier Karten darin nicht funktionieren.

PCIe-Lanes und Wahl des Prozessors

Vier Karten mit voller Breite brauchen 64 PCIe-Lanes, bevor die NVMe-Laufwerke und die Netzwerkkarte ihre eigenen belegen. AMDs Prozessoren Threadripper PRO 9000 WX bieten 128 PCIe-5.0-Lanes, Intels Xeon 600 für Workstations bei den größeren Modellen wie dem 658X und dem 698X ebenfalls 128 und die Serie Xeon W-3500 112. Alle bedienen vier Karten mit x16.

Die Verdrahtung der Steckplätze zählt ebenso viel wie der Prozessor. StorageReview hat in einem Test vom 23. Juni 2026 zwei Max-Q-Karten in HPs Z8 Fury G6i getestet, die jeden GPU-Steckplatz mit PCIe 5.0 x16 anbindet, und in einer Dell Precision 7875 auf Threadripper-Basis, in der die zweite Karte mit PCIe 4.0 x16 lief. Beim Serving von Llama 3.1 8B in FP8 mit vLLM bei einer Batchgröße von 256 erreichte die HP 23.004 Token pro Sekunde und die Dell 16.833; der Test schreibt das sowohl den Steckplätzen als auch dem Umgang des Prozessors mit dem Scheduling von vLLM zu. Für vier Karten sagt die Steckplatztabelle eines Towers mehr als seine Prozessorliste.

Strom: etwa 2 kW an der Steckdose

Vier Karten zu je 300 W ergeben 1.200 W. Ein Prozessor mit 350 W, der Nennleistung sowohl eines Threadripper PRO 9995WX als auch eines Xeon 698X, dessen Turbo-Grenze bei 420 W liegt, bringt die Summe auf 1.550 W, noch ohne Arbeitsspeicher, Laufwerke, Lüfter und die Verluste im Netzteil. An der Steckdose sind das unter Volllast grob 1,8 bis 2 kW. Das ist unsere Schätzung aus den Nennwerten. Planen Sie den Stromkreis danach und bestätigen Sie die Schätzung durch eine Messung am gelieferten System.

An einem 230-V-Stromkreis entsprechen 2 kW etwa 9 A. Ein 16-A-Stromkreis mit 3.680 W versorgt die Maschine mit reichlich Spielraum, aber nicht zwei davon zusammen mit dem Rest eines Büros. Dimensionieren Sie eine USV mit Reserve über 2 kW, und stellen Sie sicher, dass der Stromkreis im Gebäude nicht schon eine Küche oder einen Druckerraum mitversorgt.

Wärme und Lautstärke

Praktisch die gesamte aufgenommene Leistung landet als Wärme im Raum: 2 kW entsprechen etwa 6.800 BTU pro Stunde, so viel wie ein 2-kW-Heizlüfter, der den ganzen Tag läuft. Ein kleines Büro ohne Klimaanlage erwärmt sich spürbar, und mit ihm steigt die Ansaugtemperatur der Maschine selbst. Planen Sie die Kühlung des Raums zusammen mit der Konfiguration der Workstation.

Veröffentlichte Tests zeigen, wo vier in einer Reihe an ihre Grenze kommen. Puget Systems stellte im Juli 2025 fest, dass direkt benachbarte Max-Q-Karten kaum Platz zum Ansaugen von Luft haben; es begrenzt die eigenen Desktop-Systeme auf drei Max-Q mit einem freien Steckplatz dazwischen und schreibt, vier Karten mit 300 W seien schwer zu kühlen. Exxact berichtet in einem im März 2026 aktualisierten Artikel, dass vier Max-Q in der Standardkonfiguration drosselten und mit seiner eigenen Kühllösung die vollen 300 W hielten, bei höchstens 85 °C. Für vier Karten wählen Sie einen Tower, dessen Hersteller sie listet, halten die Ansaugseite frei und lesen die Temperaturen der inneren Karten beim Burn-in getrennt aus.

Eine unabhängige Lautstärkemessung eines Max-Q-Towers mit vier Karten haben wir nicht gefunden. Fordern Sie die Akustikdaten des konfigurierten Systems an, bevor es neben einem Arbeitsplatz aufgestellt wird, und richten Sie die Rückseite der Maschine, an der die Radialgebläse ausblasen, zum freien Raum aus.

Was auf 384 GB läuft

Gewichte aus den Model Cards und veröffentlichten Checkpoints auf Hugging Face, in GB oder GiB wie veröffentlicht; jede Karte fasst 95,6 GiB (etwa 102,6 GB), wie der Treiber sie meldet, und die Zahl der Gespräche folgt unserer Regel für Nutzer pro Karte (0,9 × 95,6 GiB, abzüglich 3 GiB Overhead und abzüglich der Gewichte). Der Wert für Llama 3.1 405B in FP8 ist unsere Summe aus den Parametertypen des Checkpoints. Die Model Card von Qwen3-235B-A22B-Instruct-2507-FP8 betreibt das Modell auf vier GPUs; einen veröffentlichten Benchmark davon auf vier RTX-PRO-6000-Karten haben wir nicht gefunden.

Die sinnvollen Konfigurationen sind die ersten fünf Zeilen: ein großes Mixture-of-Experts-Modell über alle vier Karten, zwei oder vier kleinere Modelle nebeneinander oder ein 70B-Modell mit Platz für ein Team. Veröffentlichte Zahlen mit mehreren Karten stammen von StorageReview, das in einem Test vom 6. November 2025 vier Karten der RTX PRO 6000 Server Edition mit etwa 11 Prozent weniger Bandbreite als die Max-Q betrieb und vLLM das Modell über alle vier verteilen ließ: gpt-oss-120b in NVFP4 erreichte 105,8 Token pro Sekunde je Nutzer bei vier Nutzern, und Llama 2 70B erreichte 32,9 Token pro Sekunde für einen einzelnen Nutzer.

Wie viele Menschen das bedient, folgt aus unserer Regel für Nutzer pro Karte: 0,9 × 95,6 GiB, abzüglich 3 GiB je Karte, lassen auf vier Karten 332,2 GiB für Gewichte und KV-Cache, und die Aufteilung entscheidet, wie viel davon Cache ist. Jede Kopie speichert ihre eigenen Gewichte, weniger Kopien lassen also Platz für mehr Gespräche.

Unsere Schätzung nach der Regel für Nutzer pro Karte, gleichzeitige Gespräche in voller Kontextlänge, FP8-KV-Cache für Llama 3.3 70B und 16-Bit-Cache für gpt-oss-120b: Gewichte 67,7 GiB für Llama 3.3 70B in FP8, 60,8 GiB für gpt-oss-120b und 219,8 GiB (236 GB) für Qwen3-235B-A22B-2507-FP8; Cache 1,25 GiB je 8K-Gespräch mit FP8-Cache und 1,125 GiB je 32K-Gespräch für gpt-oss-120b.

Die vollständigen Tabellen für vier Karten mit 96 GB stehen in unserem Leitfaden dazu, was vier Karten der RTX PRO 6000 Server Edition betreiben, die Konfiguration des Towers auf unserer Seite Workstation mit 4× RTX PRO 6000 Max-Q kaufen.

Schreiben Sie uns, welche Modelle dauerhaft geladen bleiben sollen und wie viele Nutzer mit der Maschine arbeiten; wir prüfen, was in 384 GB passt, und erstellen ein Angebot für die passende Workstation.

Ein Modell über PCIe verteilen

Die RTX PRO 6000 hat kein NVLink, ein über mehrere Karten verteiltes Modell tauscht seine Daten also über PCIe aus. vLLMs Dokumentation empfiehlt Tensor-Parallelismus, wenn ein Modell zu groß für eine GPU ist, aber in einen Knoten passt, und ergänzt in einem Hinweis zu ungleichmäßigen GPU-Aufteilungen: „Wenn die GPUs im Knoten keine NVLINK-Verbindung haben (z. B. L40S), nutzen Sie Pipeline-Parallelismus statt Tensor-Parallelismus, für höheren Durchsatz und geringeren Kommunikationsaufwand“. Testen Sie beides mit Ihrem eigenen Modell.

Direkte Transfers zwischen den Karten helfen beim tensor-parallelen Serving, bei dem die Karten in jeder Schicht Daten austauschen. NVIDIAs NCCL-Dokumentation erklärt einen Grund, warum solche Transfers scheitern: Auf Bare-Metal-Linux „unterstützen CUDA und der NVIDIA-Treiberstack keine PCIe-Peer-to-Peer-Speicherübertragung mit aktivierter IOMMU“. Prüfen Sie die IOMMU- und ACS-Einstellungen im BIOS, bevor Sie den Karten die Schuld geben.

MIG: bis zu sechzehn GPU-Instanzen für ein Team

Jede Max-Q teilt sich in bis zu vier isolierte Instanzen zu 24 GB, der Tower kann einem Entwicklerteam also sechzehn unabhängige GPUs anbieten. MIG läuft unter Linux mit Treiber 575.51.03 oder neuer und einem Max-Q-vBIOS 98.02.6A.00.00 oder neuer, und jede Karte muss zuerst mit NVIDIAs DisplayModeSelector vom Grafik- in den Compute-Modus umgeschaltet werden. Auf einer Karte, die den Monitor ansteuert, schaltet diese Umstellung die Displayausgänge ab; eine MIG-Workstation läuft also entweder headless oder behält eine kleine separate Karte für den Bildschirm. Profile mit dem Suffix „+gfx“ erhalten die Grafikunterstützung innerhalb einer Instanz. vGPU für virtuelle Maschinen gibt es auf der Max-Q nicht; das ist eine Funktion der Server Edition, wie unser Leitfaden zu MIG und vGPU erklärt.

Tower oder Rack­server: welche Bauform passt

Vier Karten der Server Edition in einem Rackserver bieten dieselben 384 GB mit passiver Kühlung, 1.597 GB/s statt 1.792 GB/s, einer konfigurierbaren Leistungsgrenze von bis zu 600 W und vGPU-Unterstützung, und sie halten Stromlast, Wärme und Lärm aus dem Büro heraus. Dafür brauchen sie einen Serverraum mit dem Luftstrom, auf den passiv gekühlte Karten angewiesen sind. Manche 2U-Server nehmen vier davon nur mit 450 W Leistungsgrenze auf, wie unser Überblick kompatibler Server zeigt; unser Inferenz-Knoten ist mit vier Karten bestückt. Unser Artikel dazu, wie viele GPUs in einen Server passen, behandelt diese Seite. Ein Tower passt zu einem Team ohne Serverraum. Ein Rackserver ist die bessere Wahl, wenn die Maschine über Abteilungen hinweg geteilt wird oder durchgehend für Kunden läuft.

Was wir liefern

Wir liefern die RTX PRO 6000 Blackwell Max-Q mit Herstellergarantie unter einem EU-Vertrag und auf einer Rechnung, als Einzelkarten oder in einer auf Bestellung gebauten Workstation mit vier Karten. Für das Rack bauen wir dieselben 384 GB mit vier Karten der Server Edition.

FAQ