NVIDIA RTX PRO 6000 Blackwell: Alternativen mit 48, 32 und 24 GB und ihre Aufgaben

Alternativen zur RTX PRO 6000 mit 24 bis 48 GB in einer Tabelle

Aus unserem Lieferprogramm übernehmen fünf Karten dieselbe Art von Aufgaben wie eine NVIDIA RTX PRO 6000 Blackwell: die NVIDIA RTX PRO 5000 Blackwell mit 48 GB, die NVIDIA RTX PRO 4500 Blackwell mit 32 GB als Workstation Edition und als passiv gekühlte Server Edition, die NVIDIA RTX 5000 Ada Generation mit 32 GB und die NVIDIA RTX PRO 4000 Blackwell mit 24 GB in einem Slot. Nach unserer Dimensionierungsregel fassen sie 40,0, 25,7 und 18,5 GiB an Modellgewichten und Cache je Karte, gegenüber 83,0 GiB auf der 96-GB-Karte. Welche davon als Alternative taugt, entscheidet das größte Modell oder die größte Szene, die auf einer einzelnen Karte liegen muss: Llama 3.3 70B in FP8 passt mit 67,7 GiB Gewichten auf eine 96-GB-Karte und auf keine dieser fünf.

Die RTX PRO 6000 gibt es in drei Editionen mit je 96 GB: als Workstation Edition mit 600 W, als Max-Q mit 300 W und als passive Server Edition mit bis zu 600 W. Ihre Daten stehen gesammelt in unserem Artikel RTX PRO 6000 Blackwell: technische Daten. Diese Seite ordnet die fünf kleineren Karten nach ihrer Aufgabe und zeigt, wo die Grenze zur 96-GB-Karte verläuft.

NVIDIA-Datenblätter 5349550 (RTX PRO 5000, Juni 2026), 5108623 (RTX PRO 4500 Workstation Edition, April 2026), 5192801 (RTX PRO 4500 Server Edition, April 2026), 2898211 (RTX 5000 Ada, August 2023) und 5323450 (RTX PRO 4000, Juni 2026); RTX PRO 6000 nach NVIDIAs Datenblättern, wie in unserem Datenartikel gesammelt. Jede Karte der Tabelle hat Speicher mit ECC.

Vier der fünf sind Blackwell-Karten an PCIe 5.0 x16, deren Tensor Cores FP4 und FP8 unterstützen; NVIDIAs CUDA-Seite vom 16. Oktober 2026 nennt für sie die Compute Capability 12.0. Die RTX 5000 Ada ist eine Ada-Lovelace-Karte an PCIe 4.0 x16 mit Compute Capability 8.9; damit ist FP8 abgedeckt, FP4 nicht.

Welche Karte für welche Aufgabe

Budgets nach unserer Dimensionierungsregel und Modellgrößen wie in den Abschnitten unten; vGPU nach NVIDIAs Liste unterstützter GPUs vom 2. Oktober 2026; Encoder nach NVIDIAs Datenblättern und der Video Encode and Decode GPU Support Matrix vom 16. Oktober 2026.

Die erste Zeile ist die Grenze. Trifft sie zu, ist die 96-GB-Karte die Antwort. Trifft sie nicht zu, nennen die übrigen Zeilen eine Karte mit weniger Speicher, 145 bis 300 W Leistungsaufnahme und, bei zwei der fünf, einem einzigen Slot.

Alle fünf Karten liefern wir in die ganze EU; schicken Sie uns Ihr größtes Modell oder Ihre größte Szene und die Systeme, in die die Karten kommen, und Sie erhalten innerhalb eines Werktages ein schriftliches Angebot.

Wo eine 96-GB-Karte nicht zu ersetzen ist

Unsere Dimensionierungsregel nimmt das 0,9-Fache des Speichers, den der Treiber meldet, und zieht je Karte 3 GiB ab; der Rest ist das Budget für Gewichte und KV-Cache. Auf der 96-GB-Karte meldet der Treiber 95,6 GiB, das ergibt 83,0 GiB. Für die kleineren Karten rechnen wir den gemeldeten Speicher von diesem Wert im Verhältnis der Kapazität um. Diese Umrechnung ist eine Annahme, und es entscheidet der Treiber auf der gelieferten Karte. Die Herleitung steht in unserem Leitfaden Wie viele Nutzer eine RTX PRO 6000 bedient.

Ein Modell mit mehr als 40 GiB Gewichten bleibt auf der großen Karte. Llama 3.3 70B hat in NVIDIAs FP8-Checkpoint 67,7 GiB Gewichte. Auf einer 96-GB-Karte bleiben 15,3 GiB, nach unserer Schätzung Platz für 12 Gespräche mit 8.192 Token bei einem FP8-KV-Cache von 1,25 GiB je Gespräch. gpt-oss-120b hat 60,8 GiB Gewichte und lässt 22,2 GiB übrig. Beide Dateien sind größer als der gesamte Speicher einer 48-GB-Karte.

Dasselbe gilt für eine Render-Szene, die auf einer GPU mehr als 48 GB braucht, und für ein Gehäuse, das in zwei Slotbreiten möglichst viel Speicher tragen soll: Nach unserer Division bringt eine 96-GB-Karte 48 GB je Slotbreite, die RTX PRO 4500 Server Edition 32 GB und die RTX PRO 4000 24 GB. Zwischen 48 und 96 GB liefern wir außerdem die RTX PRO 5000 mit 72 GB und die RTX PRO 5500 mit 84 GB, mit Budgets von 61,5 und 72,3 GiB nach derselben Regel; sie gehören nicht zu diesem Vergleich.

Was eine Karte mit 48, 32 oder 24 GB nach unserer Dimensionierungsregel fasst

Die Tabelle nennt Modelldateien der Herausgeber selbst mit ihrer Größe auf Hugging Face, gelesen am 10. November 2026. Eine Datei innerhalb des Budgets passt, und die Differenz bleibt für den Kontext. Eine Datei, die größer ist als das Budget und höchstens so groß wie das 0,9-Fache des Kartenspeichers, liegt über unserem Budget, und wir planen nicht damit. Eine Datei, die größer ist als das 0,9-Fache des Kartenspeichers, passt nicht.

Dateigrößen der Dateien der Herausgeber auf Hugging Face, gelesen am 10. November 2026; Einstufung nach unserer Dimensionierungsregel, keine Messung. Jede Datei, die auf eine kleinere Karte passt, passt auch auf die größeren.

Die Grenzfälle stehen in der Zeile mit 32 GB. Qwens FP8-Datei von Qwen3.8-27B mit 28,75 GiB liegt auf einer 32-GB-Karte über unserem Budget, und wir planen dort nicht damit; auf eine 48-GB-Karte passt sie. NVIDIAs NVFP4-Checkpoint desselben Modells mit 21,9 GB oder 20,4 GiB passt auf eine 32-GB-Karte und lässt rund 5,3 GiB übrig. NVFP4-Dateien rechnen nur auf Blackwell-Karten nativ; das gilt also für die RTX PRO 4500 in beiden Editionen. Auf der RTX 5000 Ada mit denselben 32 GB und denselben 25,7 GiB ist die FP8- oder 16-Bit-Datei die Größe, mit der man plant.

Ein Modell, das auf mehrere dieser Karten passt, hält auf jeder eine andere Zahl von Gesprächen.

Unsere Schätzung, durch den Speicher begrenzt, keine Messung: (Budget − Gewichte) ÷ KV-Cache je Gespräch mit 8.192 Token und FP8-Cache (0,625, 1,0 und 1,25 GiB), abgerundet.

Diese Zahlen sagen, was passt. Über die Token pro Sekunde eines Gesprächs sagen sie nichts. Für die RTX PRO 5000 48 GB, die RTX PRO 4500 Workstation Edition und die RTX PRO 4000 ist keine gemessene LLM-Tokenrate in einer Form veröffentlicht, die wir zitieren können; diese Seite nennt deshalb keine. NVIDIA veröffentlicht die Speicherbandbreite, und sie begrenzt die Erzeugungsrate eines einzelnen Gesprächs, sobald das Modell passt: Nach unserer Division sind die 1.344 GB/s der RTX PRO 5000 drei Viertel der 1.792 GB/s einer RTX PRO 6000 Workstation Edition, und die 896 GB/s der RTX PRO 4500 Workstation Edition sind die Hälfte.

Für die Server Edition gibt es eine Messung: StorageReview (14. Oktober 2026, Dell PowerEdge R770, vLLM 0.27.1, 32 gleichzeitige Anfragen) nennt für eine RTX PRO 4500 Server Edition 1.107 Ausgabe-Token pro Sekunde mit Ministral 3 14B in FP8 bei 512 Eingabe- und 512 Ausgabe-Token. Dieses Ergebnis gehört allein zur Server Edition.

Zwei, drei oder vier kleinere Karten gegenüber einer RTX PRO 6000

Die Tabelle zeigt neben der einzelnen Karte drei Wege, mit kleineren Karten auf 96 GB zu kommen, und zwei größere Konfigurationen.

Summen aus NVIDIAs Datenblattwerten; nutzbarer Speicher nach unserer Dimensionierungsregel, wie auf unseren Seiten zu diesen Konfigurationen. Die erste Zeile ist die RTX PRO 6000 Workstation Edition.

Jede Karte adressiert nur ihren eigenen Speicher. NVIDIAs Datenblätter zur RTX PRO 5000, zur RTX PRO 4500 Workstation Edition und zur RTX PRO 4000 führen kein NVLink, der Product Brief der Server Edition nennt „Not supported“, und im Datenblatt der RTX 5000 Ada steht „No“. Ein Modell, das größer ist als eine Karte, teilt die Serving-Software deshalb über PCIe auf, mit Tensor- oder Pipeline-Parallelität, und jede Aufteilung bringt Verkehr zwischen den Karten in jedes erzeugte Token. Der Overhead von 3 GiB fällt je Karte an: Vier 24-GB-Karten behalten nach unserer Regel 74,0 GiB, eine 96-GB-Karte 83,0 GiB.

Die Reihenfolge der Planung ist auf allen unseren Seiten zu mehreren Karten dieselbe. Zuerst eine Präzision wählen, in der das Modell auf eine Karte passt. Dann eine Kopie je Karte hinter einem Load Balancer betreiben: Zwischen den Karten fließen keine Daten, und eine ausgefallene Karte nimmt nur ihre eigene Kopie mit. Aufgeteilt wird ein Modell erst, wenn es auf keine einzelne Karte passt.

Am Beispiel Llama 3.3 70B in FP8, mit Gesprächen zu 8.192 Token und FP8-KV-Cache wie oben: Nach unserer Speicherrechnung halten zwei RTX PRO 5000 48 GB eine tensor-parallele Kopie mit 9 Gesprächen, vier RTX PRO 4000 eine mit 5 und vier 32-GB-Karten eine mit 28, gegenüber 12 auf einer einzelnen 96-GB-Karte, die ohne Verkehr zwischen Karten auskommt. Über mehr als zwei Karten ohne NVLink schaltet vLLM sein Custom-All-Reduce ab und nutzt NCCL. Eine belastbare veröffentlichte Messung der Skalierung mit Tensor-Parallelität auf vier oder acht dieser Karten haben wir nicht gefunden; aufgeteilte Kopien stehen hier deshalb ohne Geschwindigkeitsangabe. Zwölf Konfigurationen mit ihren Gesprächszahlen stehen in Mehrere RTX PRO 5000 oder 4500 oder weniger RTX PRO 6000, und die Verbindung zwischen den Karten behandelt Ein Modell auf mehreren GPUs: PCIe oder NVLink.

Nach unserer Schätzung nimmt jede der vier Konfigurationen mit 96 GB rund 1,1 kW an der Steckdose auf: Leistungsaufnahme der Karten plus ein Prozessor mit 350 W, plus 15 Prozent für den Rest des Systems, zu bestätigen durch eine Messung am gelieferten System. Ein 230-V-Stromkreis mit 16 A trägt, mit 80 Prozent geplant, 2,94 kW; das Gehäuse entscheidet also mehr als der Stromkreis. Vier der fünf Karten sind aktiv gekühlt; die Server Edition ist passiv und auf den Luftstrom eines Servers angewiesen, dessen Hersteller sie führt. Jede Karte hat einen 16-poligen PCIe-CEM5-Stromanschluss; im Karton der RTX PRO 4000 liegt ein Adapter von einem 8-poligen PCIe-Kabel, in den Kartons der drei anderen Workstation-Karten ein Adapter von zwei.

Wir bauen Workstations und Server mit diesen Karten auf Bestellung und prüfen Plattform, Stromversorgung und Kühlung vor dem Angebot; nennen Sie uns das Gehäuse, den Stromkreis und die geplanten Karten.

Rendering, CAD und Video auf den kleineren Karten

Beim GPU-Rendering ist die Speichergrenze die Szene. Chaos hält für V-Ray GPU fest, dass die Szene vollständig in den GPU-Speicher passen muss, und nach der Blender-Dokumentation können mehrere GPUs rendern, jede mit ihrem eigenen Speicher. Passt die Szene, entscheidet zwischen den Workstation-Karten der Render-Durchsatz.

Blender Open Data, gelesen am 10. November 2026: Median der Samples pro Minute aus den Einsendungen zu Blender 4.5.0; von Nutzern eingereicht, OptiX und CUDA zusammengefasst.

Im Professional GPU Roundup von Puget Systems vom 18. Dezember 2025, gemessen auf einem Ryzen 9 9950X3D, lag die RTX PRO 5000 in Blender Cycles 50 Prozent und in V-Ray GPU 35 Prozent vor der RTX 5000 Ada.

Für CAD und BIM nennen die Seiten der Softwarehersteller, die wir am 10. November 2026 gelesen haben, deutlich kleinere Speicherwerte. Autodesk gibt 8 GB als empfohlenen GPU-Speicher für AutoCAD 2027 an und 12 GB für große Datensätze, 8 GB für die Stufe „Performance“ von Revit 2027 und 8 oder 16 GB für Inventor 2027. Autodesk koppelt Speicherangaben an einen Wert „Bandwidth“ in GB/s, den es nicht definiert; wir vergleichen deshalb nur den Speicher. Die vier Workstation-Karten dieses Vergleichs erreichen diese Speicherwerte, die RTX PRO 4000 mit 24 GB in einem einzigen Slot. Unser Leitfaden GPU für die CAD-Workstation geht die Anwendungen durch.

Bei Video liegen die Unterschiede in den Engines und den Codecs. NVIDIAs Datenblätter nennen für die RTX PRO 5000 und die RTX PRO 4500 Server Edition je drei NVENC- und drei NVDEC-Engines, für die RTX PRO 4500 Workstation Edition, die RTX PRO 4000 und die RTX 5000 Ada je zwei. NVIDIAs Support-Matrix vom 16. Oktober 2026 führt 4:2:2-Encoding für die drei Blackwell-Workstation-Karten und nicht für die RTX 5000 Ada; AV1-Encoding ist für alle vier aufgeführt.

Die fünf Karten und ihre Seiten

NVIDIAs MIG User Guide (4. November 2026), das Datenblatt 5192801 der Server Edition für deren MIG-Zeile und NVIDIAs Liste der von vGPU unterstützten GPUs (2. Oktober 2026).

MIG auf der RTX PRO 5000 setzt Linux, den Treiber 575.57.08 oder neuer, das vBIOS 98.02.73.00.00 und den auf Compute gestellten Display-Modus voraus. Zur RTX PRO 4500 Workstation Edition: NVIDIAs MIG-Handbuch führt eine RTX PRO 4500 Blackwell, ohne die Edition zu nennen, und das Datenblatt der Workstation Edition erwähnt MIG nicht; wir planen deshalb nicht damit. Die Server Edition läuft mit Treibern des Zweigs R595 ab 595.58.03 oder des Zweigs R620, und die RTX 5000 Ada stellt vGPU mit abgeschalteten Display-Ausgängen bereit. Die beiden 32-GB-Entscheidungen vergleichen RTX PRO 4500 oder RTX PRO 4500 Server Edition und RTX 5000 Ada vs. RTX PRO 4500 Blackwell.

Weiterführende Seiten: die Blackwell-Familie von 24 bis 96 GB in RTX PRO 6000, 5000 oder 4500 Blackwell, die 48-GB-Klasse in unserem Vergleich der 48-GB-GPUs, komplette Konfigurationen in GPU-Workstations von der RTX PRO 2000 bis zur 5000, Marken-Tower in RTX PRO in Dell-, HP- und Lenovo-Workstations, die Serverklasse in H200 NVL Alternativen für LLM-Inferenz und die Frage, wie man Karte, Edition und Speichergröße in einer Anfrage benennt, in NVIDIA-GPU-Teilenummern: was in ein Angebot gehört.

Bestellungen laufen über einen europäischen Vertrag mit Rechnung aus Österreich, und die Herstellergarantie wickeln wir für Sie ab. Beschreiben Sie die Modelle, die Software und die Zahl der Karten oder schreiben Sie an request@eurokommerz.at, und Sie erhalten innerhalb eines Werktages ein schriftliches Angebot.

FAQ