NVIDIA RTX PRO 5000 Blackwell Benchmarks: 48 GB und 72 GB und ihre Grenzen

Wo die Karte steht

In den veröffentlichten Benchmarks von Puget Systems liegt die RTX PRO 5000 Blackwell in V-Ray GPU, Blender und Octane 35 bis 58 Prozent vor der RTX 5000 Ada und in Topaz Video 19 Prozent hinter der RTX PRO 6000 Workstation Edition. Ihre Versionen mit 48 GB und 72 GB lagen in Pugets Tests innerhalb der Messtoleranz gleichauf. Die RTX PRO 5000 Blackwell basiert auf einem beschnittenen GB202, dem Chip der RTX PRO 6000, mit 14.080 CUDA-Kernen gegenüber den 24.064 der 6000. NVIDIA hat sie im März 2025 angekündigt; eine Version mit 72 GB erschien im Oktober 2025 auf NVIDIAs Website und wurde im Dezember 2025 allgemein verfügbar. In NVIDIAs Datenblatt sind alle Leistungsdaten der beiden Versionen gleich; sie unterscheiden sich in Speicher, Größe der MIG-Instanzen und vGPU-Unterstützung.

NVIDIA-Datenblätter und Produktseiten (2025 bis 2026), MIG-Leitfaden vom 13. Oktober 2026, vGPU-Support-Matrix vom 29. September 2026. NVIDIAs aktuelles Datenblatt der RTX PRO 5000 (Juli 2026) nennt für beide Versionen 1.344 GB/s; NVIDIAs Blogbeitrag vom Dezember 2025 zur 72-GB-Karte nennt 2.142 TOPS. Der MIG-Leitfaden führt eine RTX PRO 4500, ohne ihre Edition zu nennen; das Datenblatt der Workstation-Karte erwähnt MIG nicht. Die Spalten zur 4500 und zur 6000 mit 600 W zeigen die Workstation-Karten; die Server Editions unterstützen vGPU, die 4500 (800 GB/s) ab vGPU 20.0 und die 6000 (1.597 GB/s) ab 19.0.

Gegenüber der RTX PRO 6000 mit 600 W hat die 5000 drei Viertel der Bandbreite und etwa die Hälfte der Tensor-Spitzenleistung; gegenüber der RTX PRO 4500 das 1,5-Fache der Bandbreite. Die Bandbreite bestimmt das Tempo der Textgenerierung; Rendering und die Prompt-Verarbeitung hängen vor allem von der Rechenleistung ab. Unser Familienvergleich und der Artikel zur RTX PRO 4500 behandeln die Nachbarmodelle.

Was gemessen wurde, und von wem

Die Liste unabhängiger Messungen ist kurz. Puget Systems hat die 48-GB-Karte in seinen Vergleichstests zu Content Creation und zu Engineering vom 18. Dezember 2025 getestet und beide Speichergrößen in zwei Tests mit Topaz Video im August und September 2026. Phoronix hat die 48-GB-Karte in seinen Linux-Test vom 21. Mai 2026 aufgenommen (Ubuntu 26.04 LTS, NVIDIA-Treiber 595.58.03) und veröffentlicht seine Ergebnisse als Diagramme. Einen Test der Desktop-Karte von StorageReview haben wir nicht gefunden.

Zwei Quellen lassen sich leicht falsch deuten. Auch NVIDIAs Laptop-Reihe hat eine RTX PRO 5000 Blackwell, mit 10.496 CUDA-Kernen, 24 GB und 896 GB/s bei 95 bis 175 W; die Tests von StorageReview zur RTX PRO 5000 betreffen solche Laptops und sagen nichts über die Desktop-Karte aus. Außerdem veröffentlichen mehrere Websites für die Desktop-Karte Tabellen mit Token pro Sekunde, in denen die Engine-Version, die Zahl gleichzeitiger Anfragen oder das Testsystem fehlen; wir verwenden sie nicht, weil sie sich nicht fair vergleichen lassen.

Rendering, Video und CAD: Pugets Zahlen

Pugets Tests vom Dezember 2025 liefen auf einem Ryzen 9 9950X3D mit NVIDIA-Treiber 573.92, seine Topaz-Tests von 2026 auf einem Threadripper PRO 9965WX mit Treiber 596.72.

Puget Systems: „2025 Professional GPU Content Creation Roundup“, 18. Dezember 2025 (erste fünf Zeilen, 48-GB-Karte); Analyse zu Topaz Video 1.6.1, 24. August 2026 (Gesamtwertung); Starlight-Test, 17. September 2026.

Für Käufer ändert die Speichergröße nichts am Tempo, wenn die Arbeit hineinpasst: Puget fand in Topaz Video 1.6.1 einen „vernachlässigbaren Leistungsunterschied zwischen den beiden Varianten, klein genug, um innerhalb unserer Messtoleranz zu liegen“, und in Starlight Mini weniger als 1 Prozent. Die Karte kommt der RTX PRO 6000 Workstation Edition auch näher, als ihre Kernzahl vermuten lässt: In Topaz Video liegt sie 19 Prozent zurück, mit 59 Prozent der Kerne und der halben Leistungsaufnahme. Wir liefern beide Speichergrößen, als Karte oder in einer nach Auftrag gebauten Workstation. Schildern Sie kurz Ihren Renderer und Ihre größte Szene, und unser Team hilft Ihnen weiter.

CAD profitiert am wenigsten. Pugets Engineering-Vergleichstest stellte fest, dass „selbst die Grafiktests in Inventor relativ unempfindlich gegenüber GPUs sind, sobald eine gewisse Schwelle erreicht ist“, dass Revit „in erster Linie CPU-abhängig ist“ und dass jede dort getestete AMD-Karte die schnellste NVIDIA-Karte im Zeichnungstest von SOLIDWORKS um mindestens 18 Prozent schlug.

Benchmarks zu Sprachmodellen: was veröffentlicht ist

Phoronix hat llama.cpp auf seinen RTX-PRO-Karten laufen lassen, darunter die 5000 mit 48 GB, und dabei die Generierung von 128 Token sowie die Prompt-Verarbeitung von 512 und 2.048 Token gemessen. Die Modelle waren Q8_0-Dateien von Llama-3.1-Tulu-3-8B, Mistral-7B-Instruct-v0.3, DeepSeek-R1-Distill-Llama-8B und gpt-oss-20b auf dem GPU- und dem Vulkan-Backend von llama.cpp, dazu GLM-4.7-Flash in IQ4_XS auf dem GPU-Backend und granite-3.0-3b-a800m-instruct in Q8_0 auf Vulkan. Die Werte stehen in Diagrammbildern, und die Zahl gleichzeitiger Anfragen ist nicht angegeben.

In den Ergebnissen von MLPerf® Inference bis einschließlich Runde v6.0 haben wir kein System mit der Karte gefunden. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use strictly prohibited. See www.mlcommons.org for more information. NVIDIAs Blogbeitrag zur 72-GB-Karte verspricht die doppelte Leistung bei der Textgenerierung und die 3,5-fache bei der Bildgenerierung gegenüber „NVIDIA-Hardware der Vorgängergeneration“ in „branchenüblichen Benchmarks für generative KI“; der Text des Beitrags nennt keine Vergleichskarte, kein Modell und keine Präzision. NVIDIAs Performance-Übersicht zu TensorRT-LLM (TensorRT-LLM 1.4.0rc1, aktualisiert am 19. Oktober 2026) behandelt die RTX PRO 6000 Server Edition, nicht die 5000. Wir haben für diese Karte also keinen Wert in Token pro Sekunde gefunden, der die Engine und ihre Version, die Präzision, die Zahl gleichzeitiger Anfragen und das Testsystem zusammen nennt. Damit bleiben die Obergrenze weiter unten und ein Lasttest mit Ihrem eigenen Modell. Die GPU-Auswahl und ein Pilotplan mit Metriken gehören zu unserem Service Private AI/ML: Das erste Gespräch ist kostenlos, und der Preis des Assessments steht vor Beginn der Arbeit fest. Schicken Sie uns Modell und Zahl der gleichzeitigen Nutzer.

Obergrenze für einen einzelnen Nutzer bei 1.344 GB/s

Um für einen Nutzer ein Token zu generieren, wird jedes aktive Gewicht einmal gelesen; einfaches Dekodieren eines einzelnen Streams kann daher die Bandbreite geteilt durch die pro Token gelesenen Byte nicht übertreffen. Diese Grenze ist eine Obergrenze, keine Prognose: Reale Engines bleiben darunter, und der KV-Cache fügt mit wachsendem Kontext Lesezugriffe hinzu. Spekulatives Dekodieren, bei dem ein Lesedurchgang der Gewichte mehrere vorab entworfene Token prüft, ist die Ausnahme, die sie überschreiten kann.

Unsere Rechnung: 1.344 GB/s geteilt durch die pro Token gelesenen Byte (lineare Schichten und Ausgabeschicht; in der Embedding-Tabelle wird nur nachgeschlagen). Gewichte in GiB, aus den Checkpoints von OpenAI und NVIDIA; Byte pro Token in GB, da die Bandbreite in GB/s angegeben wird. Passt in: Nach unserer Regel für Nutzer je Karte müssen 90 Prozent des vom Treiber gemeldeten Speichers, abzüglich rund 3 GiB für die Laufzeitumgebung, Gewichte und Cache aufnehmen. Die 1.792 GB/s der Workstation-Karten der RTX PRO 6000 heben jede Obergrenze um ein Drittel.

Die Mixture-of-Experts-Modelle lesen nur die Experten, die das jeweilige Token nutzt, bei gpt-oss-120b insgesamt etwa 5 GB pro Token; doch je weniger Byte ein Token liest, desto stärker fallen die festen Kosten jedes Schritts ins Gewicht und desto weiter bleiben reale Engines unter der Linie.

Bei mehreren Nutzern werden die Gewichte eines dichten Modells einmal pro Schritt für den ganzen Batch gelesen; der aggregierte Durchsatz wächst also mit der Zahl gleichzeitiger Anfragen, bis Rechenleistung oder Platz für den Cache ausgeht. Beim Cache ist die 72-GB-Karte im Vorteil: Neben Llama 3.3 70B in NVFP4 lässt sie etwa 22 GiB frei, genug für etwa siebzehn Gespräche mit 8.192 Token und FP8-Cache, während auf der 48-GB-Karte fast nichts übrig bleibt, nach unserer Regel für Nutzer je Karte; unser Vergleich 48 GB oder 72 GB enthält die vollständige Tabelle. Die Prompt-Verarbeitung ist rechenlimitiert, und dort wächst der Abstand zur RTX PRO 6000 mit 600 W von einem Viertel auf etwa die Hälfte: 2.064 AI TOPS gegenüber 4.000, oder nach unserer Rechnung etwa 516 TFLOPS in FP8 ohne Sparsity gegenüber 1.000. Am stärksten betroffen sind lange Prompts für RAG und Coding-Agenten.

Stromversorgung, Kühlung und mehrere Karten

Die Karte hat eine Leistungsaufnahme (Total Board Power) von 300 W und einen 16-poligen PCIe-CEM5-Stromanschluss; NVIDIAs Schnellstartanleitung führt einen Adapter für zwei 8-polige PCIe-Kabel im Lieferumfang auf. Sie ist eine Dual-Slot-Karte in voller Bauhöhe mit 4,4 × 10,5 Zoll; NVIDIA bezeichnet den Kühler als aktiv, und NVIDIAs Boardpartner Leadtek nennt ein Radialgebläse, das die Abluft durch die Slotblende ausbläst. Wir haben für die Desktop-Karte keine im Text veröffentlichten Werte zu Leistungsaufnahme, Temperatur oder Lautstärke gefunden; Phoronix hat die Leistungsaufnahme der GPU protokolliert, zeigt sie aber nur in Diagrammen.

Vier Karten ziehen bis zu 1,2 kW, den Prozessor noch nicht mitgerechnet. Ohne NVLink kommunizieren sie über PCIe 5.0 x16; das eignet sich besser für ein Modell oder ein Team pro Karte als für ein über mehrere Karten verteiltes Modell, dessen All-Reduce-Operationen beim Tensor-Parallelismus dann über PCIe laufen. Die KI-Server, die wir nach Auftrag bauen, umfassen Workstations und Server mit kurzer Einbautiefe auf Threadripper-PRO- oder Xeon-W-Plattformen mit RTX-PRO-Blackwell-Workstation-Karten, vor der Lieferung montiert und getestet; bei einem Server prüfen wir vor dem Angebot außerdem Rack, Strom und Luftstrom.

MIG, vGPU und Software

NVIDIAs MIG-Leitfaden, aktualisiert am 13. Oktober 2026, führt die 48-GB-Karte mit zwei isolierten Instanzen 1g.24gb oder einer 2g.48gb, jeweils auch als +gfx-Variante für Grafik; die 72-GB-Karte steht noch nicht im Leitfaden, und ihr Datenblatt nennt zwei Instanzen zu 36 GB. Lesen Sie ihre Profilnamen daher nach dem Aktivieren des MIG-Modus mit nvidia-smi mig -lgip aus. MIG braucht Linux, laut der Fassung des Leitfadens vom 4. November 2026 Treiber 575.57.08 oder neuer, ein vBIOS 98.02.73.00.00 oder neuer auf der 48-GB-Karte und den mit DisplayModeSelector 1.72 oder neuer auf Compute umgestellten Anzeigemodus; eine eigene Mindestversion für die 72-GB-Karte nennt NVIDIA nicht. Die Karte steuert dann kein Display mehr an, und laut NVIDIA muss das System für diesen Modus qualifiziert sein.

vGPU gibt es nur für die 72-GB-Karte, ab vGPU 20.2 vom August 2026, mit vGPU-Typen für Grafik (Q- und B-Serie); in der Dokumentation von NVIDIA AI Enterprise haben wir für sie keine Compute-Typen (C-Serie) gefunden. Stand Oktober 2026 führen NVIDIAs Support-Matrizen sie nur für Red Hat Enterprise Linux mit KVM 9.6; für VMware vSphere nennen sie von den RTX-PRO-Blackwell-Karten nur die Server Editions der RTX PRO 6000 und 4500. Die Karte hat die Compute Capability 12.0: NVIDIAs Datenblatt nennt CUDA 12.8, und PyTorch hat die Unterstützung für Blackwell in Release 2.7 mit Wheels für CUDA 12.8 eingeführt; prüfen Sie daher zuerst Container, die auf älteren CUDA-Versionen aufbauen.

Wenn Sie vGPU unter vSphere brauchen, liefern wir die RTX PRO 6000 Server Edition für Rack-Server, mit den vGPU-Lizenzen im selben Angebot. Nennen Sie uns die vSphere-Version und die Zahl der Nutzer, und wir antworten innerhalb eines Werktages.

Für welche Workloads die RTX PRO 5000 passt, und für welche nicht

Die Messungen sprechen für die RTX PRO 5000 als Karte für Rendering und Video, deutlich vor der RTX 5000 Ada und in Topaz Video nicht mehr als 19 Prozent hinter der RTX PRO 6000 Workstation Edition, bei halber Leistungsaufnahme. Bei Sprachmodellen beruht das Argument für sie auf Speicher und Rechnung: 48 GB für Modelle bis 32B in FP8, 72 GB für gpt-oss-120b oder ein 70B-Modell in 4 Bit, das ein kleines Team bedient; auf 48 GB lädt ein 70B-Modell in 4 Bit, lässt aber kaum Platz für Gespräche.

Für ein 70B-Modell in FP8 ist sie die falsche Karte: Neben seinen 68 GiB Gewichten lassen 72 GB zu wenig Platz für die Laufzeitumgebung und für den Cache, den eine sinnvolle Zahl gleichzeitiger Anfragen braucht. Die RTX PRO 5500 mit 84 GB, deren Datenblatt NVIDIA im Oktober 2026 veröffentlicht hat, fasst ein solches Modell nach derselben Regel mit etwa 4,6 GiB Cache, die RTX PRO 6000 mit 96 GB mit etwa 15 GiB. Die falsche Karte ist sie auch für vGPU außerhalb von Red Hat KVM 9.6, für einen reinen CAD-Arbeitsplatz und für ein Modell, das für eine Karte zu groß ist und ohne NVLink über PCIe aufgeteilt werden muss. Bei denselben 300 W bringt die RTX PRO 6000 Max-Q 96 GB, 1.792 GB/s und 3.511 AI TOPS mit, und die 72-GB-Karte lag in Pugets Topaz-Test 7 Prozent unter ihr; ob sich dieser Schritt lohnt, hängt vom Modell und vom Budget ab.

Was wir liefern

Wir liefern die RTX PRO 5000 Blackwell in beiden Speichergrößen EU-weit, mit Herstellergarantie unter einem EU-Vertrag und auf einer Rechnung, als einzelne Karte oder in einer nach Auftrag gebauten Workstation; siehe den Katalogeintrag. Braucht das Modell mehr Speicher, liefern wir die RTX PRO 6000 mit 96 GB in allen drei Editionen und die RTX PRO 5500 mit 84 GB, die NVIDIA Stand 5. November 2026 als über seine OEM- und Distributionspartner angeboten führt; Stückzahlen und Lieferzeit bestätigen wir schriftlich mit dem Angebot. Für die Software liefert unser Engineering-Partner Vixen.UNO Private AI/ML: private LLMs on-premise mit vLLM, Ollama oder NVIDIA AI Enterprise, RAG-Assistenten, die die Zugriffsrechte jedes Nutzers beachten, und ein Pilotprojekt auf einem Prozess mit klaren Metriken, bei dem nur skaliert wird, was seinen Wert bewiesen hat. Der Vertrag bleibt bei Eurokommerz.

FAQ