RTX PRO 5000 Blackwell: 48 GB oder 72 GB und was in die zusätzlichen 24 GB passt

Eine Karte, zwei Speichergrößen

NVIDIAs Datenblatt nennt für beide Versionen der RTX PRO 5000 Blackwell dieselben 14.080 CUDA-Kerne, 300 W und 1.344 GB/s Speicherbandbreite; ein Modell, das in 48 GB passt, läuft also auf beiden gleich schnell. Die 72-GB-Karte hilft, wenn ein Modell, sein Cache oder eine Szene die zusätzlichen 24 GB braucht, und nur sie steht auf NVIDIAs vGPU-Liste. Die RTX PRO 5000 Blackwell kam 2025 mit 48 GB auf den Markt. Die Version mit 72 GB erschien im Oktober 2025 auf NVIDIAs Website, und NVIDIA gab ihre allgemeine Verfügbarkeit am 18. Dezember 2025 bekannt; das aktuelle Datenblatt führt beide in einer Tabelle.

NVIDIA-Datenblatt zur RTX PRO 5000 Blackwell (Juli 2026), MIG-Leitfaden (4. November 2026) und vGPU-Dokumentation (September 2026). NVIDIAs Blogbeitrag zum Marktstart vom Dezember 2025 nennt 2.142 TOPS für die 72-GB-Karte; jede Spezifikationstabelle von NVIDIA nennt 2.064.

NVIDIAs MIG-Leitfaden führt die RTX PRO 5000 in der Version mit 48 GB mit dem Chip GB202, demselben Die wie bei der RTX PRO 6000, und das Datenblatt nennt für beide Versionen dieselben 14.080 CUDA-Kerne. Kerne, Bandbreite und Leistungsaufnahme sind identisch; nur der Speicher unterscheidet sich, und er entscheidet, was passt.

Gleiches Tempo, wenn das Modell passt

Die Token-Generierung liest die Gewichte einmal pro Token; bei gleicher Bandbreite generieren beide Versionen also bei jedem Modell, das auf beide passt, gleich schnell. Puget Systems testete beide mit den Starlight-Modellen von Topaz Video und fand in Starlight Mini „weniger als 1 Prozent Unterschied, was zeigt, dass Grafikspeicher dieser Größe die Leistung in unseren Tests nicht beeinflusst hat“. Für Sprachmodelle haben wir für keine der beiden Versionen einen veröffentlichten Wert gefunden, der die Engine samt Version, die Präzision, die Zahl gleichzeitiger Anfragen und das Testsystem im Text nennt: Ein vLLM-Benchmark der 48-GB-Karte gibt Engine, Präzision und die Zahl gleichzeitiger Anfragen an, aber weder die vLLM-Version noch das Testsystem. Nach unserer Rechnung begrenzen 1.344 GB/s die Generierung von Llama 3.3 70B in NVFP4, das je Token etwa 40,6 GB liest, für einen einzelnen Nutzer auf etwa 33 Token pro Sekunde, auf beiden Karten gleichermaßen; das ist eine Obergrenze aus den Spezifikationen, keine Messung.

Beim Rendering gilt dasselbe. Puget hat die RTX PRO 5000, getestet mit 48 GB, in Blender 50 Prozent über der RTX 5000 Ada gemessen und in V-Ray GPU 35 Prozent darüber, wo sie auch die ältere RTX 6000 Ada um 11 Prozent schlug. Eine Szene, die in 48 GB passt, sollte auf der 72-GB-Karte nicht schneller rendern; einen veröffentlichten Rendering-Test der 72-GB-Karte haben wir allerdings nicht gefunden.

Was in die zusätzlichen 24 GB passt

Der Unterschied zeigt sich, sobald Gewichte und Cache nicht mehr passen. Die Tabelle folgt der Regel unseres Leitfadens zu Nutzern pro Karte: Gewichte aus den veröffentlichten Checkpoints, 90 Prozent des vom Treiber gemeldeten Speichers, abzüglich etwa 3 GiB für Aktivierungen und Laufzeitumgebung, und FP8-Cache mit 160 KiB pro Token für Llama 3.3 70B, also 1,25 GiB pro Gespräch mit 8.192 Token.

Unsere Rechnung aus den Größen der Checkpoints; die 32B-Werte gelten für Qwen3-32B (32,8 Milliarden Parameter; der FP8-Checkpoint von Qwen hat 32,0 GiB). Ein FP16-Cache statt FP8 halbiert die Zahl der Gespräche. Als vom Treiber gemeldeten Speicher setzen wir 47,8 und 71,7 GiB an, anteilig zu den 95,6 GiB der 96-GB-Karte. ECC ist bei GDDR7 immer aktiv und verringert laut NVIDIAs vPC Sizing Guide (19. August 2026) den nutzbaren Speicher nicht; die Werte gelten also mit ECC. Wir rechnen mit dem Speicher, den der Treiber meldet (nvidia-smi, FB Memory Total); prüfen Sie ihn auf Ihrer Karte. Produktionsserver halten mehr Reserve vor.

Bei Sprachmodellen zeigt die 70B-Zeile den wichtigsten Unterschied. Auf 48 GB lässt sich ein 70B-Modell in 4 Bit laden, es bleibt aber fast kein Platz für Gespräche; auf 72 GB bedient es ein kleines Team. Auch gpt-oss-120b trennt die beiden Karten: Mit 60,8 GiB lässt es sich auf der 72-GB-Karte mit etwa 0,7 GiB Spielraum laden, sofern der Treiber die vollen 71,7 GiB meldet, auf der 48-GB-Karte überhaupt nicht. Beide Versionen sind bei uns bestellbar. Nennen Sie uns Modell und Zahl der gleichzeitigen Nutzer, und wir antworten mit der Speichergröße, die passt.

MIG: zwei Hälften zu 24 oder 36 GB

Beide Versionen lassen sich in zwei isolierte Instanzen teilen. NVIDIAs MIG-Leitfaden dokumentiert die 48-GB-Karte mit den Profilen 1g.24gb und 2g.48gb sowie Varianten mit Grafikunterstützung; die 72-GB-Karte teilt sich laut NVIDIAs Datenblatt in zwei Instanzen zu 36 GB, ihre Profile stehen aber noch nicht im MIG-Leitfaden. NVIDIAs MIG-Leitfaden, aktualisiert am 4. November 2026, nennt die Voraussetzungen für die 48-GB-Karte: Linux, Treiber 575.57.08 oder neuer, ein vBIOS 98.02.73.00.00 oder neuer und die Umstellung des Anzeigemodus von Grafik auf Compute mit DisplayModeSelector 1.72 oder neuer, was die Displayausgänge der Karte abschaltet. Die 72-GB-Karte steht noch nicht im Leitfaden, und eine eigene Mindestversion nennt NVIDIA für sie nicht; NVIDIAs Seite zum DisplayModeSelector führt die RTX PRO 5000 Blackwell unter den kompatiblen GPUs, ohne eine Version des Werkzeugs zu nennen.

Eine 24-GB-Hälfte nimmt gpt-oss-20b oder ein 14B-Modell in FP8 auf. Eine 36-GB-Hälfte nimmt ein 32B-Modell in 4 Bit mit Cache für etwa neun 8K-Gespräche auf, während dasselbe Modell auf eine 24-GB-Hälfte nicht passt; das ist ein guter Grund, für zwei Personen die größere Karte zu wählen. In FP8 passt ein 32B-Modell nicht auf eine 36-GB-Hälfte.

vGPU: nur auf der 72-GB-Karte unterstützt

Nur die 72-GB-Karte steht auf NVIDIAs Liste der von vGPU unterstützten GPUs. Die Unterstützung beginnt mit vGPU 20.2, erschienen im August 2026 und unterstützt bis März 2027, und die Release Notes beschränken sie auf Red Hat Enterprise Linux mit KVM 9.6; das Langzeit-Release vGPU 19 deckt die Karte nicht ab. NVIDIAs Support-Matrix vom 29. September 2026 führt für sie noch immer keinen anderen Hypervisor, VMware vSphere, Nutanix und Windows Server sind also nicht abgedeckt. Das Benutzerhandbuch zu vGPU 20 vom 30. September 2026 führt für die Karte zeitgeteilte und MIG-gestützte Grafik-vGPU-Typen (Q- und B-Serie) auf; Compute-Typen (C-Serie) für sie haben wir in der Dokumentation von NVIDIA AI Enterprise nicht gefunden. Ihre MIG-Profile stehen noch nicht in NVIDIAs MIG-Leitfaden, prüfen Sie also die Profilliste Ihres vGPU-Releases, bevor Sie MIG-gestützte virtuelle Maschinen planen. Die Version mit 48 GB hat keine vGPU-Unterstützung.

Für virtuelle Maschinen auf anderen Hypervisoren kommen die RTX PRO 6000 Server Edition infrage, unterstützt seit vGPU 19.0, und die RTX PRO 4500 Server Edition, unterstützt seit vGPU 20.0. Unser Leitfaden zu MIG und vGPU vergleicht sie.

Wir liefern beide Server-Karten, mit den vGPU-Lizenzen im selben Angebot. Schreiben Sie uns, welchen Hypervisor Sie nutzen und wie viele Nutzer gleichzeitig in den virtuellen Maschinen arbeiten, und wir legen Karten und Lizenzen gemeinsam aus.

Zwei 72-GB-Karten oder eine größere Karte

Zwei 72-GB-Karten ergeben 144 GB bei 600 W Kartenleistung, dieselbe Leistungsaufnahme wie bei einer RTX PRO 6000 Workstation Edition mit 96 GB. Das Paar eignet sich besser für zwei getrennte Modelle oder zwei Teams als für ein Modell, das auf beide verteilt ist, denn NVIDIA führt für die RTX PRO 5000 kein NVLink, und ein verteiltes Modell kommuniziert über PCIe. Braucht ein Modell mehr als 72 GB auf einer Karte, ist die RTX PRO 6000 mit 96 GB und 1.792 GB/s der nächste Schritt, und die RTX PRO 5500 mit 84 GB bei bis zu 600 W, Stand 5. November 2026 über NVIDIAs OEM- und Distributionspartner angeboten, liegt dazwischen.

Auswahl zwischen 48 GB und 72 GB

Wählen Sie 48 GB für Modelle bis 32B in FP8, Renderszenen, die hineinpassen, und CAD, wo die professionellen Stufen bei Puget sehr ähnlich abschnitten.

Wählen Sie 72 GB für ein 70B-Modell in 4 Bit, das ein Team bedient, für gpt-oss-120b auf einer Karte oder 32B-Modelle in BF16 (beide mit weniger als 1 GiB Spielraum), für zwei MIG-Instanzen zu 36 GB und für Grafik-vGPU auf Red Hat KVM.

Wählen Sie die 72-GB-Karte nur, wenn die Arbeitslast die zusätzlichen 24 GB auch nutzt. Unser Vergleich der vier Karten mit 48 GB stellt die 48-GB-Version neben RTX 6000 Ada, RTX 5880 Ada und L40S.

Was wir liefern

Wir liefern beide Versionen der RTX PRO 5000 Blackwell EU-weit mit Herstellergarantie, unter einem EU-Vertrag und auf einer Rechnung, als Einzelkarte oder in einer nach Auftrag gebauten Workstation. Für Modelle, die mehr Speicher brauchen, gehören zu den übrigen Karten der RTX-PRO-Familie, die wir liefern, die RTX PRO 5500 mit 84 GB und die RTX PRO 6000 mit 96 GB in allen drei Editionen.

FAQ