Workstation mit 2 bis 4 NVIDIA RTX PRO 5000 Blackwell 72 GB in Europa kaufen

Für wen sich eine Workstation mit RTX PRO 5000 72 GB eignet

Workstations mit zwei, drei oder vier NVIDIA RTX PRO 5000 Blackwell 72 GB bauen wir auf Bestellung und liefern sie in die gesamte EU. Jede Karte hat 72 GB GDDR7 mit ECC, 1.344 GB/s und 300 W; ein Tower mit vier Karten kommt also auf 288 GB GPU-Speicher bei 1,2 kW Kartenleistung. Sie können dieses System bei uns kaufen: Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages.

Die 72-GB-Karte passt zu Unternehmen, deren Modelle je Kopie zwischen 48 und 96 GB liegen. Ein 70B-Modell in 4 Bit passt auf eine Karte und lässt Platz für ein kleines Team, ein 32B-Modell in FP8 lässt auf jeder Karte rund 29 GiB für den Cache, und gpt-oss-120b läuft über ein Kartenpaar. Typische Käufer sind ML-Teams, die für mehrere Projekte je Karte ein Modell vorhalten, Forschungsabteilungen, die ein 70B-Modell im Haus brauchen, aber keinen Serverraum haben, und Konstruktionsbüros, die Rendering oder Simulation mit einem lokalen Assistenten verbinden. Außerdem ist sie die einzige RTX PRO 5000, die NVIDIA für vGPU führt; das ist für einen Host unter dem Schreibtisch wichtig, der virtuelle Maschinen mit Grafikbeschleunigung unter Red Hat KVM betreibt.

Laut NVIDIAs Datenblatt haben die Versionen mit 48 GB und 72 GB dieselben 14.080 CUDA-Kerne, 1.344 GB/s und 300 W, auf einer Dual-Slot-Karte mit 4,4 × 10,5 Zoll, einem 16-Pin-Anschluss und je drei NVENC- und NVDEC-Einheiten. Wo ein Modell auf beide passt, laufen sie gleich schnell; Puget Systems maß zwischen beiden im Modell Starlight Mini von Topaz Video weniger als 1 Prozent Unterschied, wie unser Vergleich RTX PRO 5000 mit 48 GB oder 72 GB berichtet. Die zusätzlichen 24 GB lohnen sich nur, wenn die Arbeitslast sie nutzt.

Zwei, drei oder vier Karten je Workstation

Die Tabelle stellt die drei Ausbaustufen nebeneinander. Der nutzbare Speicher folgt unserer Regel für Nutzer je Karte: 90 Prozent des Speichers, den der Treiber meldet, abzüglich 3 GiB je Karte für Aktivierungen und Laufzeit. Für die 72-GB-Karte setzen wir 71,7 GiB als Treiberwert an, im Verhältnis zu den 95,6 GiB, die eine Karte mit 96 GB meldet.

Datenblatt der NVIDIA RTX PRO 5000 Blackwell (Speicher, 1.344 GB/s, 300 W); nutzbarer Speicher und Summen nach unserer Schätzung, ECC aus. Würde ECC die 6,25 Prozent belegen, die NVIDIAs CUDA Best Practices Guide für GDDR-Speicher nennt, blieben 57,5 GiB je Karte; für GDDR7 veröffentlicht NVIDIA keinen Wert.

Zwei Karten sind der übliche Einstieg: ein Modell je Karte oder ein 70B-Modell in FP8 über das Paar. Drei Karten passen zu einem Team, das ein verteiltes Modell betreibt und eine Karte für Experimente frei hält. Vier Karten lohnen sich, wenn mehrere Modelle gleichzeitig geladen bleiben müssen, oder für zwei TP=2-Paare. Die RTX PRO 5000 hat kein NVLink, die Karten tauschen ihre Daten also über PCIe 5.0 aus; was das kostet, erklärt unser Artikel ein Modell auf mehreren GPUs über PCIe oder NVLink.

Tower, für die Hersteller vier RTX PRO 5000 angeben

Wir haben die Unterlagen der Hersteller am 24. Oktober 2026 geprüft. Nur ein Teil davon nennt eine Anzahl für die RTX PRO 5000, und nicht überall wird die 72-GB-Version ausdrücklich genannt.

Konfigurator der Dell Precision 7960 (Kanada), Lenovo-PSREF-Spezifikation der ThinkStation PX vom 9. Oktober 2026 und HPs Spezifikationen der Z8 Fury G6i, gelesen am 24. Oktober 2026; Puget-Systems-Seite Quad GPU LLM Server, von unserer Recherche am 24. Oktober 2026 gelesen.

Der Konfigurator der Dell Precision 7960 bietet die Karte einzeln, zu zweit, zu dritt und zu viert an, mit Gehäusen für 1.400 W oder 2.200 W. Zwei der vier GPU-Steckplätze laufen mit PCIe 4.0 x16, was die Bandbreite dieser beiden Karten zum Prozessor halbiert; das zählt bei einem über alle vier Karten verteilten Modell, weniger bei einem Modell je Karte. Lenovos Spezifikation der ThinkStation PX nennt „bis zu vier“ für die RTX PRO 6000 Max-Q und keine Anzahl für die RTX PRO 5000; für die PX muss die Kartenzahl vor einer Bestellung also bestätigt werden. HPs aktuelle Seite zur Z8 Fury G6i führt vier RTX PRO 6000 Max-Q und keine RTX PRO 5000.

Wir liefern die Karten für diese Tower und bauen Workstations mit vier Karten auch auf Bestellung, auf Plattformen mit Threadripper PRO oder Xeon W, wie unsere Seite zu KI-Servern beschreibt. Nennen Sie uns den Tower, auf den Ihr Unternehmen setzt, oder die gewünschte Plattform, und unser Team bestätigt Kartenzahl, Steckplätze und Stromversorgung vor dem Angebot.

Was die Konfiguration enthält

Unsere Seite zu KI-Servern (Plattformen und Komponenten); Arbeitsspeicher und Kerne nach NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems (30. September 2026), geschrieben für Server und hier mit derselben Rechnung angewandt.

NVIDIAs Leitfaden verlangt mindestens sechs physische Kerne je GPU und mindestens doppelt so viel Arbeitsspeicher wie GPU-Speicher. Für vier Karten mit 72 GB sind das 24 Kerne und 576 GB; zwei Karten brauchen 12 Kerne und 288 GB, die wir auf 384 GB aufrunden: acht Module zu 48 GB, damit alle acht Kanäle belegt sind. AMD führt den Threadripper PRO 9975WX mit 32 Kernen, 350 W, 128 PCIe-5.0-Lanes und acht Speicherkanälen; vier Karten mit x16 belegen 64 Lanes, der Rest bleibt für NVMe und Netzwerkkarte.

Was auf eine Karte und auf das ganze System passt

Die Zahlen folgen unserer Regel für Nutzer je Karte: Gespräche zu 8.192 Token, die neben den Gewichten in einen FP8-KV-Cache passen, mit 1,25 GiB je Gespräch für Llama 3.3 70B, 1,0 GiB für Qwen3-32B und 0,625 GiB für Qwen3-14B. gpt-oss-120b rechnen wir mit 32K Token und einem 16-Bit-Cache von 1,125 GiB.

Unsere Schätzung nach der Regel für Nutzer je Karte mit 61,5 GiB nutzbar je Karte und ECC aus; Gewichte aus den veröffentlichten Checkpoints wie in unseren Modellartikeln: Qwen3-14B FP8 15,2 GiB, Qwen3-32B FP8 32,0 GiB, Llama 3.3 70B NVFP4 39,8 GiB und FP8 67,7 GiB, gpt-oss-120b 60,8 GiB. Speicherrechnung, kein gemessener Durchsatz.

gpt-oss-120b passt nur auf dem Papier auf eine Karte: Es bleiben 0,7 GiB, die kein Gespräch fassen und verschwinden, wenn ECC Speicher belegt. Llama 3.3 70B in FP8 braucht ein Paar. Als Planungshilfe setzen die Beispielwerte in unserem Leitfaden zum privaten ChatGPT-Server nach Unternehmens­größe zur Spitzenzeit rund 20 gleichzeitige Anfragen bei 500 Beschäftigten an und 80 bei 2.000; vier Karten mit einem 70B-Modell in FP8 als zwei Paare decken den zweiten Fall vom Speicher her ab.

Die Geschwindigkeit je Nutzer folgt der Speicherbandbreite. Nach unserer Rechnung ist eine Karte, die mit Llama 3.3 70B in NVFP4 Token erzeugt und dafür je Token rund 40,6 GB liest, für einen einzelnen Nutzer auf rund 33 Token pro Sekunde begrenzt; das ist eine Obergrenze aus den Spezifikationen, keine Messung. Standardmäßig schaltet vLLM laut Quellcode sein Custom-All-Reduce bei mehr als zwei GPUs ohne NVLink ab; eine TP=4-Aufteilung fällt dann auf NCCL zurück, während TP=2-Paare den schnelleren Weg behalten. vLLM 0.30.0 (Release Notes vom 22. September 2026) hat dafür ein optionales FlashInfer-All-Reduce über PCIe-IPC für Systeme ohne NVLink ergänzt (#53576), wie unser Artikel zur Tensor-Parallelität der RTX PRO 6000 ohne NVLink beschreibt. Eine veröffentlichte Messung der Skalierung mit Tensor-Parallelität auf vier RTX PRO 5000 haben wir nicht gefunden. Unser Leitfaden 4× RTX PRO 5000 72 GB in einer Workstation geht die Aufteilungen genauer durch.

MIG-Hälften zu 36 GB und vGPU unter Red Hat KVM

Laut NVIDIAs Produktseite unterstützt die RTX PRO 5000 bis zu zwei MIG-Instanzen, und das Datenblatt nennt für die 72-GB-Karte je 36 GB; vier Karten könnten also acht isolierte GPUs zu 36 GB bieten. NVIDIAs MIG-Handbuch, aktualisiert am 13. Oktober 2026, führt bisher nur die Version mit 48 GB; lesen Sie die Profilnamen deshalb auf der gelieferten Karte mit nvidia-smi mig -lgip aus. MIG braucht Linux, Treiber 575.51.03 oder neuer und den Compute-Modus; NVIDIA-Mitarbeiter nannten im Mai 2026 für die 72-GB-Karte DisplayModeSelector 1.76 oder neuer. Die Umstellung schaltet die Displayausgänge der Karte ab. Eine Hälfte mit 36 GB fasst ein 32B-Modell in 4 Bit mit Cache für rund neun Gespräche, dasselbe Modell in FP8 aber nicht.

Die 72-GB-Karte steht auf NVIDIAs vGPU-Liste ab vGPU 20.2 vom August 2026; NVIDIA unterstützt diesen Production Branch bis März 2027. Von den Hypervisor-Seiten, die wir am 24. Oktober 2026 gelesen haben, führen nur NVIDIAs validierte Plattformen für Red Hat Enterprise Linux mit KVM die Karte, mit den Grafikeditionen vWS und vPC, im Zeitscheibenbetrieb oder auf MIG-Basis; die Support-Matrizen für VMware vSphere und Ubuntu vom 29. September 2026 führen sie nicht. Für virtuelle Maschinen unter vSphere planen Sie mit der RTX PRO 6000 Server Edition oder der RTX PRO 4500 Server Edition; unser Leitfaden MIG und vGPU: VMs pro GPU vergleicht sie.

Strom an 230 V und der Raum

Nach unserer Schätzung bleiben alle drei Ausbaustufen an einem 230-V-Stromkreis: die Karten, ein Prozessor mit 350 W und 15 Prozent für Arbeitsspeicher, Laufwerke, Lüfter und Verluste im Netzteil.

Unsere Schätzung aus NVIDIAs Kartenleistung von 300 W und der TDP von 350 W des Threadripper PRO 9975WX, zuzüglich 15 Prozent; ein 16-A-Stromkreis, mit 80 Prozent Auslastung geplant, trägt 2,94 kW. Es sind dieselben Werte wie bei Systemen mit der RTX PRO 6000 Max-Q, die ebenfalls 300 W aufnimmt.

Ein Tower mit vier Karten gibt rund 2 kW als Wärme ab, etwa 6.800 BTU/h; er gehört in einen Technikraum oder ein klimatisiertes Büro. Große Workstation-Netzteile erreichen ihre volle Leistung erst ab 200 V, was jede europäische Steckdose liefert, und Dells Netzteil mit 2.200 W nutzt ein C19-Kabel statt des C13-Kaltgerätekabels mit 10 A. Die Karten haben Radiallüfter, die durch das Slotblech ausblasen; lassen Sie hinter dem Tower Platz frei. Unser Artikel zum Stromverbrauch der RTX PRO 6000 Max-Q an 230 V rechnet Stromkreise, Kabel und USV für dieselbe 300-W-Klasse durch, und unser Leitfaden GPU-Server im Büro behandelt Lautstärke und Wärme in geteilten Räumen.

RTX PRO 5000 72 GB oder RTX PRO 6000 Max-Q

Beide sind 300-W-Karten mit Radiallüfter und belegen zwei Steckplätze; derselbe Tower für vier Karten nimmt also beide auf. Laut Datenblättern liegt das Max-Q-System bei gleicher Kartenleistung bei Speicher und Bandbreite vorn.

NVIDIA-Datenblätter, MIG-Handbuch (13. Oktober 2026) und vGPU-Liste unterstützter GPUs (2. Oktober 2026); Gespräche nach unserer Regel für Nutzer je Karte.

Eine Max-Q fasst Llama 3.3 70B in FP8 allein, die 72-GB-Karte nicht. Auch MIG bringt der RTX PRO 5000 keinen Vorteil: Eine Max-Q teilt sich in zwei Instanzen zu 48 GB, größer als die Hälften zu 36 GB, oder in vier zu 24 GB. Was die RTX PRO 5000 72 GB bietet und der Max-Q fehlt, ist vGPU unter Red Hat KVM. Passen Ihre Modelle je Kopie in 72 GB und spielt dieser Punkt keine Rolle, entscheidet der Preis der beiden Konfigurationen, die wir Ihnen nebeneinander anbieten. Unsere Seiten Workstation mit 4× RTX PRO 6000 Max-Q kaufen und 2× RTX PRO 5000 72 GB oder 1× RTX PRO 6000 Max-Q führen den Vergleich weiter. Brauchen die Modelle je Kopie weniger als 48 GB, ist unsere Seite Workstation mit RTX PRO 5000 48 GB kaufen die andere Möglichkeit.

Software bei Lieferung

Auf Wunsch kommt die Workstation mit einem Linux-Release oder dem Image Ihres Unternehmens, dem NVIDIA-Treiberzweig, den Sie einsetzen, CUDA und einer Container-Laufzeit mit NVIDIA Container Toolkit, mit eingerichteten MIG-Instanzen, falls Sie sie planen. Die Karte hat die Compute Capability 12.0, und NVIDIAs Datenblatt nennt CUDA 12.8; Container auf Basis älterer CUDA-Versionen sollten Sie deshalb zuerst prüfen. Stand Oktober 2026 hat der Zweig R580 Langzeitsupport bis Juni 2028, und NVIDIAs Security Bulletin vom 30. September 2026 nennt 580.178.04 und 595.91.07 als korrigierte Versionen. Wie Sie den Zweig festlegen, erklärt unser Leitfaden zu NVIDIA-Treiberzweigen und CUDA-Versionen.

So bestellen Sie bei uns in der EU

1. Sie beschreiben die Arbeitslast: Modelle, Nutzer, Daten, den Raum und den Zeitplan. Die Auslegung ist kostenlos.
2. Wir schlagen die Konfiguration vor und prüfen, ob Karten, Tower, Netzteil und Kühlung zu Raum und Stromkreis passen.
3. Sie erhalten innerhalb eines Werktages ein schriftliches Angebot mit Preis, Lieferzeit und Garantiebedingungen je Komponente. Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt.
4. Sie bestellen mit einem EU-Vertrag und erhalten eine EU-Rechnung von Eurokommerz in Wien.
5. Die Workstation wird vor der Lieferung montiert und getestet („Einschalt- und Lasttest“).
6. Wir liefern in die gesamte EU, auf Wunsch mit Inbetriebnahme vor Ort; andere Ziele über unseren Logistikpartner.
7. Jede Komponente hat die Herstellergarantie, abgewickelt über uns; DOA-Geräte werden ersetzt, und für die Montage stehen wir selbst ein.

Unser Leitfaden GPU-Server Burn-in und Abnahmetest nennt Prüfungen, die Sie bei der Lieferung wiederholen können.

Was wir für ein Angebot brauchen

• Die Modelle mit Quantisierung und Kontextlänge und ob ein Modell verteilt wird oder jede Karte ihr eigenes betreibt
• Wie viele Personen die Maschine zur Spitzenzeit nutzen und ob über einen Dienst, MIG-Instanzen oder virtuelle Maschinen
• Weitere Arbeit auf derselben Maschine: Rendering, Simulation, Fine-Tuning, Datenaufbereitung
• Den Tower, auf den Ihr Unternehmen setzt, falls vorhanden, und Betriebssystem oder Hypervisor
• Den Raum: Absicherung des Stromkreises, Kühlung und den Standort des Towers
• Lieferort, Rechnungsempfänger und Zeitplan

Schreiben Sie uns diese Punkte im Formular unten, und wir antworten innerhalb eines Werktages mit einer Konfiguration und einem schriftlichen Angebot.

FAQ