Server mit 8× NVIDIA RTX PRO 6000 Blackwell Server Edition in Europa kaufen

Wer acht Karten in einem Server braucht

Einen Server mit acht NVIDIA RTX PRO 6000 Blackwell Server Edition können Sie bei uns kaufen, auf Bestellung gebaut und in die gesamte EU geliefert. Er hat 768 GB GPU-Speicher, verteilt auf acht Karten zu je 96 GB, zwei AMD-EPYC-Prozessoren und 1.536 GB DDR5 mit ECC in einem 4U- oder 5U-Gehäuse und ist die größte Konfiguration mit der Server Edition unter unseren KI-Servern. Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages.

Acht Karten passen zu zwei Arten von Käufern. Die einen betreiben für viele Nutzer ein großes offenes Modell, das vier bis acht Karten braucht, etwa Qwen3-235B-A22B, DeepSeek-V4-Flash oder Llama 4 Maverick. Die anderen versorgen ein ganzes Unternehmen aus einer Maschine: mehrere Kopien des Assistenten, ein Programmiermodell, ein Dokumentenmodell und die kleinen Modelle einer RAG-Pipeline auf jeweils eigenen Karten, wie unsere GPU-Aufteilung für acht Karten es für 1.000 Beschäftigte plant. Wo der Dienst den Ausfall eines Hosts überstehen muss, sind zwei Server mit je vier Karten die sicherere Aufteilung, wie unser Vergleich ein Server mit 8 GPUs oder zwei mit 4 GPUs zeigt. Für acht Karten mit 300 W erklärt unser Vergleich Max-Q oder Server Edition, warum wir im Rack die Server Edition empfehlen. Training und vollständiges Fine-Tuning großer Modelle gehören auf unseren Trainingsknoten mit acht H200 NVL und NVLink-Brücken.

Der Server mit acht Karten, Komponente für Komponente

Die Tabelle zeigt, was wir bauen und was wir je Projekt anpassen.

Unsere Seite zu KI-Servern; NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems (30. September 2026) für Kerne, Arbeitsspeicher, NVMe, Redfish und TPM; AMDs Seite zum EPYC 9555; Dells technischer Leitfaden zum PowerEdge XE7745 für die Netzteile, gelesen am 24. Oktober 2026.

1,5 TB Arbeitsspeicher und die Zahl der Kerne

NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems, aktualisiert am 30. September 2026, verlangt mindestens zwei Sockel, sechs physische Kerne je GPU, mindestens doppelt so viel Arbeitsspeicher wie GPU-Speicher insgesamt und ein NVMe-Laufwerk je Sockel. Acht Karten zu 96 GB ergeben 768 GB, der Leitfaden verlangt also 1.536 GB und 48 Kerne. Zwei EPYC 9555 mit je 64 Kernen und 360 W haben je Sockel 12 Speicherkanäle, und 24 Module zu 64 GB belegen alle 24 Kanäle mit einem Modul je Kanal.

NVIDIAs Referenzarchitektur RTX PRO AI Factory vom 18. Mai 2026 setzt die Untergrenze beim Arbeitsspeicher niedriger an, bei 128 GB je GPU, und verlangt sieben Kerne je GPU plus zwei je GPU für Betriebssystem oder Virtualisierung, also 72 Kerne für acht Karten, sowie zwei weitere Kerne je MIG-Instanz. Ein Server, der alle acht Karten in 32 MIG-Instanzen aufteilt, bräuchte nach dieser Regel 136 Kerne, deshalb legen wir die Prozessoren danach aus, wie die Karten genutzt werden. Der Arbeitsspeicher nimmt außerdem auf, was nicht auf den GPUs liegt: Modelldateien im Page Cache für schnelle Neustarts, einen RAG-Index und KV-Cache, der von den Karten ausgelagert wird, wie unser Leitfaden zum Auslagern des KV-Cache erklärt.

4U oder 5U und welche Hersteller acht Karten freigeben

Die Karte läuft nur in einem Server, dessen Hersteller sie für genau dieses Modell, diesen Steckplatz, dieses Stromkabel und diesen Lüftersatz freigibt. Diese Konfigurationen mit acht Karten stehen in den Unterlagen der Hersteller.

Herstellerunterlagen, gelesen am 24. Oktober 2026. HPE DL380a Gen12: acht Netzteile mit 2.400 oder 3.200 W für acht GPUs doppelter Breite, nur C19- oder C19-C20-Kabel. Cisco C845A M8: bis zu vier Netzteile mit 3,2 kW und N+1-Redundanz.

4U ist die übliche Größe; ein 5U-Gehäuse bietet mehr Raum für Luft und Netzwerkkarten. Die Server unterscheiden sich darin, wie die Karten die Prozessoren erreichen: Dells XE7745 bindet seine GPU-Steckplätze über vier PCIe-Switches von Broadcom an, und Supermicro beschreibt den SYS-422GA-NRT als Dual-Root-Design mit PCIe-5.0-x16-Switches. Das ist wichtig, sobald ein Modell über mehrere Karten verteilt wird, denn die Server Edition hat kein NVLink. Unsere Liste der kompatiblen Server für die RTX PRO 6000 Server Edition behandelt Kabel und Lüftersätze.

Was 768 GB GPU-Speicher aufnehmen

Nach unserer Regel für Nutzer je Karte, 0,9 × 95,6 GiB − 3 GiB je Karte, bieten acht Karten 664,3 GiB für Gewichte und KV-Cache. Die Tabelle nennt Beispiele; unser Leitfaden, was ein Server mit 8× RTX PRO 6000 Server Edition leistet, enthält alle Aufteilungen und die Rechnung.

Unsere Schätzung nach der Regel für Nutzer je Karte: gleichzeitige Gespräche in voller Kontextlänge, 16-Bit-KV-Cache, sofern nicht anders angegeben. Qwen3-235B-A22B-2507 FP8: 219,8 GiB Gewichte und 5,9 GiB Cache je Gespräch mit 32K nach seiner config.json; Llama 4 Maverick rund 417 GB in FP8.

Bei einem großen Modell bedienen zwei Kopien mehr Anfragen zugleich als eine. Helix berichtete am 14. August 2026, dass auf acht Karten der Server Edition zwei TP=4-Instanzen von DeepSeek-V4-Flash-0731 mit SGLang bei 32 gleichzeitigen Anfragen 481,7 Token pro Sekunde lieferten, eine einzelne TP=4-Instanz 236,9. Unser Leitfaden RTX PRO 6000 ohne NVLink vergleicht TP=8, zwei TP=4-Kopien und Pipeline-Parallelismus.

Veröffentlichte Ergebnisse mit acht Karten

MLPerf® Inference v6.1 vom 16. September 2026 enthält mehrere Systeme mit acht Karten der Server Edition von verschiedenen Herstellern.

MLPerf® Inference: Datacenter v6.1, Closed Division, Kategorie Available, Offline-Szenario, Llama 2 70B (llama2-70b-99.9) und gpt-oss-120b, Einträge 6.1-0070, 6.1-0013, 6.1-0036 und 6.1-0050, abgerufen von mlcommons.org am 24. Oktober 2026. Ergebnisse von der MLCommons Association verifiziert. Der Wert je Karte ist unsere Division des Systemergebnisses, keine MLPerf-Metrik. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use strictly prohibited. See www.mlcommons.org for more information.

Die vier Ergebnisse mit Llama 2 70B liegen innerhalb von 2,6 Prozent beieinander; das Gehäuse spielt für den Durchsatz also eine kleinere Rolle als für Strom, Luftstrom und Service. Im Server-Szenario, in dem Anfragen in zufälligen Abständen unter Latenzgrenzen eintreffen, erreichte HPEs System mit Llama 2 70B 28.643,3 Token pro Sekunde. Unsere Benchmarks der RTX PRO 6000 stellen diese Ergebnisse neben die mit zwei und vier Karten.

Wir liefern diesen Server mit einer Aufteilung, die je Modell geplant ist; schicken Sie uns Modelle, Kontextlänge und die Spitze laufender Anfragen, und unser Team antwortet mit einer Konfiguration und den Gesprächen je Aufteilung.

Netzteile, Anschlüsse und A/B für 6 bis 8 kW

Acht Karten mit 600 W und zwei Prozessoren zu 360 W kommen zusammen auf 5,52 kW Nennleistung. Für Arbeitsspeicher, Laufwerke, Netzwerkkarten, Lüfter und Wandlungsverluste schlagen wir 15 Prozent auf, eine Annahme, die eine Messung am gelieferten System bestätigt oder ersetzt. Dells Datenblatt zur AI Factory mit RTX PRO 6000 nennt für seine Knoten XE7740 und XE7745 mit acht Karten ein geschätztes Maximum von rund 8 kW unter Volllast und bezeichnet seine Schätzungen als Richtwerte.

Unsere Schätzung: Leistungsaufnahme der Karten aus NVIDIAs Product Brief, 360 W je Prozessor laut AMDs Seite zum EPYC 9555, plus 15 Prozent; Datenblatt Dell AI Factory with NVIDIA RTX PRO 6000, gelesen am 24. Oktober 2026.

Unsere Rechnung: 230 V × Ampere, für Drehstrom √3 × 400 V × Ampere; 80 Prozent sind die Planungsreserve aus unserem Leitfaden zu Strom und Kühlung im GPU-Rack.

Mit 600 W liegt der Server über den 5,89 kW, die wir für einen einphasigen Anschluss mit 32 A planen; wir planen daher einen Drehstromanschluss mit 400 V und 16 A, der auch Dells 8 kW abdeckt. Mit der 450-W-Begrenzung, rund 5,0 kW, genügt nach unserer Schätzung ein einphasiger Anschluss mit 32 A. Bei A- und B-Einspeisung muss jede Seite den ganzen Server tragen, der Rackplatz braucht also zwei solche Anschlüsse.

Die Netzteile folgen den Regeln des Herstellers. In Dells XE7745 versorgen die Netzteile 1 und 2 den Prozessorbereich und die Netzteile 3 bis 8 den GPU-Bereich. Für acht dieser Karten mit 600 W unterstützt Dells technischer Leitfaden eine 3+3-Aufteilung auf A und B im GPU-Bereich nur mit Netzteilen zu 3.200 W, nicht mit solchen zu 2.400 W. Das 3.200-W-Netzteil liefert seine Nennleistung bei 220,1 bis 240 V Wechselspannung und 2.900 W bei 200 bis 220 V, am europäischen 230-V-Netz liefert es also die volle Leistung. Dell schließt diese Netzteile mit C19-Kabeln an und hält fest, dass der XE7745 „does not support user power cap“. HPE setzt im DL380a Gen12 für acht Karten acht Netzteile mit 2.400 oder 3.200 W ein, ebenfalls nur mit C19-Kabeln, und unser Leitfaden zum Stromanschluss für GPU-Server mit 16 A, 32 A und Drehstrom vergleicht die Anschlussarten.

Kühlung, Zulufttemperatur und Gewicht

Die gesamte Leistung wird zu Wärme. Rund 6,3 kW brauchen bei 11 °C Temperaturanstieg etwa 1.000 CFM Luft und 8 kW etwa 1.300 CFM, nach den 160 CFM je kW aus unserem Leitfaden Strom und Kühlung im GPU-Rack. Dells Leitfaden zum XE7745 nennt in seinen Tabellen zur Kühlung für Konfigurationen mit der RTX PRO 6000 Server Edition eine maximale Umgebungs­temperatur von 30 °C; Supermicro gibt den SYS-422GA-NRT für acht Karten mit 600 W bei 35 °C an. Unser Leitfaden zur Zulufttemperatur von GPU-Servern erklärt, was am Rack zu messen ist.

Dells Datenblatt merkt an, dass Kunden Racks mit einer Wärmelast bis 30 kW üblicherweise mit Luft kühlen; nach unserer Rechnung sind das drei solcher Knoten zu je 8 kW. Dichtere Racks brauchen die Maßnahmen aus unserem Leitfaden zur Flüssigkühlung für GPU-Racks. Der XE7745 wiegt mit allen Laufwerken bis zu 68,5 kg; planen Sie also das Heben ins Rack und die Traglast des Racks ein. Wir prüfen Rack, Anschluss und Luftstrom, bevor wir ein Angebot machen; nennen Sie uns Anschlussart, A/B-Anforderung, Zulufttemperatur und freie Höheneinheiten, und wir wählen Gehäuse und Netzteile passend dazu.

Software, Treiber und NVIDIA-Lizenzen

Auf Wunsch kommt der Server mit installiertem Betriebssystem, NVIDIA-Treiber, CUDA und einer Container-Laufzeit. Die Server Edition braucht laut NVIDIAs Product Brief SP-12355-001_v02 einen Linux-Treiber ab R575 und CUDA 12.9 oder neuer auf x86. Stand Oktober 2026 ist R580 NVIDIAs Zweig mit Langzeitsupport bis Juni 2028, und NVIDIAs Security Bulletin vom 30. September 2026 nennt 580.178.04 als ersten korrigierten R580-Treiber, wie unser Artikel zu NVIDIA-Treiberzweigen und CUDA-Versionen erklärt.

MIG teilt jede Karte in bis zu vier Instanzen zu 24 GB, bis zu 32 je Server, eingestellt je Karte, und NVIDIAs MIG-Leitfaden hält fest, dass NCCL mit MIG nicht unterstützt wird; verteilte Modelle laufen also auf ganzen Karten. Die Server Edition unterstützt vGPU ab Release 19.0; Compute-vGPU-Profile und NIM brauchen NVIDIA AI Enterprise, lizenziert je GPU, das wir auf derselben Rechnung wie die Hardware liefern. Für Serving auf Bare Metal mit Open-Source-Engines braucht es keine NVIDIA-Lizenz.

Bestellung, Test und Garantie über uns

Die Bestellung läuft für einen Server oder mehrere in denselben Schritten.

1. Sie beschreiben Arbeitslast, Rackplatz und Zeitplan. Die Auslegung ist kostenlos.
2. Wir schlagen die Konfiguration vor und prüfen, ob Karten, Gehäuse, Netzteile und Kühlung zu Ihrem Rack und Ihren Anschlüssen passen.
3. Sie erhalten innerhalb eines Werktages ein schriftliches Angebot mit Preis und Garantiebedingungen je Komponente; Stückzahlen und Lieferzeit werden darin schriftlich bestätigt.
4. Sie bestellen mit einem EU-Vertrag und erhalten eine EU-Rechnung von Eurokommerz in Wien; NVIDIA-Lizenzen sind Positionen auf derselben Rechnung.
5. Wir montieren den Server und testen ihn vor der Lieferung mit einem Einschalt- und Lasttest.
6. Wir liefern in die gesamte EU, auf Wunsch mit Inbetriebnahme vor Ort; andere Ziele auf Anfrage über unseren Logistikpartner.
7. Jede Komponente hat die Herstellergarantie, abgewickelt über uns; DOA-Geräte werden ersetzt, und für die Montage stehen wir selbst ein.

Für Ihren eigenen Abnahmetest bei der Lieferung nutzen Sie die Prüfungen aus unserem Leitfaden GPU-Server Burn-in und Abnahmetest; für eine öffentliche Ausschreibung helfen unsere technischen Anforderungen für eine GPU-Server-Ausschreibung bei der Formulierung.

Was Ihre Anfrage enthalten sollte

• Modelle, Quantisierung und Kontextlänge oder die Abteilungen und Anwendungsfälle, die der Server trägt
• Die Spitze gleichzeitig laufender Anfragen oder die Zahl der Beschäftigten und wie sie den Dienst nutzen
• Ob Karten per MIG geteilt oder virtuellen Maschinen zugewiesen werden, und die Plattform mit Version
• Den Rackplatz: freie Höheneinheiten, Racktiefe und Traglast, Anschlussart und Stromstärke, A/B-Einspeisung, Ausgänge der PDU und Zulufttemperatur
• Netzwerk-Uplinks, gemeinsamen Storage und ob der Server Teil eines Clusters wird
• Lieferort, rechnungsempfangende Gesellschaft und Zeitplan

Wo ein Modell auf vier Karten passt, bieten zwei Server mit je vier Karten eine Ausfallsicherheit, die ein Server mit acht Karten nicht hat; unsere Seite Server mit 4× RTX PRO 6000 Server Edition kaufen behandelt diese Version. Wir liefern auch die Karten der RTX PRO 6000 einzeln und Lizenzen für NVIDIA AI Enterprise im selben EU-Vertrag.

FAQ