Server mit 2× NVIDIA RTX PRO 6000 Blackwell Server Edition in Europa kaufen

Der Einstiegsserver mit zwei Karten der Server Edition

Einen Server mit zwei NVIDIA RTX PRO 6000 Blackwell Server Edition können Sie bei uns kaufen, auf Bestellung gebaut und in die gesamte EU geliefert. Er ist die Einstiegskonfiguration unter unseren KI-Servern: zwei Karten zu 96 GB, zwei AMD-EPYC-Prozessoren, 384 GB DDR5 mit ECC und zwei NVMe-Laufwerke. Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages.

Zwei Karten passen zu einem Unternehmen, das seinen ersten KI-Dienst in den produktiven Betrieb bringt: einen eigenen Assistenten für einige hundert Beschäftigte, RAG auf den eigenen Dokumenten oder einen Programmierassistenten für ein Entwicklungsteam. Auf dem Server läuft gpt-oss-120b als zwei unabhängige Kopien, Llama 3.3 70B in FP8 als ein Paar über beide Karten oder ein Modell je Karte neben einem Embedding-Modell und einem Reranker in MIG-Instanzen. Mit den Beispielwerten unseres Leitfadens zum privaten ChatGPT-Server decken zwei Kopien von gpt-oss-120b die Spitze von rund 500 Beschäftigten ab. Größere Modelle oder viele Abteilungen auf einem Server sprechen für vier Karten; ein Dienst, der den Ausfall eines Hosts überstehen muss, für einen zweiten Server.

Stückliste der Einstiegskonfiguration

Die Tabelle zeigt die Referenzkonfiguration und was wir je Projekt anpassen.

Unsere Seite zu KI-Servern; NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems (30. September 2026) für Sockel, Kerne, Arbeitsspeicher, NVMe, Redfish und TPM; AMDs Seite zum EPYC 9135 für die Kerne, gelesen am 24. Oktober 2026.

Der Host folgt NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems: mindestens zwei Sockel, sechs physische Kerne je GPU, mindestens doppelt so viel Arbeitsspeicher wie GPU-Speicher insgesamt und ein NVMe-Laufwerk je Sockel. Für zwei Karten zu 96 GB sind das 12 Kerne, 384 GB und zwei Laufwerke. Zwei EPYC 9135 haben je 16 Kerne und 200 W und je Sockel 12 Speicherkanäle, 24 Module zu 16 GB belegen also jeden Kanal. Ihre 32 Kerne reichen auch für vier Karten, die Prozessoren bleiben beim Ausbau also unverändert.

Auf den zwei NVMe-Laufwerken liegen Betriebssystem und Modelldateien, gespiegelt, damit der Server beim Ausfall eines Laufwerks weiterläuft. Mehrere Checkpoints zu 60 bis 170 GB, ein RAG-Index oder lokale Logs brauchen weitere Laufwerke in den freien Einschüben des Gehäuses. Für die Nutzer trägt 25 GbE den Chat-Verkehr; 100 GbE lohnt sich, wenn Modelle von gemeinsamem Storage geladen werden oder der Server später zusammen mit einem zweiten hinter einem Load Balancer läuft.

Optionen, die wir je Projekt anpassen

Die meisten Varianten hängen an der Frage, ob der Server bei zwei Karten bleibt.

• 2U für zwei Karten. Die kleinste Version. Dells PowerEdge R7725 etwa nimmt zwei Karten in 2U auf, laut Dells Datenblatt mit je 450 W. Ein solches Gehäuse bleibt bei zwei.
• Ein Gehäuse für vier. HPEs ProLiant DL385 Gen11 nimmt mit seinem Maximum Performance Fan Kit vier Karten mit 600 W in 2U auf, und HPEs DL380a Gen12 nutzt für zwei oder vier GPUs doppelter Breite dieselben fünf Netzteile. Ein solcher Einstieg kostet anfangs mehr und erspart später einen zweiten Server, wie unser Leitfaden GPU später nachrüsten erklärt.
• Arbeitsspeicher für den Ausbau. Vier Karten brauchen nach NVIDIAs Regel 768 GB. Zwölf Module zu 32 GB ergeben dieselben 384 GB und lassen die Hälfte der Kanäle für den späteren Schritt frei, bis dahin mit halber Speicherbandbreite.
• Leistungsmodus. Bei zwei Karten ist die 450-W-Begrenzung für den Stromanschluss nicht nötig. Sie senkt die Abwärme und ist in manchen 2U-Servern der freigegebene Modus; StorageReview hat dafür an der RTX PRO 6000 Workstation Edition 2 bis 9 Prozent weniger Durchsatz gemessen.
• Ein Prozessor. Es gibt 2U-Server mit einem Sockel für zwei Karten, NVIDIAs aktueller Leitfaden verlangt aber zwei Sockel, deshalb hat unsere Einstiegskonfiguration zwei.
• Max-Q statt Server Edition. Die RTX PRO 6000 Max-Q ist die Workstation-Karte, eine 300-W-Karte mit Radiallüfter, die NVIDIA mit bis zu vier Karten je Workstation unterstützt. In einen Rack-Server gehört sie nur, wenn der Gehäusehersteller sie freigibt, und viele Hersteller tun das nicht; für den Dauerbetrieb im Rack empfehlen wir die Server Edition. Für ein System am Arbeitsplatz siehe unsere Seite Workstation mit 2× RTX PRO 6000 Max-Q kaufen.

Modelle und Gespräche auf zwei Karten

Nach unserer Regel für Nutzer je Karte, 0,9 × 95,6 GiB − 3 GiB je Karte, bieten die zwei Karten 166,1 GiB für Gewichte und KV-Cache. Die Tabelle nennt vier Beispiele; unser Leitfaden 2× RTX PRO 6000 Server Edition: LLMs, Nutzer, Strom enthält alle Aufteilungen, veröffentlichte Messwerte und die Rechnung.

Unsere Schätzung nach der Regel für Nutzer je Karte: gleichzeitige Gespräche in voller Kontextlänge, FP8-KV-Cache für Llama 3.3 70B, 16 Bit für die anderen.

Mit MIG lassen sich die Karten zusätzlich aufteilen. Eine Karte bedient das Hauptmodell vollständig, während die andere in vier Instanzen zu 24 GB für ein Embedding-Modell, einen Reranker, Spracherkennung und ein kleines Aufgabenmodell aufgeteilt ist, jede von den anderen isoliert. Ein Modell über beide Karten läuft auf ganzen Karten, weil NVIDIAs MIG-Leitfaden festhält, dass NCCL mit MIG nicht unterstützt wird; unsere MIG-Profile der RTX PRO 6000 zeigen, was in jede Größe passt.

Gezählt werden Anfragen, die im selben Moment laufen; ein Gateway-Log zeigt diese Zahl zur Spitzenstunde. Wir bauen diesen Server in jeder der genannten Varianten; senden Sie uns Ihre Modelle und die Spitze laufender Anfragen, und unser Team antwortet mit einer Konfiguration und den Gesprächen je Aufteilung.

Rack, Anschluss und Luft für rund 1,8 kW

Nach unserer Schätzung brauchen zwei Karten mit 600 W und zwei Prozessoren zu 200 W rund 1,8 kW an der Steckdose, mit Karten bei 450 W rund 1,5 kW; die 15 Prozent, die wir für Arbeitsspeicher, Laufwerke, Lüfter und Wandlungsverluste aufschlagen, sind eine Annahme, die eine Messung am gelieferten System bestätigt oder ersetzt. Einen einphasigen 230-V-Anschluss mit 16 A planen wir mit 80 Prozent ein, das sind 2,94 kW; der Server passt also je Seite an einen solchen Anschluss. Mit redundanten Netzteilen an einer A- und einer B-Einspeisung trägt jede Seite den ganzen Server.

• Steckdosen. Die Netzteile bestimmen das Kabel. HPE etwa lässt für die Netzteile mit 2.400 und 3.200 W, die der DL380a Gen12 mit dieser Karte braucht, nur C19- oder C19-C20-Kabel zu; prüfen Sie also, ob die PDU im Rack passende Ausgänge hat.
• Kühlung. Rund 1,8 kW Wärme brauchen bei 11 °C Temperaturanstieg etwa 290 CFM Luft, nach den 160 CFM je kW aus unserem Leitfaden Strom und Kühlung im GPU-Rack. NVIDIAs Product Brief verlangt je Karte 43 CFM durch den Kühlkörper bei 25 °C Zuluft und 125 CFM bei 45 °C.
• Raum. Unter Volllast gehört der Server in ein Rack im Serverraum oder Rechenzentrum; unser Leitfaden GPU-Server im Büro behandelt die Fälle dazwischen.
• Ausbau. Vier Karten mit 600 W bräuchten mit denselben Prozessoren rund 3,2 kW, mehr als ein 16-A-Anschluss; mit der 450-W-Begrenzung rund 2,5 kW.

Wir prüfen den Rackplatz, bevor wir ein Angebot machen. Nennen Sie uns Anschlussart, A/B-Anforderung und Zulufttemperatur, und wir wählen Gehäuse und Netzteile passend dazu.

Betriebssystem, Treiber und Lizenzen bei Lieferung

Auf Wunsch kommt der Server mit installiertem Betriebssystem, NVIDIA-Treiber, CUDA und einer Container-Laufzeit, sodass Ihr Team am ersten Tag eine Serving-Engine starten kann.

Unsere Seite zu KI-Servern; Mindestversionen für Treiber und CUDA aus NVIDIAs Product Brief SP-12355-001_v02 zur Server Edition.

Stand Oktober 2026 ist R580 NVIDIAs Zweig mit Langzeitsupport bis Juni 2028, und NVIDIAs Security Bulletin vom 30. September 2026 nennt 580.178.04 als ersten korrigierten R580-Treiber; unser Artikel zu NVIDIA-Treiberzweigen und CUDA-Versionen erklärt die Wahl. Für Serving auf Bare Metal mit Open-Source-Engines braucht es keine NVIDIA-Lizenz. NVIDIA AI Enterprise, lizenziert je GPU, ist für NIM und für Compute-vGPU-Profile nötig; unter vSphere braucht die Karte ESXi 8.0 Update 3g oder neuer.

Von der Anfrage bis zur Lieferung in der EU

Die Schritte sind für einen Server dieselben wie für ein Paar zur Ausfallsicherheit.

1. Sie beschreiben die Arbeitslast: Modelle, Nutzer, Daten, Rack und Zeitplan. Die Auslegung ist kostenlos.
2. Wir schlagen die Konfiguration vor und prüfen, ob Karten, Gehäuse, Netzteile und Kühlung zu Ihrem Rack und Anschluss passen.
3. Sie erhalten innerhalb eines Werktages ein schriftliches Angebot mit Preis und Garantiebedingungen je Komponente; Stückzahlen und Lieferzeit werden darin schriftlich bestätigt.
4. Sie bestellen mit einem EU-Vertrag und erhalten eine EU-Rechnung von Eurokommerz in Wien; NVIDIA-Lizenzen sind Positionen auf derselben Rechnung.
5. Wir montieren den Server und testen ihn vor der Lieferung mit einem Einschalt- und Lasttest.
6. Wir liefern in die gesamte EU, auf Wunsch mit Inbetriebnahme vor Ort; andere Ziele auf Anfrage über unseren Logistikpartner.
7. Jede Komponente hat die Herstellergarantie, abgewickelt über uns; DOA-Geräte werden ersetzt, und für die Montage stehen wir selbst ein.

Wir bauen auch in Ihr eigenes Gehäuse oder mit Teilen, die Sie schon besitzen, nach einer Prüfung von Plattform, Strom und Kühlung. Für Ihren eigenen Abnahmetest bei der Ankunft listet unser Leitfaden GPU-Server Burn-in und Abnahmetest die Prüfungen auf, und GPU-Server-Angebote vergleichen zeigt, was jede Position eines Angebots angeben sollte.

Angaben für ein genaues erstes Angebot

Für den Anfang genügen ein paar Sätze. Mit diesen Angaben können wir schon in der ersten Antwort die genaue Konfiguration anbieten.

• Die Modelle, die Sie betreiben wollen, mit Quantisierung und der Kontextlänge, die Sie einstellen wollen
• Die Spitze gleichzeitig laufender Anfragen oder die Zahl der Nutzer und wie sie arbeiten
• Ob und wann der Server später vier Karten aufnehmen soll
• Weitere Arbeitslasten auf demselben Server: Embedding und Reranking, Spracherkennung, virtuelle Maschinen oder MIG
• Die Softwareplattform: Bare Metal, Kubernetes oder vSphere, mit Version
• Den Rackplatz: freie Höheneinheiten, Anschlussart und Stromstärke, A/B-Einspeisung, Ausgänge der PDU und Zulufttemperatur
• Lieferort, rechnungsempfangende Gesellschaft, Zeitplan und etwaige Vorgaben einer Ausschreibung, für deren Formulierung unsere technischen Anforderungen für eine GPU-Server-Ausschreibung helfen

Zwei Server sind oft die bessere erste Bestellung, wenn der Assistent auch während Wartungsarbeiten laufen muss, wie unser Leitfaden zur Hochverfügbarkeit für LLMs auf zwei GPU-Knoten erklärt.

Karten, Server und Lizenzen aus einer Hand

Wir liefern den Server mit zwei NVIDIA RTX PRO 6000 Blackwell Server Edition in 2U oder in einem Gehäuse für vier, dazu Versionen mit vier und acht Karten sowie die Karten der RTX PRO 6000 einzeln für Server, die Sie schon betreiben. Lizenzen für NVIDIA AI Enterprise und vGPU stehen im selben EU-Vertrag und auf derselben Rechnung wie die Hardware. Die Version mit vier Karten steht auf unserer Seite Server mit 4× RTX PRO 6000 Server Edition kaufen.

FAQ