Server mit 4× NVIDIA RTX PRO 6000 Blackwell Server Edition in Europa kaufen

Für wen sich der Server mit vier Karten eignet

Einen Server mit vier NVIDIA RTX PRO 6000 Blackwell Server Edition können Sie bei uns kaufen, auf Bestellung gebaut und in die gesamte EU geliefert. Er ist der Inferenzknoten unter unseren KI-Servern: vier Karten zu 96 GB, zwei AMD-EPYC-Prozessoren, 768 GB DDR5 mit ECC und vier NVMe-Laufwerke, für produktive Inferenz für mehrere Teams und mehrere Modelle zugleich. Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages.

Der Server mit vier Karten passt zu einem Unternehmen, das ein Pilotprojekt abgeschlossen hat und nun einen eigenen Assistenten, RAG auf seinen Dokumenten oder Unterstützung beim Programmieren für mehrere Abteilungen betreibt. Auf ihm läuft ein großes Modell mit Platz für viele Gespräche oder ein 70B-Modell neben einem Embedding-Modell, einem Reranker und einem Dienst für Spracherkennung. Mit MIG stellt er außerdem bis zu 16 isolierte GPUs zu 24 GB für Entwicklungsteams bereit. Für ein Pilotprojekt oder eine Abteilung genügen zwei Karten; Modelle mit mehr als rund 330 GiB Gewichten brauchen acht Karten. Training und vollständiges Fine-Tuning großer Modelle gehören auf unseren Trainingsknoten mit acht H200 NVL und NVLink-Brücken.

Was die Konfiguration enthält

Die Tabelle zeigt die Referenzkonfiguration und was wir je Projekt anpassen.

Unsere Seite zu KI-Servern; NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems (30. September 2026) für Kerne, Arbeitsspeicher, Redfish und TPM; HPE QuickSpecs zum DL380a Gen12 und Cisco-Datenblatt zum UCS C845A M8 für die Netzteile, gelesen am 24. Oktober 2026.

Der Host folgt NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems: mindestens zwei Sockel, sechs physische Kerne je GPU und mindestens doppelt so viel Arbeitsspeicher wie GPU-Speicher insgesamt, also 768 GB für vier Karten zu 96 GB. Mit zwei EPYC 9355 zu je 32 Kernen füllen 24 Module zu 32 GB alle 24 Speicherkanäle. Vier NVMe-Laufwerke decken ein gespiegeltes System und einen gespiegelten Modellspeicher ab; die Gründe für jede Stufe stehen in unserem Leitfaden CPU, RAM und Storage für einen KI-Server mit 4 GPUs.

Varianten: 2U mit 450 W oder 4U mit 600 W

Der Leistungsmodus bestimmt fast alles andere. Ein 2U-Server mit auf 450 W begrenzten Karten braucht am wenigsten Platz im Rack und kommt nach unserer Schätzung mit einem 230-V-Anschluss mit 16 A je Seite aus; Lenovo etwa erlaubt vier Karten in seinem 2U-Server ThinkSystem SR650a V4 nur in der Version „Slot Capped at 450W“. StorageReview hat für die Begrenzung je nach Kontextlänge 2 bis 9 Prozent weniger Durchsatz gemessen, mit einer Karte der Workstation Edition anstelle der Server Edition. Ein 3U- oder 4U-Server betreibt die Karten mit 600 W, hat mehr Raum für Luft, Netzteile und Netzwerkkarten und braucht einen Rackplatz mit 32 A oder Drehstrom.

• Arbeitsspeicher. 768 GB reichen für den Betrieb der Modelle; rund 1 TB passt zu einem großen Vektorindex oder zu einem KV-Cache, der für viele wiederkehrende Nutzer in den Arbeitsspeicher ausgelagert wird.
• Netzwerk. 25 GbE genügt für Chat-Verkehr; 100 GbE oder mehr lohnt sich, wenn Modelle von gemeinsamem Storage geladen werden oder der Server Teil eines Clusters ist.
• Ausbau. Ein Server kann mit zwei Karten beginnen, in einem Gehäuse mit Netzteilen und Steckplätzen für vier, wie unser Leitfaden GPU später nachrüsten erklärt.
• Max-Q statt Server Edition. Die RTX PRO 6000 Max-Q ist die Workstation-Karte, eine 300-W-Karte mit Radiallüfter, die NVIDIA mit bis zu vier Karten je Workstation unterstützt. In einen Rack-Server gehört sie nur, wenn der Gehäusehersteller sie freigibt, und viele Hersteller tun das nicht; für den Dauerbetrieb im Rack empfehlen wir die Server Edition, wie unsere Seite zur RTX PRO 6000 Max-Q im Rack-Server erklärt.

Was der Server leistet

Nach unserer Regel für Nutzer je Karte, 0,9 × 95,6 GiB − 3 GiB je Karte, bieten die vier Karten 332,2 GiB für Gewichte und KV-Cache. Die Tabelle nennt vier Beispiele; unser Leitfaden 4× RTX PRO 6000 Server Edition: LLMs, Nutzer, Strom enthält die vollständige Modellliste, alle Aufteilungen, veröffentlichte Messwerte und die Rechnung.

Unsere Schätzung nach der Regel für Nutzer je Karte: gleichzeitige Gespräche in voller Kontextlänge, FP8-KV-Cache für Llama 3.3 70B, 16 Bit für die anderen.

Gezählt werden Anfragen, die im selben Moment laufen; die Logs Ihres Gateways zeigen diese Zahl zur Spitzenstunde. Wir liefern den Server in jeder der genannten Varianten; schicken Sie uns Ihre Modelle und die Spitze laufender Anfragen, und unser Team antwortet mit einer Konfiguration und den Gesprächen je Aufteilung.

Strom und Raum

Nach unserer Schätzung brauchen vier Karten mit 600 W und zwei Prozessoren zu 280 W rund 3,4 kW an der Steckdose, mit der 450-W-Begrenzung rund 2,7 kW. Einen einphasigen 230-V-Anschluss mit 16 A planen wir mit 80 Prozent ein, das sind 2,94 kW; die 600-W-Version braucht deshalb einen einphasigen Anschluss mit 32 A (5,89 kW geplant) oder einen Drehstromanschluss mit 400 V. Mit redundanten Netzteilen an einer A- und einer B-Einspeisung trägt jede Seite den ganzen Server.

• Steckdosen. HPE etwa lässt für die Netzteile mit 2.400 und 3.200 W, die der DL380a Gen12 mit dieser Karte braucht, nur C19- oder C19-C20-Kabel zu; prüfen Sie also, ob die PDU im Rack C19-Ausgänge hat.
• Kühlung. Die gesamte Leistung wird zu Wärme: Rund 3,4 kW brauchen bei 11 °C Temperaturanstieg etwa 540 CFM Luft. NVIDIAs Product Brief verlangt je Karte 43 CFM durch den Kühlkörper bei 25 °C Zuluft und 125 CFM bei 45 °C, und die Serverhersteller legen je Konfiguration eigene Grenzen für die Zuluft fest.
• Raum. Ein Server mit vier Karten unter Volllast gehört in einen Serverraum oder ein Rechenzentrum, wie unser Leitfaden GPU-Server im Büro erklärt.

Wir prüfen Rack, Anschluss und Luftstrom, bevor wir ein Angebot machen. Nennen Sie uns Anschlussart, A/B-Anforderung und Zulufttemperatur am Rackplatz, und wir wählen Leistungsmodus und Gehäuse passend dazu.

Software bei Lieferung

Auf Wunsch kommt der Server mit installiertem Betriebssystem, NVIDIA-Treiber, CUDA und einer Container-Laufzeit, sodass Ihr Team am ersten Tag eine Serving-Engine starten kann.

Unsere Seite zu KI-Servern; Mindestversionen für Treiber und CUDA aus NVIDIAs Product Brief SP-12355-001_v02 zur Server Edition.

Stand Oktober 2026 ist R580 NVIDIAs Zweig mit Langzeitsupport bis Juni 2028, und NVIDIAs Security Bulletin vom 30. September 2026 nennt 580.178.04 als ersten korrigierten R580-Treiber; unser Artikel zu NVIDIA-Treiberzweigen und CUDA-Versionen erklärt die Wahl. Für Serving auf Bare Metal mit Open-Source-Engines braucht es keine NVIDIA-Lizenz. NVIDIA AI Enterprise, lizenziert je GPU, ist für NIM und andere Software von NVIDIA AI Enterprise sowie für Compute-vGPU-Profile nötig; unter vSphere braucht die Karte ESXi 8.0 Update 3g oder neuer. Modelle, RAG und die Plattform darüber sind ein eigener Service, Private AI/ML.

So läuft die Bestellung bei uns

Die Bestellung läuft für einen Server oder mehrere in denselben Schritten.

1. Sie beschreiben die Arbeitslast: Modelle, Nutzer, Daten, Rack und Zeitplan. Die Auslegung ist kostenlos.
2. Wir schlagen die Konfiguration vor und prüfen, ob Karten, Gehäuse, Netzteile und Kühlung zu Ihrem Rack und Anschluss passen.
3. Sie erhalten innerhalb eines Werktages ein schriftliches Angebot mit Preis und Garantiebedingungen je Komponente; Stückzahlen und Lieferzeit werden darin schriftlich bestätigt.
4. Sie bestellen mit einem EU-Vertrag und erhalten eine EU-Rechnung von Eurokommerz in Wien; NVIDIA-Lizenzen sind Positionen auf derselben Rechnung.
5. Wir montieren den Server und testen ihn vor der Lieferung mit einem Einschalt- und Lasttest.
6. Wir liefern in die gesamte EU, auf Wunsch mit Inbetriebnahme vor Ort; andere Ziele auf Anfrage über unseren Logistikpartner.
7. Jede Komponente hat die Herstellergarantie, abgewickelt über uns; DOA-Geräte werden ersetzt, und für die Montage stehen wir selbst ein.

Wir bauen auch in Ihr eigenes Gehäuse oder mit Teilen, die Sie schon besitzen, nach einer Prüfung von Plattform, Strom und Kühlung. Für Ihren eigenen Abnahmetest bei der Lieferung nutzen Sie die Prüfungen aus unserem Leitfaden GPU-Server Burn-in und Abnahmetest; um unser Angebot Position für Position mit anderen zu vergleichen, zeigt unser Leitfaden GPU-Server-Angebote vergleichen, was jede Position angeben sollte.

Was wir für ein Angebot brauchen

Für den Anfang genügt eine kurze Beschreibung; mit diesen Punkten können wir schon in der ersten Antwort die genaue Konfiguration anbieten.

• Die Modelle, die Sie betreiben wollen, mit Quantisierung und der Kontextlänge, die Sie einstellen wollen
• Die Spitze gleichzeitig laufender Anfragen oder die Zahl der Nutzer und wie sie arbeiten
• Weitere Arbeitslasten auf demselben Server: RAG mit Embedding und Reranking, Spracherkennung, Fine-Tuning, virtuelle Maschinen oder MIG
• Die Softwareplattform: Bare Metal, Kubernetes oder vSphere, mit Version
• Den Rackplatz: freie Höheneinheiten, Anschlussart und Stromstärke, A/B-Einspeisung, Ausgänge der PDU und Zulufttemperatur
• Netzwerk-Uplinks und wo Modelle und Daten liegen
• Lieferort, rechnungsempfangende Gesellschaft, Zeitplan und etwaige Vorgaben einer Ausschreibung, für deren Formulierung unsere technischen Anforderungen für eine GPU-Server-Ausschreibung helfen

Beschreiben Sie diese Punkte im Formular unten, und unser Team antwortet innerhalb eines Werktages mit einer Konfiguration und einem schriftlichen Angebot.

Was wir liefern

Wir liefern den Server mit vier NVIDIA RTX PRO 6000 Blackwell Server Edition in 2U, 3U oder 4U, mit 450 oder 600 W je Karte, dazu Versionen mit zwei und acht Karten sowie die Karten der RTX PRO 6000 für Server, die Sie schon betreiben. Lizenzen für NVIDIA AI Enterprise und vGPU stehen im selben EU-Vertrag und auf derselben Rechnung wie die Hardware.

FAQ