Serverraum für GPU-Server vorbereiten: Checkliste von der Racktiefe bis zum Abnahmetest

Was vor der Lieferung eines GPU-Servers bereitstehen muss

Bevor ein GPU-Server mit zwei bis acht Karten geliefert wird, bereitet ein Unternehmen sieben Dinge vor: einen ausreichend tiefen Rackplatz, Boden und Lieferweg für das Gewicht, Stromanschlüsse mit C19-Ausgängen, Kühlung innerhalb der Zuluftgrenze des Herstellers, Netzwerk-Uplinks, den Zugang zum Management-Controller und einen Plan für den Abnahmetest. Ein Server mit vier Karten der NVIDIA RTX PRO 6000 Blackwell Server Edition zieht nach unserer Schätzung rund 3,4 kW, einer mit acht Karten 6,3 bis 8 kW, und jede Prüfung, die bis zum Liefertag liegen bleibt, kann den gelieferten Server ausgeschaltet lassen.

Die Liste unten gehen wir mit Kunden durch, bevor wir ein Angebot schreiben; so steht es auf unserer Seite zu KI-Servern: Rack, Strom und Luftstrom werden vor dem Angebot geprüft. Zu jedem Punkt steht, wer ihn meist verantwortet, denn Haustechnik, Netzwerk- und Serverteam betreuen jeweils einen Teil.

Unsere Checkliste; die Details und die Dokumente hinter jeder Zeile folgen unten.

Racktiefe, Schienen und freie Höheneinheiten

GPU-Server sind tief. Dells PowerEdge XE7745, ein Achtkartenserver im 4U-Format für die RTX PRO 6000 Server Edition und die H200 NVL, ist 174,3 mm hoch, ohne Blende 886,73 mm und mit Blende 899,56 mm tief; von den Montagewinkeln bis zu den Griffen der Netzteile sind es 864,73 mm. Supermicro nennt für den 4U-Server SYS-422GA-NRT, der acht 600-W-Karten aufnimmt, 437 × 178 × 737 mm. Dazu kommt der Platz hinter dem Server für die C19-Stecker und die Netzwerkkabel.

Die Schienen entscheiden, ob der Server überhaupt ins Rack passt. Dell bietet für den XE7745 eine einzige Schiene an, eine werkzeuglose Gleitschiene zum Einstecken, für 19-Zoll-Racks nach EIA-310-E mit vier Pfosten und Vierkantlöchern oder Rundlöchern ohne oder mit Gewinde, und verweist für den Tiefenbereich auf seine Matrix zu Schienengrößen und Rackkompatibilität. Messen Sie den Abstand zwischen vorderen und hinteren Pfosten am Rackplatz und vergleichen Sie ihn mit dem Bereich, den die Matrix des Herstellers für genau diese Schiene nennt. Dell listet für diese Schiene nur Racks mit vier Pfosten.

Zählen Sie auch die freien Höheneinheiten. Ein 4U-Server belegt vier Höheneinheiten, ein 2U-Server mit zwei Karten zwei; schließen Sie die Einheiten um ihn herum mit Blindblechen, damit warme Abluft nicht zur Ansaugseite zurückströmt. Unser Artikel dazu, wie viele GPUs in einen Server passen, vergleicht 2U-, 3U- und 4U-Gehäuse.

Gewicht, Bodenlast und der Weg zum Rack

Dell nennt für den XE7745 mit allen Laufwerken höchstens 68,5 kg. Die Hinweise zum Tragen im selben Technical Guide verlangen zwei Personen ab etwa 18 kg (40 lb), drei Personen ab etwa 32 kg (70 lb) und über 54,4 kg (120 lb) einen Serverlift. Ein Achtkartenserver ist also eine Aufgabe für einen Lift. Supermicro gibt für den SYS-422GA-NRT 29,7 kg netto und 45,3 kg brutto in einer Verpackung von 685 × 675 × 1.041 mm an; das Datenblatt sagt nicht, welche Teile das Nettogewicht enthält; fragen Sie deshalb nach dem Gewicht des konfigurierten Servers mit seinen Karten.

Für den Boden zählt das Gesamtgewicht des Racks und ebenso die Last auf jedem Fuß oder jeder Rolle. Vier Server mit je 68,5 kg ergeben nach unserer Rechnung bereits 274 kg, ohne Rack, PDUs und Verkabelung; unser Leitfaden zu Strom und Kühlung im GPU-Rack hält fest, dass ein Rack mit 64 GPUs an eine Tonne heranreichen kann. Doppelböden sind je Bodenplatte für eine bestimmte Last ausgelegt, deshalb prüft die Haustechnik die Punktlast am Rackplatz.

Am Liefertag zählt der Weg. Prüfen Sie, ob die Verpackung durch Türen, Flurecken und den Lastenaufzug passt und ob der Aufzug für Paket und Personen zugelassen ist. Legen Sie fest, wer die Lieferung annimmt, wo der Server bis zum Einbau steht und wer die Verpackung entfernt. Wir liefern in die ganze EU und an andere Ziele über unseren Logistikpartner; auf Wunsch nehmen wir den Server vor Ort in Betrieb.

Stromanschluss, PDUs und C19-Ausgänge

Die Last je Server folgt aus den Karten. Mit zwei AMD-EPYC-Prozessoren passend zur Kartenzahl und 15 Prozent für den Rest schätzen wir rund 1,8 kW für zwei 600-W-Karten, rund 3,4 kW für vier (rund 2,7 kW mit 450-W-Begrenzung) und rund 6,3 kW für acht; Dell nennt für seine Achtkartenknoten etwa 8 kW bei Volllast. Unser Leitfaden zum Stromanschluss von GPU-Servern erklärt die Methode.

Unsere Schätzungen wie in unserem Leitfaden zum Stromanschluss, geplant mit 80 Prozent der Absicherung: 2,94 kW für 230 V 16 A, 5,89 kW für 32 A, 8,87 kW für 400 V 16 A Drehstrom. Dells Wert von etwa 8 kW für seine Achtkartenknoten stammt aus dem Datenblatt „AI Factory with RTX PRO 6000“.

Die Ausgänge sind eine eigene Prüfung. Nach IEC 60320 ist ein C13-Ausgang für 10 A ausgelegt, ein C19-Ausgang für 16 A. Dell nennt C19-Kabel für seine Netzteile mit 2.400 und 3.200 W, und HPE schreibt, dass seine Netzteile mit 2.400 und 3.200 W nur C19- oder C19-C20-Kabel aufnehmen; eine PDU mit nur C13-Ausgängen kann diese Server also nicht versorgen. Zählen Sie je Seite einen C19-Ausgang pro Netzteilkabel: Ein Achtkartenserver von Dell hat acht Netzteile.

Bei A- und B-Einspeisung wird jeder Anschluss, jede PDU und jede USV für den ganzen Server ausgelegt, weil die Netzteile einer Seite ihn allein tragen, wenn die andere Seite ausfällt. Dell unterstützt im XE7740 mit acht 600-W-Karten die 4+4-Redundanz über zwei Netze nur mit seinen 3.200-W-Netzteilen, die ihre volle Leistung zwischen 220,1 und 240 V liefern. Fragen Sie den Hersteller, ob die genaue Konfiguration A/B überhaupt unterstützt, bevor Sie zwei Anschlüsse legen. Die USV für dieselbe Last behandelt unser Leitfaden zur USV für einen GPU-Server.

Wir prüfen Anschluss, Ausgangstyp und A/B-Anforderung vor dem Angebot gegen die Konfiguration; senden Sie uns die Absicherung am Rackplatz und das PDU-Modell, und unser Team antwortet mit den passenden Netzteilen, Kabeln und dem Leistungsmodus der Karten.

Kühlung und Zulufttemperatur am Rackplatz

Praktisch die ganze Leistung wird zu Wärme: Ein Achtkartenserver mit 6,3 kW gibt bei 3,412 BTU/h je Watt rund 21.500 BTU/h in den Raum ab. Mit den 160 CFM je kW bei 11 °C Erwärmung aus unserem Rack-Leitfaden braucht er rund 1.000 CFM gekühlte Luft an seiner Front, ein Vierkartenserver mit 3,4 kW rund 540 CFM. Prüfen Sie, was die Bodenplatten oder das Reihenkühlgerät an genau diesem Platz liefern, nicht den Durchschnitt des Raums.

Die Zuluftgrenze gilt je Konfiguration. Dells Technical Guides für XE7740 und XE7745 begrenzen die Umgebungs­temperatur mit RTX PRO 6000 Server Edition oder H200 NVL auf 30 °C, mit der L40S auf 35 °C, innerhalb eines allgemeinen Bereichs von 10 bis 35 °C bis 900 m Höhe, der darüber um 1 °C je 300 m sinkt. ASHRAE empfiehlt 18 bis 27 °C an der Ansaugseite des Servers; ein Raum am oberen Ende dieses Bereichs hat also noch 3 °C Abstand zu Dells Grenze. Messen Sie die Zuluft in der Höhe, in der der Server sitzen wird, bei heutiger Last.

Schließen Sie jede leere Höheneinheit mit einem Blindblech und lassen Sie die GPU-Blenden und Füllteile des Servers eingebaut, wenn er mit weniger Karten als Steckplätzen kommt. Bauen Sie ihn in derselben Luftrichtung von vorn nach hinten ein wie den Rest der Reihe. Auch die Lautstärke gehört zum Raum: Dell nennt für den XE7745 bei Volllast und 35 °C 87 dB(A) und empfiehlt dringend Gehörschutz; planen Sie Servicearbeiten im Rack entsprechend. Unser Leitfaden zu KI-Servern ohne Flüssigkühlung im 10-kW-Rack zählt Server je Rack, und Zulufttemperatur für GPU-Server vergleicht die Grenzen weiterer Server.

Netzwerk-Uplinks und wie die Modelle auf den Server kommen

Vereinbaren Sie die Uplinks, bevor der Server gebaut wird, denn die Netzwerkkarten werden mit der Konfiguration gewählt. Dells XE7745 hat einen OCP-3.0-Steckplatz für Karten bis 100 GbE und nimmt Netzwerkkarten mit 100, 200 oder 400 GbE sowie eine DPU mit 200 GbE auf; Supermicros SYS-422GA-NRT hat zwei 10GbE-Ports mit RJ45 auf der Hauptplatine. NVIDIAs Leitfaden für zertifizierte Systeme, aktualisiert am 30. September 2026, verlangt mindestens 200 Gbit/s für Server, die über Knoten hinweg zusammenarbeiten, und bis zu 400 Gbit/s je GPU. Der Trainingsknoten auf unserer Seite zu KI-Servern ist mit 400G-Netzwerk ausgestattet.

Ein einzelner Inferenzserver braucht für seine Nutzer viel weniger Bandbreite, denn Prompts und Antworten sind Text. Der Uplink zählt für den Modellspeicher und die Daten. Ein Checkpoint von 482 GB (so groß ist Qwen3-Coder-480B-A35B in FP8 auf Hugging Face) braucht nach unserer Rechnung bei 10 Gbit/s Leitungsrate rund 6,4 Minuten und bei 1 Gbit/s rund 64 Minuten; für die Wiederherstellung eines Vektorindex oder eines Datensatzes für Fine-Tuning gilt dasselbe. Wo mehrere Server beim Training Daten austauschen oder ein Modell über Knoten bedienen, behandelt unser Leitfaden zum Inferenz-Cluster ohne InfiniBand das Netz.

Für das Netzwerkteam ist die Liste kurz: Switch-Ports mit der vereinbarten Geschwindigkeit auf jeder Seite, falls der Server zwei Uplinks nutzt, die passenden Optiken oder Direct-Attach-Kabel, die VLANs und die IP-Adressen. Switches und Optiken bleiben auf Kundenseite; wir legen die Netzwerkkarten im Server passend dazu aus.

BMC-Zugang und Management-Netz

Jeder GPU-Server hat einen Baseboard Management Controller mit eigenem Port. Dells XE7745 hat einen iDRAC10 mit eigenem Ethernet-Port für 10/100/1000 Mbit/s; HPEs DL380a Gen12 hat je nach Modell iLO 6 oder iLO 7 mit einem eigenen 1-Gb-Port auf der Rückseite und einem Service-Port vorn. NVIDIAs Leitfaden für zertifizierte Systeme verlangt Redfish 1.0 oder neuer sowie TPM 2.0 mit Secure Boot. Bereiten Sie einen Switch-Port im Management-Netz vor, eine IP-Adresse oder DHCP-Reservierung und das Konto, das die Zugangsdaten des BMC verwaltet.

Das Management-Netz sollte isoliert sein. NVIDIAs Empfehlung, wie sie unser Leitfaden zur Absicherung eines GPU-Servers zitiert, lautet, BMC-Schnittstellen in isolierte Management-Netze zu legen und nie ins Internet zu öffnen, und eine Umgehung der Authentifizierung in einer verbreiteten BMC-Firmware, CVE-2024-54085, steht seit dem 25. Juni 2025 in CISAs Katalog bekannt ausgenutzter Schwachstellen. Legen Sie vor der Lieferung fest, welcher Jump-Host den BMC erreicht und ob IPMI über LAN abgeschaltet bleibt.

Über den BMC wird auch der Raum überwacht. Er liest Temperaturen, Leistung und Lüfterdrehzahlen ohne Betriebssystem, und Dell führt seine GPU-Telemetrie unter einer iDRAC-Datacenter-Lizenz, wie unser Leitfaden zum Out-of-Band-Monitoring von GPUs erklärt. Bestellen Sie diese Lizenz mit dem Server, wenn Ihr Monitoring sie nutzen soll.

Abnahmetest im Rack

Planen Sie den Abnahmetest vor der Lieferung, mit installierten Werkzeugen und einer Person, die ihn freigibt. Unser Leitfaden zu Abnahmetest und Burn-in von GPU-Servern beschreibt das Vorgehen: jede Karte mit der erwarteten Seriennummer, Firmware und PCIe-Verbindung vorhanden, NVIDIAs DCGM-Diagnose auf Stufe 3, ein Dauerlasttest unter Beobachtung von Power-Limit, Takt und Temperatur, und bei Servern mit mehreren GPUs nvbandwidth und nccl-tests. Danach sollten ECC-Zähler, Row Remapper und Kernel-Log keine neuen Fehler zeigen.

Führen Sie ihn im Rack durch, bei der Zulufttemperatur, bei der der Server arbeiten wird. Ein Test im Anlieferungsbereich sagt wenig über die 30-°C-Grenze am Rackplatz, und die Kühlung des Raums erreicht erst einen stabilen Zustand, wenn der Server eine Weile mit voller Leistung gelaufen ist. Notieren Sie die Leistung, die die PDU während des Tests meldet; sie ersetzt die Schätzungen in der Tabelle oben.

Jeder unserer Server wird vor der Lieferung montiert und getestet, und auf Wunsch installieren wir Betriebssystem, Treiber, CUDA und eine Container-Runtime; nennen Sie uns, was Ihr Abnahmeprotokoll abdecken muss, und wir richten die Software passend dazu ein.

Was Sie uns vor dem Angebot senden

Eine kurze Beschreibung des Raums genügt, damit wir eine Konfiguration prüfen können. Senden Sie das Rackmodell oder den Pfostenabstand, die freien Höheneinheiten am Platz, Absicherung und Art des Anschlusses auf jeder Seite, den Ausgangstyp der PDU, die dort gemessene Zulufttemperatur, die Geschwindigkeit der Switch-Ports und den Weg vom Anlieferungsbereich zum Rack. Damit passt die Konfiguration, die wir vorschlagen, schon zum Raum.

Sie können dieses System bei uns kaufen: Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages. Wir bauen KI-Server auf Bestellung mit zwei, vier oder acht RTX PRO 6000 Server Edition oder H200 NVL, mit Gehäuse, Netzteilen, Kabeln und Netzwerkkarten passend zu Ihrem Rack. Unser Einstiegsserver hat zwei RTX PRO 6000 Server Edition, der Inferenzknoten vier und der Trainingsknoten acht H200 NVL mit NVLink-Brücken. Jede Komponente hat Herstellergarantie, und Sie erhalten einen EU-Vertrag und eine EU-Rechnung; Stückzahlen und Lieferzeit bestätigen wir schriftlich mit dem Angebot.

FAQ