CPU für GPU-Server mit 2, 4 oder 8 GPUs: EPYC oder Xeon, Kerne, Lanes, Speicherkanäle

Welche CPU ein GPU-Server braucht, nach Kartenzahl

Ein Server mit 2, 4 oder 8 GPUs wie der NVIDIA RTX PRO 6000 Blackwell Server Edition braucht nach NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems zwei Prozessoren mit mindestens sechs physischen Kernen pro GPU, einem Basistakt von 2,0 GHz oder mehr und PCIe Gen5. AMD EPYC 9005 und Intel Xeon 6 erfüllen das beide, und für die meisten Inferenzserver ist die Kernzahl leicht erreicht. Zwischen ihnen entscheiden die Speicherkanäle, die PCIe-Lanes je Sockel für GPUs, Netzwerkkarten und NVMe-Laufwerke und oft das Servermodell selbst.

NVIDIA-Certified Systems Configuration Guide, Table 1, zuletzt aktualisiert am 30. September 2026; NVIDIA RTX PRO AI Factory Enterprise Reference Architecture, Components, 18. Mai 2026; beide gelesen am 24. Oktober 2026. Summen nach unserer Rechnung für RTX PRO 6000 Server Edition (96 GB, bis zu vier MIG-Instanzen je Karte).

AMD-Produktseiten zu EPYC 9135, 9355 und 9555 und AMD-EPYC-9005-Datenblatt (PID 242937604-G, November 2025); Intels Produkt­spezifikationen zu Xeon 6747P und 6960P; alle gelesen am 24. Oktober 2026. Alle fünf unterstützen zwei Sockel. Der Xeon 6960P nimmt außerdem MRDIMMs mit 8800 MT/s auf.

Im Folgenden gehen wir die drei NVIDIA-Dokumente durch, die Kernzahlen, die sich daraus ergeben, PCIe-Lanes, Speicherkanäle und die Wahl zwischen beiden Plattformen.

Was NVIDIAs drei Dokumente verlangen

NVIDIA veröffentlicht drei Regelwerke für den Host von PCIe-GPU-Servern. Beim Basistakt und bei Gen5 x16 je GPU stimmen sie überein, bei Sockeln und Kernen weichen sie ab.

NVIDIA-Certified Systems Configuration Guide (30. September 2026); RTX PRO AI Factory RA, Components (18. Mai 2026); NVIDIA AI Enterprise Reference Architecture, Compute Node Hardware (ohne Datum); gelesen am 24. Oktober 2026. Alle drei verlangen mindestens 2,0 GHz Basistakt.

Der Certified-Leitfaden nennt „NVIDIA Grace, Intel Xeon scalable processor (Emerald Rapids) or AMD Turin“ als Beispiele für „PCIe Gen5 (or later when available) capable CPUs“. Die beiden Referenzarchitekturen führen Intel Emerald Rapids, Sapphire Rapids, Granite Rapids und Sierra Forest sowie AMD Genoa und Turin auf. Beide Listen sind Beispiele; die auf dieser Seite verglichenen Prozessoren sind nach den Spezifikationen von AMD und Intel PCIe-5.0-Prozessoren.

Der Leitfaden verlangt GPUs, die gleichmäßig über CPU-Sockel und PCIe-Root-Ports verteilt sind („evenly distributed across CPU sockets and PCIe root ports“), und Netzwerkkarten und NVMe-Laufwerke am selben PCIe-Switch oder Root Complex wie die GPUs („within the same PCIe switch or root complex as the GPUs“). Die Architektur für die H200 NVL, die NVIDIA „PCIe Optimized 2-8-5“ nennt, ergänzt, dass Paare mit NVLink-Brücke unter demselben Sockel sitzen sollen; Paare über beide Sockel seien „acceptable but not recommended“. NVIDIA versteht all diese Werte als Ausgangspunkt, der an die Arbeitslast angepasst wird.

Kerne pro GPU für 2, 4 und 8 Karten

Die Serving-Engine selbst braucht wenige Kerne. vLLM zählt einen API-Server-Prozess, einen Engine-Prozess und einen Worker pro GPU; N GPUs brauchen also mindestens 2 + N physische Kerne, wie unser Leitfaden zu CPU, RAM und Storage für einen KI-Server mit 4 GPUs aus dem Tuning-Leitfaden von vLLM herleitet. NVIDIAs sechs oder sieben Kerne pro GPU decken den Rest des Hosts ab: Tokenisierung, Dokumentverarbeitung für RAG, eine Vektordatenbank, Monitoring-Agenten und beim Fine-Tuning den Data Loader.

Mit Virtualisierung und MIG wächst die Zahl. Jede RTX PRO 6000 Server Edition lässt sich in bis zu vier MIG-Instanzen teilen, und die Referenzarchitektur verlangt zwei Kerne pro Instanz zusätzlich zu den sieben pro GPU und den zwei pro GPU für Betriebssystem oder Hypervisor. Nach unserer Rechnung brauchen vier Karten, vollständig in 16 Instanzen geteilt, 28 + 32 + 8 = 68 Kerne und acht Karten mit 32 Instanzen 136. Bei der H200 NVL, die sich in bis zu sieben Instanzen teilen lässt, brauchen vier vollständig geteilte Karten 28 + 56 + 8 = 92 Kerne.

NVIDIAs eigene Systeme mit acht GPUs liegen über beiden Regeln. Das DGX H200 hat 112 Kerne für acht GPUs, 14 pro GPU, und das DGX B300 zwei Xeon 6776P mit je 64 Kernen, 16 pro GPU, wie unser Leitfaden für 4 GPUs aus den DGX-Benutzerhandbüchern aufführt. Das sind SXM-Systeme für das Training; ein Inferenzserver mit einer Modellkopie je Karte braucht weniger.

NVIDIA-Dokumente wie oben; Tuning-Leitfaden von vLLM und ZeRO-Offload, wie in unserem Leitfaden zu CPU, RAM und Storage zitiert. Die Zuordnung der Arbeitslasten zu den Regeln ist unsere Empfehlung.

PCIe-Lanes: GPUs, Netzwerkkarten und NVMe

Jede GPU braucht nach allen drei Dokumenten eine eigene Gen5-x16-Anbindung. Zwei Karten belegen 32 Lanes, vier 64 und acht 128. Netzwerkkarten belegen je x16, NVMe-Laufwerke x4.

AMDs Datenblatt gibt jedem EPYC 9005 „128 PCIe® Gen 5 I/O lanes (up to 160 in 2-socket servers)“, denn in einem Server mit zwei Sockeln verbindet ein Teil der Lanes jedes Prozessors die beiden Sockel. Intel nennt für den Xeon 6747P 88 Lanes und für den Xeon 6960P 96; Intels Prozessoren verbinden ihre Sockel über eigene UPI-Links, zwei davon ergeben nach unserer Rechnung also 176 oder 192 Lanes.

Vier Karten passen auf beide Plattformen mit Reserve. Vier GPUs, zwei Netzwerkkarten und vier NVMe-Laufwerke belegen 64 + 32 + 16 = 112 Lanes, weniger als die 128 eines EPYC 9005; schon ein Prozessor hätte also genug Lanes. Der Certified-Leitfaden geht trotzdem von zwei Sockeln aus, und mit zwei Sockeln bekommt jeder Prozessor zwei GPUs, eine Netzwerkkarte und eigene Laufwerke, wie die Platzierungsregel verlangt.

Acht Karten passen bei den meisten Servern nicht direkt. Der Aufbau 2-8-5-200 der RTX-PRO-Referenzarchitektur stellt den acht GPUs fünf Netzwerkadapter zur Seite, das wären 128 + 80 = 208 Lanes, wenn jedes Gerät x16 belegt, mehr als zwei Prozessoren beider Plattformen bereitstellen. Server mit acht Karten setzen deshalb PCIe-Switches zwischen Prozessoren und Karten ein oder nutzen ConnectX-8-SuperNICs mit eingebautem Switch, wie unser Artikel zum NVIDIA RTX PRO Server erklärt. Hinter einem Switch zählt die Lane-Zahl des Prozessors für die Uplinks, und der Aufbau der Switches für den Verkehr zwischen den Karten. Unsere Seite Wie viele GPUs pro Server behandelt das Lane-Budget größerer Server.

Wir bauen Server mit zwei, vier oder acht Karten auf beiden Plattformen und legen die Slots je Sockel fest, bevor wir ein Angebot machen; senden Sie uns die Karten, die Netzwerkgeschwindigkeit und die Laufwerke, die Sie brauchen, und unser Team antwortet mit einer Konfiguration und dem PCIe-Aufbau.

Speicherkanäle: EPYC 9005 und Xeon 6

Die Speicherkanäle entscheiden, ob der Arbeitsspeicher das Doppelte des GPU-Speichers nach dem Certified-Leitfaden mit einem Modul pro Kanal erreicht, also in der Bestückung mit der höchsten Geschwindigkeit. Die Referenzarchitektur verlangt „at least one DIMM per channel“.

AMD-EPYC-9005-Datenblatt und Produktseiten (12 Kanäle pro Sockel); Intels Spezifikationen zu Xeon 6960P (12 Kanäle) und 6747P (8 Kanäle); Größen nach unserer Rechnung.

Auf zwei EPYC 9005 füllen die drei Größen, die dem doppelten Speicher von 2, 4 und 8 RTX PRO 6000 Server Edition entsprechen, also 384, 768 und 1.536 GB, jeweils alle 24 Kanäle mit einem Modul. Auf zwei Xeon 6700P füllen auch 1.536 GB für acht Karten jeden Kanal einmal, mit Modulen zu 96 GB, während 768 GB für vier Karten mit Modulen zu 32 oder 64 GB nicht gleichmäßig aufgehen; dann bleibt die Wahl zwischen 1.024 GB und einem zweiten Modul pro Kanal bei geringerer Geschwindigkeit. Dell und HPE nennen für ihre Xeon-6-Server 6400 MT/s bei einem Modul pro Kanal und 5200 MT/s bei zwei, wie unser Leitfaden Wie viel RAM braucht ein GPU-Server? aufführt.

Die Platine zählt so viel wie der Prozessor. Ciscos UCS C845A M8 mit EPYC 9005 verdrahtet laut demselben Leitfaden acht Kanäle pro Prozessor mit je zwei Steckplätzen; prüfen Sie daher Steckplatzzahl und Geschwindigkeitstabelle für den genauen Server.

Takt, Kernzahl und Stromverbrauch

Alle fünf Prozessoren der Tabelle liegen über 2,0 GHz Basistakt. Wichtig wird die Grenze erst am oberen Ende der Kernzahlen: Intel führt seinen Xeon 6788P mit 86 Kernen bei 2,00 GHz, genau am Minimum. AMDs EPYC 9555 mit 64 Kernen hat 3,2 GHz Basistakt und bis zu 4,4 GHz Boost, sein auf Takt ausgelegtes Schwestermodell EPYC 9575F 3,3 GHz und bis zu 5 GHz; der EPYC 9135 mit 16 Kernen hat 3,65 GHz Basistakt und 4,3 GHz Boost.

Mehr Kerne erhöhen die Leistungsaufnahme des Prozessors und damit die des Servers. Der EPYC 9135 hat eine Standard-TDP von 200 W, der 9355 280 W, der 9555 360 W und der 9575F 400 W; Intel nennt 330 W für den Xeon 6747P und 500 W für den 6960P. Unsere Schätzungen an der Steckdose addieren Karten, Prozessoren und 15 Prozent für den Rest des Servers.

Unsere Schätzung: Leistungsaufnahme der Karten aus NVIDIAs Product Brief, Standard-TDP aus AMDs Produktseiten, plus 15 Prozent für Arbeitsspeicher, Laufwerke, Netzwerkkarten, Lüfter und Wandlungsverluste.

Das sind die Werte unseres Leitfadens für acht Karten und unserer anderen Serverseiten, die dieselben Prozessoren annehmen. Bei einem Server mit vier Karten können die Prozessoren über den Anschluss entscheiden. Im 450-W-Modus der Karten kommen vier Karten mit zwei EPYC 9355 auf rund 2,7 kW, unter den 2,94 kW, die wir je 230-V-Anschluss mit 16 A einplanen; mit zwei EPYC 9575F zu 400 W erreicht derselbe Server nach derselben Schätzung rund 3,0 kW und liegt darüber. Unser Artikel zu GPU-Server-Strom an 16 A, 32 A und Drehstrom rechnet die Anschlüsse durch.

Womit Server und Testsysteme ausgeliefert werden

Veröffentlichte Systeme zeigen, was Hersteller und Testlabore mit diesen Karten kombinieren.

StorageReview, Test des HPE ProLiant DL380a Gen12 (6. November 2025, geändert am 14. Oktober 2026); MLPerf® Inference: Datacenter v6.0, Closed Division, Llama 2 70B (llama2-70b-99), Eintrag 6.0-0021, abgerufen von mlcommons.org am 24. September 2026, Ergebnis von der MLCommons Association verifiziert; Engineering-Blog von Helix, 14. August 2026; Benutzerhandbuch des NVIDIA DGX B300, wie in unserem Leitfaden für 4 GPUs zitiert. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use strictly prohibited. See www.mlcommons.org for more information.

Der Server von Helix mit 256 GB liegt weit unter dem doppelten GPU-Speicher und betreibt ein Modell auf Bare Metal; er zeigt, dass die Regel ein Ausgangspunkt ist und keine Vorgabe der Software. Die Servermodelle legen auch die Plattform fest: Dells PowerEdge XE7740 nimmt Xeon 6 auf und der XE7745 EPYC 9005, HPEs ProLiant Compute DL380a Gen12 zwei Xeon 6 und der DL385 Gen11 EPYC, Ciscos UCS C845A M8 AMD Turin.

EPYC oder Xeon: eine Empfehlung je Einsatz

Unsere Empfehlung aus den Regeln, Spezifikationen und ausgelieferten Systemen oben.

Für zwei und vier Karten bevorzugen wir zwei EPYC 9005, weil ihre 24 Kanäle den doppelten GPU-Speicher mit einem Modul pro Kanal erreichen und jeder Sockel die Lanes für seine GPUs, seine Netzwerkkarte und seine Laufwerke hat. Auf einer Xeon-6700P-Plattform planen Sie zuerst die Speicherbestückung; Kerne und Lanes reichen für vier Karten. Bei acht Karten funktionieren beide Plattformen hinter PCIe-Switches, und Servermodell, Zuluftgrenzen und Netzteile wiegen mehr als die Prozessormarke.

Unsere Beispiele decken den Grundfall ab und lassen Reserve: Zwei EPYC 9135 bringen 32 Kerne für zwei Karten (12 nach dem Leitfaden, 18 nach der RA mit Betriebssystem), zwei EPYC 9355 bringen 64 für vier (24 und 36) und zwei EPYC 9555 128 für acht (48 und 72). Vollständig in MIG geteilte Server brauchen 34, 68 und 136 Kerne; dafür bieten wir den nächstgrößeren Prozessor an. Teilen Sie uns mit, ob der Server VMs, MIG oder Fine-Tuning betreiben soll, und wir legen die Prozessoren dafür aus.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team legt die Konfiguration nach Ihrer Arbeitslast und Ihrem Budget aus und antwortet innerhalb eines Werktages. Wir bauen KI-Server auf Bestellung mit zwei, vier oder acht RTX PRO 6000 Server Edition, RTX PRO 4500 Server Edition oder H200 NVL auf AMD-EPYC- oder Intel-Xeon-Prozessoren, mit DDR5-ECC-Speicher, gleichmäßig über die Kanäle bestückt. Unsere Referenz­konfigurationen folgen NVIDIAs Certified-Leitfaden: zwei AMD-EPYC-Prozessoren, mindestens sechs Kerne pro GPU und mindestens der doppelte GPU-Speicher. Jeder Server wird vor der Lieferung montiert und getestet, jede Komponente hat Herstellergarantie, und Sie erhalten einen EU-Vertrag und eine EU-Rechnung.

FAQ