KI-Workstation oder KI-Server: Rack-Server, Tower oder Workstation unter dem Schreibtisch für 2 bis 8 GPUs

KI-Workstation oder KI-Server: die kurze Antwort

Bis zu vier GPUs mit eigenen Lüftern passen in eine KI-Workstation unter dem Schreibtisch: NVIDIA gibt an, dass die RTX PRO 6000 Max-Q, eine aktiv gekühlte Karte mit 300 W, „bis zu vier GPUs in einem einzigen System“ ermöglicht. Passive 600-W-Karten wie die RTX PRO 6000 Server Edition und die H200 NVL sowie jeder Aufbau mit mehr als vier Karten brauchen einen KI-Server im Rack, dessen Lüfter Luft durch die Karten drücken. Ein Tower-GPU-Server liegt dazwischen, mit Serververwaltung und redundanten Netzteilen in einem Gehäuse, das neben dem Schreibtisch steht oder sich in ein Rack umbauen lässt, für zwei bis vier Karten mit bis zu etwa 400 W.

Zuerst entscheiden die Zahl der Karten und die Kühlung, die sie brauchen; danach kommen Lautstärke, Stromkreis, Fernverwaltung über einen BMC, Garantieservice und der Raum. Den Raum selbst, von den Stromkreisen bis zu BTU/h, behandelt unser Leitfaden zum GPU-Server im Büro, Rack-Einspeisung und Kühlung unser Leitfaden zu Strom und Kühlung für ein GPU-Rack.

Aktive und passive GPUs: welche Karte in welches Gehäuse gehört

NVIDIA nennt die Kühlung jeder Karte auf seinen Produktseiten, und diese Zeile entscheidet über das Gehäuse. Eine aktive Karte hat einen eigenen Lüfter und bewegt ihre Luft selbst, sie funktioniert also in einem Workstation-Gehäuse. Eine passive Karte hat nur einen Kühlkörper. NVIDIAs Product Brief zur H200 NVL (PB-12128-001_v01, 11. April 2025) hält fest: „Sie nutzt zur Kühlung einen passiven Kühlkörper, der für den ordnungsgemäßen Betrieb der Karte Luftstrom des Systems erfordert.“ Lenovos Product Guide zur RTX PRO 6000 Server Edition hält fest: „Die Karte ist passiv gekühlt und kann mit maximal 600 W Board-Leistung betrieben werden.“

Kühlung und Leistung von NVIDIAs Produktseiten (RTX PRO 6000 Workstation, Max-Q und Server Edition, RTX PRO 5000, L40S, L4), abgerufen am 10. Oktober 2026, und aus NVIDIAs Product Brief zur H200 NVL PB-12128-001_v01; passive Kühlung der Server Edition und der L4 aus Lenovo Press LP2263 (aktualisiert am 28. Juli 2026) und LP1717 (aktualisiert am 15. September 2024). Spalte „Gehäuse“ aus den in diesem Artikel zitierten Dokumenten der Hersteller.

Unter den aktiven Karten ist die Workstation Edition die Ausnahme. Ihr Double-Flow-Through-Kühler gibt 600 W in das Gehäuse ab, und die Tower-Hersteller nennen eine oder zwei pro Maschine; unser Leitfaden zur Workstation mit vier Max-Q-Karten zeigt, welche Tower vier Max-Q-Karten aufnehmen und welche Netzteile sie brauchen.

Die Virtualisierung engt die Wahl ein. NVIDIAs Liste der von vGPU unterstützten GPUs, aktualisiert am 2. Oktober 2026, enthält die L40S, die L4 und von den drei Editionen der RTX PRO 6000 nur die Server Edition. Auch einige aktiv gekühlte Karten stehen darauf, darunter die RTX PRO 5000 Blackwell Workstation Edition 72 GB und die RTX 6000 Ada. Virtuelle Maschinen mit vGPU auf der RTX PRO 6000 bedeuten also die passive Server Edition und damit einen Server.

GPU-Workstation: bis zu vier aktive Karten unter dem Schreibtisch

Eine GPU-Workstation mit vier RTX PRO 6000 Max-Q hat 384 GB GPU-Speicher und läuft an einem eigenen 16-A-Stromkreis bei 230 V. Sie passt zu einem Team, das Modelle entwickelt und testet und keinen Serverraum hat, und unter Linux können sich mit MIG mehrere Entwickler die Karten teilen.

Serververwaltung bieten Workstations nur als Option, wenn überhaupt. Lenovos aktuelle Spezifikation der ThinkStation PX (Version 11.0, 13. Mai 2026), die die RTX PRO 6000 Max-Q führt, nennt Intel vPro mit AMT für die Systemverwaltung und bietet einen BMC als PCIe-Adapter an. Intels Entwicklerleitfaden zu AMT schreibt, die KVM-Funktion „ermöglicht die Fernsteuerung eines Clients, auch wenn das Betriebssystem nicht läuft oder sich das System im Ruhezustand befindet“; AMT ist eine Verwaltungsfunktion der Client-Plattformen mit Intel vPro und kein Server-BMC. Die PX hat ein Netzteil mit 1.850 W und optional ein zweites. Fragen Sie bei einem Aufbau mit vier Karten den Hersteller, ob die konfigurierte Last auf ein Netzteil passt, denn nur dann bringt das zweite Redundanz.

Tower-GPU-Server: BMC und redundante Netzteile neben dem Schreibtisch

Ein Tower-Server hat die Verwaltung eines Rack-Servers, mit einem BMC an einem eigenen Netzwerkport und Hot-Plug-Netzteilen, in einem Gehäuse, das auf dem Boden steht oder sich in ein Rack umbauen lässt. Dells Technical Guide zum PowerEdge T560 (Rev. A04, Dezember 2024) nennt „Up to 2 x double-width 300 W or 6 x single-width 75 W accelerators“, führt die A40 und die L40 mit 300 W sowie bis zu fünf L4 und unterstützt „up to two AC power supplies with 1+1 redundancy“, verwaltet über iDRAC9. HPEs QuickSpecs beschreiben den ProLiant Compute ML350 Gen12 als „4U tower with rack conversion capability“, führen die L40S und die L4 und verlangen das redundante Lüfterkit und das Lüfterkit für die zweite CPU, sobald eine GPU gewählt ist; die Verwaltung übernimmt iLO 7 mit einem eigenen 1-Gb-Port auf der Rückseite. Lenovos Product Guide zur L4 führt den Tower ST650 V3 mit bis zu acht L4, während der Guide zur RTX PRO 6000 Server Edition den ST650 V3 als nicht unterstützt kennzeichnet.

Supermicros Seite zum SYS-741GE-TNRT nennt als Bauform „Tower Rackmount“, dazu „Up to 4 double-width GPUs“ und „2x 2000W Redundant (1 + 1) Titanium Level (96%) power supplies“, mit einem optionalen rückseitigen Lüfterkit „for passive GPU cooling“. Die GPU-Liste enthält die H100 NVL, die NVIDIA mit 350 bis 400 W angibt, die L40S, die L4, die RTX PRO 4000, 4500 und 5000 Blackwell und die RTX PRO 6000 Blackwell Max-Q Workstation Edition, aber weder die H200 NVL noch die RTX PRO 6000 Server Edition. Keiner der Tower-Server in diesen Dokumenten führt eine passive 600-W-Karte.

Für ein Büro sind Tower-Server laut. Dell gibt für den T560 im Betrieb bei 25 °C je nach Konfiguration 4,4 bis 8,6 B Schallleistung an, weist darauf hin, dass die Schallemission mit einer GPU-Karte ab 75 W höher ist, und nennt ihn „a tower server appropriate for attended data center environment“.

Rack-GPU-Server: vier bis acht passive Karten

Rack-Server sind um den Luftstrom gebaut, den passive Karten brauchen. Lenovos ThinkSystem SR650a V4, ein 2U-Server, nimmt laut Product Guide (aktualisiert am 5. Oktober 2026) „four 400W or two 600W double-wide GPUs, or eight single-wide GPUs“ auf. Seine GPU-Tabelle erlaubt vier Karten der RTX PRO 6000 Server Edition nur bei einer Begrenzung auf 450 W, zwei mit 600 W und zwei H200 NVL. Der Server hat bis zu zwei redundante Hot-Swap-Netzteile mit bis zu 3.200 W, und sein BMC, der XClarity Controller 3, hat einen eigenen Ethernet-Port und unterstützt IPMI 2.0, SNMP 3.0 und die Redfish-REST-API.

Acht 600-W-Karten brauchen ein 3U- oder 4U-Gehäuse, meist mit PCIe-Switches, vier bis acht Netzteilen und Drehstrom, wie unser Artikel dazu, wie viele GPUs in einen Server passen, je Gehäuse durchrechnet. NVIDIAs Product Brief zur H200 NVL gibt die gesamte NVLink-Bandbreite mit 900 GB/s für eine Zweifach-Bridge und 1.800 GB/s für eine Vierfach-Bridge an, NVIDIAs H200-Seite für beide 900 GB/s pro GPU; ein auf vier Karten verteiltes Modell tauscht seine Daten also über NVLink statt über PCIe aus. Mit ihrer angegebenen Lautstärke und Abwärme gehören diese Server in einen Serverraum oder ein Rechenzentrum, wie unser Büro-Leitfaden zeigt.

Wir bauen KI-Server auf Bestellung, von GPU-Workstations bis zu GPU-Gehäusen mit 2U und 4U, und prüfen Rack, Strom und Luftstrom, bevor wir ein Angebot machen. Nennen Sie uns die Zahl der geplanten Karten und den Standort jeder Maschine.

Fernverwaltung, redundante Netzteile und Garantieservice

Über einen BMC kann der Betrieb einen Server aus- und wieder einschalten, seine Konsole öffnen, Firmware aktualisieren und Temperaturen, Lüfterdrehzahlen und Leistungsaufnahme über das Netzwerk auslesen, unabhängig vom Betriebssystem. Über Redfish oder IPMI gelangen dieselben Daten in das Monitoring-System, das auch die anderen Server überwacht, während bei einer Workstation, die nachts hängt, jemand an den Schreibtisch muss, sofern sie kein AMT und keinen optionalen BMC hat.

Redundante Netzteile halten einen Server am Laufen, wenn ein Netzteil oder eine Einspeisung ausfällt. Rack- und Tower-Server bieten 1+1-Netzteile; eine Workstation mit zwei Netzteilen ist nur redundant, solange ihre Last auf eines passt.

Der Garantieservice richtet sich bei jeder Bauform nach dem Liefervertrag. Fragen Sie, wer den Garantiefall für die GPUs übernimmt, der Gehäusehersteller oder der Kartenhersteller, und wie eine ausgefallene Karte in einem Server getauscht wird, der in Produktion bleibt. Unser Leitfaden dazu, wo Sie in Europa einen KI-Server kaufen, behandelt Bestellung und Garantiefall für jede Art von Anbieter.

Rack-Server, Tower oder Workstation: die drei Bauformen im Vergleich

Lenovo ThinkStation PX Specifications Version 11.0 (13. Mai 2026); Dell PowerEdge T560 Technical Guide Rev. A04 und Supermicro-Seite zum SYS-741GE-TNRT (1+1-Redundanz); HPE ML350 Gen12 QuickSpecs a50006995enw; Lenovo Press LP1717 und LP2128; alle abgerufen am 10. Oktober 2026. Werte für 3U und 4U aus unserem Artikel dazu, wie viele GPUs in einen Server passen.

Oberhalb von vier Karten und für jede passive 600-W-Karte fällt die Wahl auf einen Rack-Server. Darunter entscheidet der Raum: eine Workstation dort, wo Menschen arbeiten, ein Tower-Server dort, wo ein Außenstandort einen kleinen Serverraum, aber kein Rack hat, und ein Rack-Server überall, wo ein Rack mit passender Einspeisung vorhanden ist.

Von einer Abteilung zum ganzen Unternehmen: ein Beispiel

Das Beispiel dient der Veranschaulichung und ist keine Dimensionierung. Ein Fertigungsunternehmen mit 1.200 Beschäftigten startet sein erstes KI-Projekt in der Entwicklungsabteilung. Das Team baut und testet einen Dokumentenassistenten auf einer Workstation mit vier RTX PRO 6000 Max-Q. NVIDIAs Liste der CUDA-GPUs gibt der Max-Q, der Workstation Edition und der Server Edition dieselbe Compute Capability, 12.0; die auf der Workstation getesteten Container laufen also auf den Serverkarten, und der Durchsatz ändert sich mit dem Leistungslimit und der geringeren Speicherbandbreite der Server Edition.

Wenn der Assistent für alle Beschäftigten freigegeben wird, zieht er auf zwei Rack-Server mit je vier Karten der RTX PRO 6000 Server Edition um, die wie die übrigen Server über ihre BMCs verwaltet werden. Mit zwei Servern bedient einer weiter, während der andere in Wartung ist. Braucht das Unternehmen später virtuelle GPU-Desktops für seine Konstrukteure, betreiben die Karten der Server Edition vGPU; braucht es ein über NVLink auf mehrere Karten verteiltes Modell, kommen Server mit H200 NVL und Vierfach-Bridges ins Rack.

Kühlung, vGPU und NVLink von NVIDIAs Produktseiten und aus dem Product Brief zur H200 NVL; Compute Capability von NVIDIAs Seite zu CUDA-GPUs; Grenzen der Tower aus den oben genannten Dokumenten der Hersteller.

Beschreiben Sie Ihre Teams, die Modelle und die Räume im Formular unten, und wir antworten innerhalb eines Werktages mit einer Konfiguration und einem Angebot.

Was wir liefern

Wir bauen KI-Server auf Bestellung, von GPU-Workstations auf Threadripper-PRO- oder Xeon-W-Plattformen und Servern mit kurzer Einbautiefe für Labore, Piloten und Außenstandorte bis zu 2U- und 4U-GPU-Gehäusen. Die Server kommen mit redundanten Netzteilen, Out-of-Band-Management über IPMI oder einen BMC und Luft- oder Flüssigkühlung nach GPU-Anzahl und Standort. Zu den GPUs, die wir dafür liefern, gehören die RTX PRO 6000 Workstation Edition, Max-Q und Server Edition, die RTX PRO 5000, die H200 NVL, die L40S und die L4. Jeder Server wird montiert und im Burn-in getestet und kommt mit Herstellergarantie unter einem EU-Vertrag und auf einer Rechnung. Vor dem Angebot prüfen wir Rack, Strom und Luftstrom, und Konfiguration und Angebot folgen innerhalb eines Werktages.

FAQ