KI-Server Stromverbrauch pro Jahr: kWh für 2, 4 und 8 GPUs, Leistungslimits und Kühlung

Wie viel Strom ein KI-Server im Jahr verbraucht

Ein KI-Server mit zwei Karten der NVIDIA RTX PRO 6000 Blackwell Server Edition nimmt nach unserer Schätzung unter Volllast etwa 1,8 kW an der Steckdose auf und kann damit in einem Jahr mit 8.760 Stunden höchstens etwa 15.800 kWh verbrauchen; mit vier Karten liegt die Obergrenze bei etwa 29.800 kWh, mit acht bei etwa 55.200 kWh. Die meisten Firmenserver laufen nicht Tag und Nacht unter Volllast; der reale Wert ist also niedriger und hängt davon ab, wie viele Stunden im Jahr der Server stark arbeitet und was er beim Warten aufnimmt.

Dieser Beitrag zeigt, wie Sie aus diesen Angaben eine Zahl erhalten, die Sie mit Ihrem eigenen Stromtarif multiplizieren. Er richtet sich an die kaufmännische Leitung oder Geschäftsführung, die die Betriebskosten eines eigenen KI-Servers ins Budget aufnehmen muss, und an die Person, die den Raum plant. Wir nennen keine Preise und keine Tarife; die kWh-Werte sind unsere Schätzungen oder Rechnungen und als solche gekennzeichnet. Die Energie je Antwort, eine Kennzahl für Ingenieure, steht in unserem Leitfaden zur GPU-Energie je Token; hier geht es um die Jahressumme.

Die Formel in einfachen Worten

Strom wird in Kilowattstunden (kWh) abgerechnet: Ein Gerät, das eine Stunde lang 1 kW aufnimmt, verbraucht 1 kWh. Der Jahresverbrauch eines Servers ist daher seine Leistung in kW mal die Stunden, die er mit dieser Leistung läuft, addiert über die verschiedenen Zustände, in denen er sich befindet.

Bei einem KI-Server zählen zwei Zustände. Unter Last, wenn er Fragen beantwortet, Dokumente liest oder ein Training rechnet, nimmt er nahezu seine volle Leistung auf. Im Leerlauf, mit geladenem Modell und ohne Anfragen, nimmt er viel weniger auf, aber nicht nichts: Prozessoren, Speicher, Lüfter, Laufwerke und die Karten selbst bleiben eingeschaltet. Ein Jahr hat 8.760 Stunden (365 × 24), also gilt:

kWh pro Jahr = Lastleistung × Laststunden + Leerlaufleistung × (8.760 − Laststunden)

Firmenserver bleiben zwischen den Arbeitstagen meist eingeschaltet, damit der Assistent antwortet, wenn die Beschäftigten kommen, und Updates und Sicherungen nachts laufen können. Die Leerlaufstunden zählen also mit, und bei einem Server, der nur zu Bürozeiten genutzt wird, sind sie der größte Teil des Jahres.

Volllast mit 2, 4 und 8 Karten

Die Karten sind die größte Last. NVIDIA gibt die RTX PRO 6000 Server Edition in seinem Product Brief SP-12355-001 mit bis zu 600 W an, einstellbar bis hinunter auf 300 W. Prozessoren, Speicher, Lüfter, Laufwerke und die Verluste der Netzteile kommen hinzu. Unsere Schätzung addiert die Karten, zwei AMD-EPYC-Prozessoren mit ihrer Nennleistung und 15 Prozent für den Rest des Servers, nach der Methode unseres Beitrags zur Leistung der RTX PRO 6000 Server Edition bei 600, 450 und 300 W.

Unsere Schätzung: Kartenleistung aus NVIDIAs Product Brief SP-12355-001 (600, 450 und 300 W); zwei AMD EPYC 9135 bei zwei Karten, 9355 bei vier Karten und bei den acht RTX PRO 4500 Server Edition (je 165 W), 9555 bei acht RTX PRO 6000; plus 15 Prozent für den Rest des Servers.

Das sind Planungswerte für Volllast. Dells Datenblatt für seine Server mit acht Karten der RTX PRO 6000 Server Edition nennt „~8 kW“ je Knoten, mehr als unsere 6,3 kW; bei einem Server mit acht Karten planen Sie Raum und Zuleitungen deshalb mit dem Wert des Herstellers. Ein Server mit acht H200 NVL hat dasselbe Maximum von 600 W je Karte, die Zeile für acht Karten zeigt also auch für ihn die Größenordnung.

Die Jahresobergrenze unter Volllast

Volllast mal 8.760 Stunden ergibt das Maximum, das ein Server in einem Jahr verbrauchen kann. Ein Budget mit diesem Wert überschreitet der Server selbst nicht, für die meisten Unternehmen ist es aber viel zu hoch.

Unsere Rechnung: Volllast aus der Tabelle oben (Dells Wert aus seinem RTX-PRO-6000-Datenblatt für PowerEdge XE7740 und XE7745) mal 8.760 Stunden, gerundet.

Die Obergrenze passt für einen Fall: einen Server, der Tag und Nacht Modelle trainiert, feinabstimmt oder eine Warteschlange von Dokumenten abarbeitet. Ein Trainingsknoten, der jede Nacht und jedes Wochenende ausgelastet ist, kommt ihr nahe. Ein Assistent für Büroarbeitsplätze kommt ihr nicht nahe.

Bürozeiten, Nachtjobs und Leerlauf

Bei einem Firmenassistenten folgt die Last dem Arbeitstag. Nehmen Sie als Beispiel 250 Arbeitstage mit je 10 Stunden, also 2.500 Stunden im Jahr. Liefe der Server in all diesen Stunden unter Volllast, was die Obergrenze ist, ergäbe sich für den Lastteil des Jahres:

Unsere Rechnung mit Beispielwerten: 250 Arbeitstage × 10 Stunden = 2.500 Laststunden; die übrigen 6.260 Stunden Leerlauf; 100 W × 6.260 h = 626 kWh.

Die letzte Spalte ist die offene Frage. In den 6.260 Stunden außerhalb des Arbeitstags bringen je 100 W Leerlaufleistung 626 kWh hinzu und je Kilowatt 6.260 kWh. In den Datenblättern, technischen Handbüchern und Tests, die wir im Oktober 2026 gelesen haben, fanden wir keinen Leerlaufwert für Server mit diesen Karten; NVIDIAs Brief nennt die Leistungslimits, die Serverhersteller nennen Höchstwerte. Die Leerlaufleistung hängt von Prozessoren, Speicher, Lüftereinstellungen und davon ab, ob ein Modell auf den Karten geladen ist; sie muss am Server selbst gemessen werden.

Nachtarbeit verschiebt die Aufteilung. Arbeitet derselbe Server mit vier Karten zusätzlich in jeder Arbeitsnacht 6 Stunden lang eine Warteschlange von Dokumenten ab, wie in unserem Leitfaden zur LLM-Batch-Inferenz on-premise, wachsen die Laststunden um 1.500 auf 4.000 im Jahr. Unter Volllast sind das für diese Stunden etwa 13.600 kWh, und die Leerlaufstunden sinken auf 4.760; je 100 W Leerlauf kommen dann 476 kWh statt 626 hinzu. Batch-Jobs in der Nacht nutzen Stunden, die sonst Leerlauf wären; der Mehrverbrauch ist also der Unterschied zwischen Last- und Leerlaufleistung in diesen Stunden.

Zwei Einschränkungen wirken in die andere Richtung. Ein Assistent für einige Hundert Personen hält die Karten nicht den ganzen Arbeitstag auf voller Leistung; die Leistungsaufnahme der Karten folgt der Zahl gleichzeitiger Anfragen. Und eine GPU, die auf Anfragen wartet, nimmt trotzdem Leerlaufleistung auf, die unser Leitfaden zur Energie je Token den Token der Spitzenstunden zurechnet.

Wir bauen diese Server mit zwei, vier oder acht Karten und bemessen Prozessoren und Netzteile je Konfiguration; schicken Sie uns die geplanten Nutzer, die Arbeitszeiten und eventuelle Nachtjobs, und unser Team antwortet mit einer Konfiguration und ihrer Leistung je Zuleitung.

Leistungslimits: was 450 W und 300 W ändern

Die RTX PRO 6000 Server Edition läuft nach NVIDIAs Brief standardmäßig mit bis zu 600 W, wenn das Stromkabel für 600 W kodiert ist, und ihr Limit lässt sich auf 300 W senken. Ein niedrigeres Limit senkt die Leistung unter Volllast und damit die Jahresobergrenze. Bei vier Karten sinkt sie mit 450 W von etwa 29.800 auf etwa 23.700 kWh im Jahr, mit 300 W auf etwa 17.500 kWh.

Das Limit kostet Durchsatz, und wie viel, hängt von der Arbeit ab. Unser Beitrag zur Leistung der Karte nennt zwei veröffentlichte Messungen. StorageReview maß bei 450 W 2 bis 5 Prozent weniger LLM-Durchsatz bei kurzem und 4 bis 9 Prozent bei langem Kontext, mit mehr Ausgabe je Nennwatt. Diese Werte stammen von einer Workstation Edition in einer Tower-Workstation, nicht von einer Server Edition; StorageReview schreibt, dass sich beide Ausführungen in seinen Tests gleich verhielten. Delta Computers Messreihe mit der Server Edition behielt bei 450 W etwa 86 Prozent und bei 300 W etwa 54 Prozent des Tensor-Ergebnisses. Für einen Chat-Assistenten, dessen Tempo vor allem an der Speicherbandbreite hängt, kosten 450 W wenig; bei Training und Arbeit mit langem Kontext laufen Jobs mit Limit länger, sodass ein Teil der pro Stunde gesparten Energie in zusätzliche Stunden fließt. Ob ein Limit je Job Energie spart, messen Sie wie in unserem Leitfaden zur Energie je Token beschrieben.

Das Limit zählt auch für das Gebäude. Ein Server mit vier Karten bei 600 W, etwa 3,4 kW, liegt über dem, was ein 230-V-16-A-Stromkreis bei 80 Prozent Auslastung trägt (2,94 kW); bei 450 W, etwa 2,7 kW, bleibt er nach unserer Schätzung darunter. Unser Leitfaden zur Stromversorgung von GPU-Servern mit 16 A, 32 A und Drehstrom geht die Zuleitungen durch, und unser Beitrag zu Leistungslimits von 300 W bis 600 W zeigt, wie das Limit gesetzt wird.

Die Kühlung kommt hinzu

Der gesamte Strom, den ein Server aufnimmt, wird im Raum zu Wärme, wie unser Leitfaden zum GPU-Server im Büro oder kleinen Serverraum erklärt. Diese Wärme muss abgeführt werden, und auch das kostet Strom.

Im Rechenzentrum. Die Power Usage Effectiveness (PUE) des Betreibers beschreibt den Aufschlag. Die Delegierte Verordnung (EU) 2024/1364 der Kommission definiert sie als Gesamt­energie­verbrauch des Rechenzentrums geteilt durch den Energieverbrauch seiner IT-Geräte, beide in kWh. Eine PUE von 1,5, als Beispielwert, bedeutet 0,5 kWh für Kühlung und Verteilung auf jede kWh, die der Server verbraucht. Dieselbe Verordnung verpflichtet Betreiber von Rechenzentren mit einer installierten IT-Leistung von mindestens 500 kW, diese Werte jährlich zu melden. Ob und wie der Aufschlag auf Ihrer Rechnung erscheint, regelt Ihr Hosting-Vertrag. Unser Leitfaden zum privaten LLM in einem EU-Rechenzentrum behandelt diese Möglichkeit.

Im eigenen Serverraum. Hier ist die elektrische Leistungsaufnahme der Klimaanlage der Aufschlag. Ihr Datenblatt nennt die Kühlleistung und die elektrische Leistungsaufnahme; das Verhältnis der beiden ist ihre Leistungszahl. Ein Gerät, das 3,4 kW Wärme mit einem Verhältnis von 3 abführt, als Beispielwert, nimmt dabei etwa 1,1 kW auf. Das Gerät muss laufen, solange der Server läuft, also nachts, am Wochenende und im Winter; prüfen Sie daher seinen Betriebsbereich bei niedrigen Außentemperaturen, wie unser Leitfaden zur Vorbereitung eines Serverraums für einen GPU-Server beschreibt. Läuft der Server an einer unterbrechungsfreien Stromversorgung, zählen Sie auch deren Wärme mit, wie der Büro-Leitfaden anmerkt.

Stromkosten berechnen: ein Rechenblatt für Ihr Budget

1. Konfiguration wählen und ihre Volllast aus der Tabelle oben nehmen: 1,8, 3,4 oder 6,3 kW bei 600 W oder die Werte mit Limit.
2. Laststunden pro Jahr zählen: Arbeitszeiten des Assistenten plus Nacht- oder Wochenendjobs. Unser Beispiel sind 2.500 Stunden für Büronutzung und 4.000 mit nächtlicher Batch-Arbeit.
3. Multiplizieren: Volllast mal Laststunden. Das ist die Obergrenze des Lastteils.
4. Leerlaufteil addieren: Leerlaufleistung mal die übrigen Stunden (8.760 minus Laststunden). Bis der Server gemessen ist, führen Sie ihn als Zeile „Leerlauf, bei Lieferung gemessen“ oder nutzen den Schritt von 626 kWh je 100 W bei 2.500 Laststunden.
5. Kühlung addieren: mit der PUE des Rechenzentrums multiplizieren oder die elektrische Leistungsaufnahme der Klimaanlage für ihre Laufzeit addieren.
6. Die kWh-Summe mit Ihrem Tarif je kWh aus Ihrem Energievertrag multiplizieren, zuzüglich Netz- oder Leistungsentgelten, die Ihr Vertrag getrennt abrechnet.

Die Jahresobergrenze unter Volllast ist der sichere obere Wert für eine Budgetzeile; das Rechenblatt liefert den erwarteten Wert, sobald die Stunden bekannt sind.

Messen am gelieferten System

Der endgültige Wert kommt von dem Server, den Sie erhalten. Jeder Server wird vor der Lieferung montiert und getestet, und die Leistungsschätzung wird durch eine Messung am gelieferten System bestätigt. Lesen Sie die Eingangsleistung am Management-Controller des Servers (BMC) oder an einer messenden Steckdosenleiste (PDU) ab, einmal im Leerlauf mit geladenem Modell und einmal unter Ihrer echten Last, und multiplizieren Sie mit Ihren Stunden. Die Karten melden ihren eigenen Anteil: nvidia-smi gibt für jede GPU die „Average Power Draw“ aus, die NVIDIA als durchschnittliche Leistungsaufnahme der gesamten Karte in der letzten Sekunde in Watt definiert. Unser Leitfaden zum Abnahmetest eines GPU-Servers zeigt, wie solche Messwerte in Ihre eigene Abnahmeprüfung einfließen.

Wiederholen Sie die Messung nach einigen Wochen echter Nutzung. Der Anteil der Stunden unter Last entscheidet über die Jahressumme, und er lässt sich aus den Aufzeichnungen des Servers leichter ablesen als vor Projektbeginn schätzen. Wir bemessen die Konfiguration einschließlich Leistungslimits und Netzteilen vor dem Angebot; nennen Sie uns Ihre Zuleitung je Rack-Platz und ob der Server in Ihren eigenen Raum oder in ein Rechenzentrum kommt, und wir senden die Konfiguration mit der Leistung je Zuleitung zurück.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team bemisst die Konfiguration nach Ihrer Last und Ihrem Budget und antwortet innerhalb eines Werktages. Wir bauen KI-Server auf Bestellung mit zwei, vier oder acht Karten der RTX PRO 6000 Server Edition bei 600 W oder mit Limit sowie mit Karten der RTX PRO 4500 Server Edition, vor der Lieferung montiert und getestet, geliefert in der ganzen EU mit einem EU-Vertrag und einer Rechnung, mit Herstellergarantie auf jede Komponente, abgewickelt über uns; Mengen und Lieferzeit werden mit dem Angebot schriftlich bestätigt. Unser Leitfaden zum Kauf eines GPU-Servers für LLMs listet alle Konfigurationen.

FAQ