Server mit 4 oder 8 NVIDIA L40S in Europa kaufen

Wer 2026 noch einen L40S-Server kauft

Einen Server mit vier oder acht NVIDIA L40S können Sie bei uns kaufen, auf Bestellung gebaut und in die gesamte EU geliefert. Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages. Die L40S ist eine Karte der Ada-Lovelace-Generation von 2023 mit 48 GB GDDR6 bei 864 GB/s und 350 W; 2026 passt sie zu Unternehmen, deren Arbeit mit 48 GB je Karte auskommt und Grafik, Video und KI mischt, oder die bestehende Server damit erweitern.

Stand Oktober 2026 haben wir keine Abkündigung der L40S durch NVIDIA gefunden, und NVIDIAs Seite zum vGPU-Lebenszyklus, aktualisiert am 2. Oktober 2026, führt sie als voll unterstützt. NVIDIAs Seite zur RTX PRO 6000 Blackwell Server Edition nennt sie die Vorgängergeneration. Vier Arten von Käufern entscheiden sich weiterhin für sie.

• Grafik und KI auf denselben Hosts. Die Karte hat 142 RT-Cores der dritten Generation und 91,6 TFLOPS FP32 neben ihren FP8-Tensor-Cores, und NVIDIA nennt Rendering, 3D-Grafik und Omniverse unter ihren Einsatzgebieten. Ein Ingenieurbüro kann tagsüber virtuelle Workstations und nachts Inferenz- oder Render-Jobs auf denselben Servern betreiben.
• VDI auf dem Langzeitzweig von vGPU. Die L40S wird von vGPU 19 auf dem Treiberzweig R580 unterstützt, den NVIDIA bis Juli 2028 pflegt, und von vGPU 20. Die RTX PRO 4500 Server Edition braucht vGPU 20, dessen Zweig NVIDIA bis März 2027 unterstützt; wer seine Umgebung auf den Langzeitzweig festlegt, bleibt also bei der L40S.
• Video. Drei NVENC- und drei NVDEC-Einheiten je Karte kodieren und dekodieren AV1, und NVIDIAs Tabellen für DeepStream 9.2 nennen für eine L40S 1.114 Bilder pro Sekunde mit PeopleNet 2.6.3 und Tracker.
• Bestehende Flotten. Wer schon L40S-Hosts betreibt, behält mit Karten desselben Typs einen Satz vGPU-Profile, ein Strombudget und einen Ersatzteilvorrat.

Die Karte hat kein MIG, kein NVLink und keine FP4-Arithmetik. Ein Team, das ein 70B-Modell für viele Nutzer, Hardware-Isolation zwischen Mandanten oder NVFP4-Modelle plant, ist mit der RTX PRO 6000 Server Edition besser bedient, wie unser Vergleich L40S oder RTX PRO 6000 Server Edition erklärt.

Was die Server mit vier und acht Karten enthalten

Die Tabelle zeigt die beiden Konfigurationen, die wir mit dieser Karte am häufigsten bauen, und was wir je Projekt anpassen.

Unsere Seite zu KI-Servern; NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems (30. September 2026) für Sockel, Kerne je GPU, Arbeitsspeicher, Redfish und TPM; Lenovo Press LP2128 (aktualisiert am 20. Oktober 2026), Dells Technical Guide zum PowerEdge XE7745 (Rev. A09, September 2026) und Ciscos Datenblatt zum UCS C845A M8 (24. August 2026) für Gehäuse und Netzteile.

NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems verlangt mindestens zwei Sockel, sechs physische Kerne je GPU und mindestens doppelt so viel Arbeitsspeicher, wie die GPUs zusammen an Speicher haben. Für vier L40S sind das 24 Kerne und 384 GB, für acht Karten 48 Kerne und 768 GB. Unser Leitfaden Wie viel RAM ein GPU-Server braucht erklärt, wann sich mehr Speicher lohnt, etwa für einen großen Vektorindex neben den Modellen.

Die L40S ist eine passive Karte voller Länge mit zwei Slots Breite, 4,4 mal 10,5 Zoll, mit einem 16-poligen Stromanschluss und PCIe 4.0 x16. In einem Server mit PCIe 5.0 läuft sie mit Gen4-Geschwindigkeit. Ihre vier DisplayPort-1.4a-Ausgänge sind ab Werk abgeschaltet; ein Render- oder VDI-Host wird also wie jeder andere Server über das Netzwerk erreicht.

Gehäuse für vier oder acht L40S

Die Karte läuft nur in einem Gehäuse, für das der Hersteller sie mit passenden Risern, Stromkabeln und Lüftern freigibt. Diese Freigaben haben wir in den Unterlagen der Hersteller nachgelesen.

Lenovo Press LP2128 („4x NVIDIA L40S 350W GPUs“), Dells Technical Guide zum XE7745, Tabelle 23, Ciscos Datenblatt, Tabelle 2, Konfigurator von Puget Systems, gelesen am 24. Oktober 2026.

Dells Leitfaden setzt die Grenze für die Zuluft des XE7745 mit L40S auf 35 °C, die allgemeine Grenze der ASHRAE-Klasse A2, gegenüber 30 °C für denselben Server mit RTX PRO 6000 Server Edition. In einem Serverraum, der warm läuft, ist dieser Spielraum ein Grund, bei der 350-W-Karte zu bleiben. Wir bieten ein Gehäuse erst an, wenn wir die Freigabe des Herstellers für die Kartenzahl, die Prozessoren und die Netzteile geprüft haben.

Was vier oder acht L40S leisten

Wir rechnen mit unserer Regel für Nutzer je Karte: Von 90 Prozent des Speichers, den der Treiber meldet, gehen 3 GiB je Karte für die Laufzeitumgebung und die Gewichte ab; der Rest bleibt als KV-Cache für Gespräche. NVIDIAs CUDA Best Practices Guide gibt an, dass ECC auf GDDR-Speicher 6,25 Prozent der Kapazität belegt; mit eingeschaltetem ECC behält eine L40S damit rund 37,3 GiB für Gewichte und Cache, mit abgeschaltetem ECC rund 40,0 GiB. Die Tabelle rechnet mit eingeschaltetem ECC.

Unsere Schätzung nach der Regel für Nutzer je Karte, keine Messung: gleichzeitige Gespräche mit 8.192 Token und FP8-KV-Cache, ECC an; Desktops und CAD-Plätze sind NVIDIAs Höchstzahl an vGPUs je Karte aus der vGPU-Typenreferenz (29. September 2026); Einheiten laut NVIDIAs Produktseite zur L40S.

Gezählt sind Anfragen, die im selben Moment laufen. Mit den Beispielwerten unseres Leitfadens Private-ChatGPT-Server nach Unternehmens­größe erzeugen 500 Beschäftigte zur Spitzenzeit rund 20 davon, 1.000 Beschäftigte rund 40 und 2.000 Beschäftigte rund 80. Vier Karten mit vier Kopien eines 14B-Modells decken also 2.000 Beschäftigte mit Reserve ab, und eine Kopie von Llama 3.3 70B, auf die vier Karten verteilt, 1.000 Beschäftigte mit Reserve. Eine verteilte Kopie tauscht in jeder Schicht Daten über PCIe 4.0 aus, deshalb läuft eine einzelne Antwort langsamer, als die Summe der vier Karten vermuten lässt. Unsere Seite 8× L40S: Modelle, Nutzer, Video hat die vollständige Modellliste, veröffentlichte MLPerf®-Ergebnisse und die Videowerte.

Wir liefern beide Server mit einer für jedes Modell geplanten Aufteilung; schicken Sie uns Ihre Modelle, Desktops und die Spitze laufender Anfragen, und unser Team antwortet mit einer Konfiguration und den Gesprächen oder Plätzen je Aufteilung.

Stromverbrauch, Kühlung und Raum

Nach unserer Schätzung ergeben die Karten plus zwei Prozessoren mit 280 W, etwa zwei AMD EPYC 9355, plus 15 Prozent für Arbeitsspeicher, Laufwerke, Lüfter und Wandlungsverluste die Werte unten. Eine Messung am gelieferten System bestätigt die Schätzung.

Unsere Schätzung: 350 W je Karte laut NVIDIAs Produktseite zur L40S, 280 W Standard-TDP des EPYC 9355 laut AMD, plus 15 Prozent für den restlichen Server.

Einen einphasigen 230-V-Anschluss mit 16 A planen wir mit 80 Prozent seiner 3,68 kW ein, also mit 2,94 kW. Der Server mit vier Karten bleibt darunter, und mit redundanten Netzteilen an einer A- und einer B-Einspeisung trägt jede Seite den ganzen Server. Der Server mit acht Karten braucht je Seite einen einphasigen Anschluss mit 32 A (5,89 kW geplant) oder einen Drehstromanschluss mit 400 V. Dell gibt die 3.200-W-Netzteile des XE7745 nur von 220,1 bis 240 V mit voller Leistung an und von 200 bis 220 V mit 2.900 W; es kommt also auf die Spannung am Rackplatz an. Unser Leitfaden GPU-Server an 16 A, 32 A und Drehstrom geht die Anschlussarten durch.

Die gesamte Leistung wird zu Wärme. Mit den 160 CFM je kW aus unserem Leitfaden Strom und Kühlung im GPU-Rack brauchen vier Karten bei 11 °C Temperaturanstieg rund 370 CFM Luft und acht Karten rund 620 CFM. NVIDIA spezifiziert die Karte für 0 bis 50 °C, die Grenze für die Zuluft legt der Serverhersteller je Konfiguration fest. Dell nennt den XE7745 „not recommended for deployment in acoustically sensitive environments“; ein Server mit acht Karten gehört also in einen Serverraum oder ein Rechenzentrum.

Software und der vGPU-Zweig

Auf Wunsch kommt der Server mit installiertem Betriebssystem, NVIDIA-Treiber, CUDA und einer Container-Laufzeit. Wir installieren einen unterstützten Zweig: R580, NVIDIAs Langzeitzweig mit Support bis Juni 2028, oder R595. NVIDIAs Security Bulletin vom 30. September 2026 nennt 580.178.04 und 595.91.07 als erste Treiber mit der Korrektur. Unser Artikel zu NVIDIA-Treiberzweigen und CUDA-Versionen erklärt die Wahl.

Für virtuelle Desktops entscheidet der Zweig, wie lange der Host ohne großes Upgrade läuft. vGPU 19 auf R580 wird bis Juli 2028 unterstützt, vGPU 20 auf R595 bis März 2027, und die L40S läuft auf beiden. NVIDIAs Release Notes zu vGPU 20 unter vSphere decken die Karte auf VCF 9.0 und 9.1 und auf ESXi 8.0 Update 3 P06 und neuer ab. Unser Leitfaden zu den vGPU-Profilen der L40S listet jedes Profil mit seiner Lizenz. Die Karte kommt ohne NVIDIA AI Enterprise; vGPU-Profile für Compute und NIM brauchen eine Lizenz je GPU, Open-Source-Engines auf Bare Metal brauchen keine NVIDIA-Lizenz. Die Lizenzen stehen auf derselben Rechnung wie die Hardware.

So läuft die Bestellung bei uns

Die Schritte sind für einen Server oder mehrere dieselben.

1. Sie beschreiben die Arbeitslast: Modelle, Desktops oder Videostreams, Daten, Rack und Zeitplan. Die Auslegung ist kostenlos.
2. Wir schlagen die Konfiguration vor und prüfen, ob Karten, Gehäuse, Netzteile und Kühlung zu Ihrem Rack und Anschluss passen.
3. Sie erhalten innerhalb eines Werktages ein schriftliches Angebot mit Preis, Lieferzeit und Garantiebedingungen je Komponente. Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt.
4. Sie bestellen mit einem EU-Vertrag und erhalten eine EU-Rechnung von Eurokommerz in Wien; Lizenzen für NVIDIA vGPU und NVIDIA AI Enterprise sind Positionen auf derselben Rechnung.
5. Der Server wird vor der Lieferung montiert und getestet, mit einem Einschalt- und Lasttest.
6. Wir liefern in die gesamte EU, auf Wunsch mit Inbetriebnahme vor Ort; andere Ziele auf Anfrage über unseren Logistikpartner.
7. Jede Komponente hat die Herstellergarantie, abgewickelt über uns; DOA-Geräte werden ersetzt, und für die Montage stehen wir selbst ein.

Wir rüsten L40S-Karten auch in Server nach, die Sie schon betreiben, nach einer Prüfung von Plattform, Strom und Kühlung. Für Ihren eigenen Abnahmetest bei der Lieferung nutzen Sie die Prüfungen aus unserem Leitfaden GPU-Server Burn-in und Abnahmetest, und für den Vergleich von Angeboten Position für Position unseren Leitfaden GPU-Server-Angebote vergleichen.

Was wir für ein Angebot brauchen

Für den Anfang genügt eine kurze Beschreibung. Mit diesen Punkten können wir schon in der ersten Antwort die genaue Konfiguration anbieten.

• Modelle mit Quantisierung und Kontextlänge sowie die Spitze gleichzeitig laufender Anfragen
• Desktops oder Workstations je Nutzertyp, den Hypervisor mit Version und den vGPU-Zweig, den Sie betreiben
• Videoarbeit: Streams, Codecs, Auflösung und analysierte Bilder pro Sekunde
• Bestehende L40S-Hosts, zu denen der neue Server passen muss
• Den Rackplatz: freie Höheneinheiten, Anschlussart und Stromstärke, A/B-Einspeisung, Ausgänge der PDU und Zulufttemperatur
• Lieferort, rechnungsempfangende Gesellschaft, Zeitplan und etwaige Vorgaben einer Ausschreibung, für deren Formulierung unsere technischen Anforderungen für eine GPU-Server-Ausschreibung helfen

Beschreiben Sie diese Punkte im Formular unten, und unser Team antwortet innerhalb eines Werktages mit einer Konfiguration und einem schriftlichen Angebot.

Wann eine andere Karte besser passt

Acht RTX PRO 4500 Server Edition bringen 256 GB bei 1.320 W Kartenleistung, MIG und FP4, gegenüber 384 GB bei 2.800 W für acht L40S; unsere Seite 8× L40S oder 8× RTX PRO 4500 Server Edition vergleicht die beiden Server, der Kartenvergleich die einzelnen Karten. Für ein oder zwei 70B-Modelle mit vielen Nutzern halten vier RTX PRO 6000 Server Edition eine Kopie je Karte, wie unsere Seite Server mit 4× RTX PRO 6000 Server Edition kaufen zeigt. Veröffentlichte Messwerte der L40S sammelt unser L40S-Benchmark-Review.

Was wir liefern

Wir liefern Server mit vier oder acht NVIDIA L40S, auf Bestellung gebaut in Gehäusen, für die der Hersteller die Karte freigibt, und die L40S als einzelne Karten für Server, die Sie schon betreiben, mit einem EU-Vertrag, einer EU-Rechnung und Herstellergarantie. Lizenzen für NVIDIA vGPU und NVIDIA AI Enterprise stehen auf derselben Rechnung.

FAQ