Server mit 4 bis 8 NVIDIA L4 in Europa kaufen: Video, kleine Modelle, wenig Strom

Wer einen Server mit vier bis acht L4 kauft

Einen Server mit vier bis acht NVIDIA L4 können Sie bei uns kaufen, auf Bestellung gebaut und in die gesamte EU geliefert. Die L4 ist NVIDIAs Ada-Lovelace-Karte mit 72 W für Video, kleine KI-Modelle und einfache virtuelle Desktops; ein Server mit acht davon braucht für seine GPUs weniger Strom als eine einzige große Karte. Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages.

NVIDIAs Produktseite nennt 24 GB GDDR6, 300 GB/s Speicherbandbreite, 30,3 TFLOPS FP32 und 485 TFLOPS FP8 mit Sparsity, ohne Sparsity die Hälfte. Die Karte belegt einen Slot in Low-Profile-Bauform, wird passiv gekühlt und über den PCIe-Slot mit Strom versorgt; sie braucht also weder ein GPU-Stromkabel noch einen Slot voller Höhe. Als Serveroptionen nennt NVIDIA „Partner and NVIDIA-Certified Systems with 1–8 GPUs“. Vier Arten von Käufern entscheiden sich für sie.

• Videoanalyse und Transkodierung. Jede Karte hat vier NVDEC-Decoder, zwei NVENC-Encoder und vier JPEG-Decoder, mit AV1. In NVIDIAs Dokumentation zu DeepStream 7.1 verarbeitete eine L4 68 H.264- oder 81 H.265-Kamerastreams mit 1080p und 30 Bildern pro Sekunde, mit einem ResNet18-Detektor, einem Tracker und zwei Klassifikatoren.
• Kleine Sprachmodelle und Embeddings. Modelle mit 8B Parametern in FP8 passen mit Platz für Gespräche auf eine Karte, ein 14B-Modell mit wenigen. Typisch sind Klassifikation, Extraktion, Routing sowie Embedding-Modelle und Reranker für RAG.
• Einfache virtuelle Desktops. NVIDIAs vGPU-Typenreferenz erlaubt bis zu 24 Desktops je Karte mit dem 1-GB-Profil L4-1B und 12 mit L4-2B.
• Racks mit wenig Strom. Filialen, Edge-Räume und volle Racks haben oft nur einen kleinen Anschluss. Acht L4 ziehen bei Nennleistung 576 W.

Für 70B-Modelle mit vielen Nutzern, für Training und für Hardware-Isolation zwischen Mandanten ist die L4 nicht die richtige Karte. Unser Vergleich L4 oder L40S behandelt die Karte mit 48 GB, der Vergleich L4 oder RTX PRO 4500 Server Edition die Blackwell-Karte, die laut NVIDIA „over 5x the performance of the previous-generation L4 GPU“ liefert; die Seite nennt dafür keine Testbedingungen.

Ausstattung eines L4-Servers mit vier und mit acht Karten

Die meisten L4-Server, die wir anbieten, haben eine von zwei Größen. Die Tabelle zeigt, was jeweils enthalten ist und was wir je Projekt anpassen.

Unsere Seite zu KI-Servern; NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems (30. September 2026) für Sockel, Kerne je GPU, Arbeitsspeicher, Redfish und TPM; Lenovo Press LP1717 für die Kartenzahl je Gehäuse, gelesen am 24. Oktober 2026.

NVIDIAs Konfigurations­leitfaden für NVIDIA-Certified Systems verlangt zwei Sockel, mindestens sechs physische Kerne je GPU und mindestens doppelt so viel Arbeitsspeicher wie GPU-Speicher. Für vier L4 sind das 24 Kerne und 192 GB, für acht 48 Kerne und 384 GB. Ein Videoserver braucht oft mehr Kerne als dieses Minimum, weil die Prozessoren die Kamerastreams empfangen und zerlegen. In NVIDIAs DeepStream-Lauf lasteten 81 H.265-Streams auf einer L4 einen AMD EPYC 7763 zu 46,1 Prozent aus, 68 H.264-Streams dagegen nur zu 8,06 Prozent; der Codec verändert die Prozessorlast also stark. Wir legen die Prozessoren nach Ihren Codecs und Streamzahlen aus, wie unser Leitfaden EPYC oder Xeon für einen GPU-Server erklärt; unser Leitfaden Wie viel RAM ein GPU-Server braucht behandelt Speicher über die Regel hinaus.

Die Karte misst laut Lenovo 69 mal 169 mm, im NVIDIA-Formfaktor 5.5, und läuft mit PCIe 4.0 x16, auch in einem Slot mit PCIe 5.0. Sie hat keine Bildschirmausgänge. Lenovo gibt an, dass die L4 weder MIG noch NVLink unterstützt und für vGPU SR-IOV mit bis zu 256 virtuellen Funktionen bietet.

Gehäuse für vier bis acht L4

Eine passive Karte hängt an den Lüftern des Servers. Wir bauen deshalb nur in Gehäuse, für die der Hersteller die L4 in diesem Slot und dieser Anzahl freigibt. Diese Freigaben haben wir in den Unterlagen der Hersteller nachgelesen.

Lenovo Press LP1717, Tabellen 3 und 4 zur Serverunterstützung; Dells Technical Guide zum PowerEdge XE7745 (Rev. A09, September 2026), Tabelle 23; beide gelesen am 24. Oktober 2026.

Lenovos Tabellen zeigen auch Grenzen, auf die es ankommt: Der 1U-Server SR630 V3 nimmt drei L4 auf, mehrere Einstiegs-Tower und 1U-Server gar keine. Dell führt die L4 im XE7745 mit sechzehn Gen4-x16-Slots einfacher Breite zu je 75 W und erlaubt der Karte in seiner Tabelle der Einschränkungen in der genannten Konfiguration bis zu 35 °C Zulufttemperatur. Lenovos ThinkEdge SE455 V3 ist 438 mm tief, wie unser Leitfaden zu kleinen Sprachmodellen auf der L4 festhält, und passt damit in flache Filialracks. Vor dem Angebot prüfen wir die Freigabe des Herstellers für Kartenzahl, Prozessoren und Riser.

Was vier oder acht L4 leisten

Wir rechnen mit unserer Regel für Nutzer je Karte: Von 90 Prozent des Speichers, den der Treiber meldet, gehen 3 GiB je Karte für die Laufzeitumgebung und die Gewichte ab; der Rest bleibt als KV-Cache für Gespräche. Hochgerechnet von den 97.887 MiB, die eine 96-GB-Karte meldet, zeigt eine 24-GB-Karte rund 23,9 GiB. NVIDIAs CUDA Best Practices Guide gibt an, dass ECC auf GDDR-Speicher 6,25 Prozent der Kapazität belegt; eine L4 behält damit mit ECC rund 17,2 GiB, ohne ECC rund 18,5 GiB. Die Tabelle rechnet mit eingeschaltetem ECC.

Unsere Schätzung nach der Regel für Nutzer je Karte, keine Messung: gleichzeitige Gespräche mit 8.192 Token und FP8-KV-Cache, ECC an. Desktops sind NVIDIAs Höchstzahl an vGPUs je Karte bei gleich großen Profilen laut vGPU-Typenreferenz (29. September 2026); Einheiten laut NVIDIAs Produktseite zur L4.

Gezählt sind Anfragen, die im selben Moment laufen. Mit den Beispielwerten unseres Leitfadens Private-ChatGPT-Server nach Unternehmens­größe erzeugen 500 Beschäftigte zur Spitzenzeit rund 20 davon und 2.000 Beschäftigte rund 80. Vier Kopien eines 8B-Modells bedienen also ein Unternehmen mit rund 1.000 Beschäftigten, acht Kopien eines mit 2.000 mit Reserve. Eine einzelne Antwort begrenzen die 300 GB/s der Karte: Qwen3-8B in FP8 liest je Token rund 9,4 GB, nach unserer Rechnung eine Obergrenze von rund 32 Token pro Sekunde für einen Stream.

Qwens FP8-Veröffentlichungen skalieren die Gewichte in Blöcken von 128 mal 128, ein Format, das die Support-Matrix von TensorRT-LLM für Ada nicht aufführt, wie unser L40S-Benchmark-Review festhält; prüfen Sie deshalb, ob Ihre Serving-Engine den Checkpoint auf dieser Karte ausführt. Ada hat keine FP4-Arithmetik, 4-Bit-Modelle laufen meist als INT4 über AWQ oder GPTQ. Unsere Seite 8× L4-Server: Videoanalyse und kleine Modelle enthält die vollständige Modellliste, die Kamerazahlen und die veröffentlichten Ergebnisse.

Wir liefern beide Größen mit einer für jedes Modell und jede Kamera-Pipeline geplanten Aufteilung; schicken Sie uns Ihre Modelle, Kameras und Desktopzahlen, und unser Team antwortet mit einer Konfiguration und den Nutzern oder Streams je Aufteilung.

Stromverbrauch und Raum für einen L4-Server

Mit der L4 verschiebt sich das Verhältnis im GPU-Server: Die Prozessoren ziehen so viel wie die Karten oder mehr. Nach unserer Schätzung, mit zwei AMD EPYC 9135 zu 200 W für vier Karten und zwei EPYC 9355 zu 280 W für acht, plus 15 Prozent für Arbeitsspeicher, Laufwerke, Lüfter und Wandlungsverluste, ergeben sich diese Werte. Eine Messung am gelieferten System bestätigt die Schätzung.

Unsere Schätzung: 72 W je Karte laut NVIDIAs Produktseite zur L4, AMDs Standard-TDP von 200 W für den EPYC 9135 und 280 W für den EPYC 9355, plus 15 Prozent für den restlichen Server.

Einen einphasigen 230-V-Anschluss mit 16 A planen wir mit 80 Prozent seiner 3,68 kW ein, also mit 2,94 kW. Alle drei Server passen an einen solchen Anschluss, und mit redundanten Netzteilen an einer A- und einer B-Einspeisung trägt jede Seite den ganzen Server. Zwei L4-Server mit je acht Karten brauchen zusammen weniger Strom als ein Server mit vier RTX PRO 6000 Server Edition, der rund 3,4 kW zieht. Unser Leitfaden GPU-Server an 16 A, 32 A und Drehstrom behandelt größere Anschlüsse.

Mit den 160 CFM je kW aus unserem Leitfaden Strom und Kühlung im GPU-Rack brauchen vier Karten bei 11 °C Temperaturanstieg rund 130 CFM Luft und acht rund 210 CFM. Weil die Karte keinen eigenen Lüfter hat, muss das Lüfterprofil des Servers zu ihr passen: Dells Grenze von 35 °C gilt für die genannte XE7745-Konfiguration, andere Gehäuse haben eigene Grenzen. Ein 1U- oder 2U-Server mit acht passiven Karten dreht unter Last seine Lüfter hoch und gehört deshalb in einen Serverraum oder ein geschlossenes Rack.

Software, Treiber und vGPU auf der L4

Auf Wunsch kommt der Server mit installiertem Betriebssystem, NVIDIA-Treiber, CUDA und einer Container-Laufzeit. Wir installieren einen unterstützten Treiberzweig: R580, NVIDIAs Langzeitzweig mit Support bis Juni 2028, oder R595. NVIDIAs Security Bulletin vom 30. September 2026 nennt 580.178.04 und 595.91.07 als erste Treiber mit der Korrektur. Unser Artikel zu NVIDIA-Treiberzweigen und CUDA-Versionen erklärt die Wahl. Für Video laufen DeepStream und das Video Codec SDK auf demselben Treiber.

Die L4 steht seit Release 15.2 auf NVIDIAs vGPU-Liste, und NVIDIAs Seite zum vGPU-Lebenszyklus, aktualisiert am 2. Oktober 2026, führt sie als voll unterstützt. vGPU 19 auf dem Zweig R580 wird bis Juli 2028 unterstützt. B-Profile brauchen eine Lizenz für vPC oder vWS, Q-Profile vWS und C-Profile NVIDIA AI Enterprise, das bei der L4 nicht enthalten ist; Open-Source-Engines auf Bare Metal brauchen keine NVIDIA-Lizenz. Unser Leitfaden zu den vGPU-Profilen der L4 listet jedes Profil mit seinen Grenzen. Die Lizenzen stehen auf derselben Rechnung wie die Hardware.

Einen L4-Server bei uns bestellen

Die Schritte sind dieselben, ob Sie einen Server bestellen oder eine Serie für viele Standorte.

1. Sie beschreiben die Arbeitslast: Kameras und Codecs, Modelle, Desktops, Standorte und Racks. Die Auslegung ist kostenlos.
2. Wir schlagen die Konfiguration vor und prüfen, ob Karten, Gehäuse, Prozessoren und Kühlung zu Ihrem Rack und Anschluss passen.
3. Sie erhalten innerhalb eines Werktages ein schriftliches Angebot mit Preis, Lieferzeit und Garantiebedingungen je Komponente. Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt.
4. Sie bestellen mit einem EU-Vertrag und erhalten eine EU-Rechnung von Eurokommerz in Wien; Lizenzen für vGPU und NVIDIA AI Enterprise sind Positionen auf derselben Rechnung.
5. Der Server wird vor der Lieferung montiert und getestet, mit einem Einschalt- und Lasttest.
6. Wir liefern in die gesamte EU, auf Wunsch mit Inbetriebnahme vor Ort; andere Ziele auf Anfrage über unseren Logistikpartner.
7. Jede Komponente hat die Herstellergarantie, abgewickelt über uns; DOA-Geräte werden ersetzt, und für die Montage stehen wir selbst ein.

Wir rüsten L4-Karten auch in Server nach, die Sie schon betreiben, nach einer Prüfung von Plattform, Slots und Kühlung. Für mehrere Filialen hält eine Konfiguration, die an jedem Standort gleich ist, Ersatzteile und Images einheitlich. Unser Leitfaden GPU-Server Burn-in und Abnahmetest enthält Prüfungen für Ihren eigenen Abnahmetest bei der Lieferung.

Angaben für ein Angebot in der ersten Antwort

Für den Anfang genügt eine kurze Beschreibung. Mit diesen Punkten können wir die genaue Konfiguration sofort anbieten.

• Kameras: Anzahl, Codec, Auflösung, Bildrate und die Bilder pro Sekunde, die das Modell analysiert
• Modelle mit Quantisierung und Kontextlänge sowie die Spitze gleichzeitig laufender Anfragen
• Desktops je Nutzertyp, den Hypervisor mit Version und die vGPU-Lizenz, die Sie nutzen
• Den Rackplatz: freie Höheneinheiten, Tiefe, Anschlussart und Stromstärke, A/B-Einspeisung und Zulufttemperatur
• Bestehende Server, die L4-Karten aufnehmen sollen, mit Modell und Generation
• Lieferorte, rechnungsempfangende Gesellschaft, Zeitplan und etwaige Vorgaben einer Ausschreibung, für deren Formulierung unsere technischen Anforderungen für eine GPU-Server-Ausschreibung helfen

Tragen Sie diese Punkte in das Formular unten ein, und unser Team antwortet innerhalb eines Werktages mit einer Konfiguration und einem schriftlichen Angebot.

Wann eine andere Karte besser passt

Braucht ein Modell mehr als 24 GB je Karte oder muss eine Antwort schneller laufen, als 300 GB/s erlauben, bietet die RTX PRO 4500 Server Edition 32 GB bei 800 GB/s, MIG und FP4 mit 165 W als einfach breite Karte voller Höhe mit 16-poligem Stromanschluss; unsere Seite Server mit 8× RTX PRO 4500 Server Edition kaufen beschreibt diesen Server. Für 32B-Modelle je Karte, Grafik und VDI mit größeren Profilen hat der L40S-Server 48 GB bei 350 W. Für ein 70B-Modell mit vielen Nutzern halten vier RTX PRO 6000 Server Edition eine Kopie je Karte, wie unsere Seite Server mit 4× RTX PRO 6000 Server Edition kaufen zeigt.

Was wir liefern

Wir liefern Server mit vier bis acht NVIDIA L4, oder bis zu sechzehn in einem 4U-Gehäuse mit Freigabe, auf Bestellung gebaut, vor der Lieferung montiert und getestet, und die L4 als einzelne Karten für Server, die Sie schon betreiben, mit einem EU-Vertrag, einer EU-Rechnung und Herstellergarantie. Lizenzen für NVIDIA vGPU und NVIDIA AI Enterprise stehen auf derselben Rechnung.

FAQ