NVIDIA T4 Nachfolger: L4, RTX PRO 2000 oder RTX PRO 4000 SFF für 70-W-Slots

Welche Karte eine T4 ersetzt

Die NVIDIA L4 ist der Nachfolger der T4 für Server: eine passiv gekühlte Low-Profile-Karte mit einem Slot, die wie die T4 ihren Strom aus dem Slot bezieht, mit 24 GB statt 16 GB Speicher, FP8 und NVIDIA vGPU. Die RTX PRO 2000 und RTX PRO 4000 SFF Blackwell ersetzen eine T4 nur in Systemen, die Platz für eine Dual-Slot-Karte mit eigenem Radiallüfter haben, in der Praxis also in kompakten Workstations und Edge-Geräten. Alle drei liefern wir.

T4-Karten stecken in Rack-Servern für Inferenz und Video, in Hosts für virtuelle Desktops und in Cloud-Instanzen. Die Frage nach dem Nachfolger kommt mit Terminen: dem Ende der Auslieferung neuer T4, dem Ende des erweiterten vGPU-Supports und für Cloud-Nutzer der Abschaltung der T4-Instanzen. Die Tabelle ordnet die Wahl danach, wo die Karte heute läuft.

Unsere Empfehlung auf Grundlage der NVIDIA-Produktseiten und -Datenblätter sowie der vGPU-Liste von NVIDIA, gelesen am 24. Oktober 2026; Seite von Google Cloud zum Support-Ende der T4, zuletzt aktualisiert am 13. Oktober 2026.

Unser Vergleich RTX PRO 4000 SFF, RTX PRO 2000 und L4 stellt die drei neuen Karten einander gegenüber. Diese Seite geht von der installierten T4 aus und zeigt, was sich beim Wechsel ändert. Wir liefern alle drei Nachfolger; beschreiben Sie uns die Systeme, in denen Ihre T4 laufen, und unser Team antwortet mit der passenden Karte für jedes davon.

Warum T4-Betreiber jetzt entscheiden

NVIDIAs Liste der von vGPU unterstützten GPUs, zuletzt aktualisiert am 2. Oktober 2026, gibt der Tesla T4 den Status „Extended Support“, mit „Dec 2024“ als Datum der letzten Auslieferung, „Dec 2027“ als Ende des erweiterten Supports und „TBD“ für das Ende der Wartung. Die L4 steht in „Full Support“ und ist als aktiv geführt. NVIDIAs eigene Seite mit den Terminen für das Ende des Software-Supports, am selben Tag aktualisiert, führt die T4 noch unter den GPUs, die weiter voll unterstützt werden, und nennt für sie keine Daten; für die Planung ist daher die strengere vGPU-Liste maßgeblich. NVIDIAs Definition der Phasen erklärt, warum der Unterschied bis Dezember 2027 wenig ausmacht: Im Extended Full Support wird eine GPU „in the same way as during Phase I: Full Support“ unterstützt, und erst in der anschließenden Wartungsphase entfallen neue Funktionen und technischer Support.

In der Cloud ist die Frist härter. Die Support-Ende-Seite von Google Cloud, zuletzt aktualisiert am 13. Oktober 2026, hält fest, dass man ab dem 1. August 2027 „cannot create, launch, or access any Google Cloud resources that run NVIDIA T4 GPUs“, dass verbleibende T4-Instanzen abgeschaltet werden und dass dreijährige Zusagen für T4 weder neu gekauft noch verlängert werden können. Google empfiehlt die Maschinenserie G2 mit der L4 (24 GB) oder die Serie G4 mit der RTX PRO 6000 (96 GB).

Auf der Softwareseite ist es ruhiger. Die Release Notes von CUDA 13.0 halten fest, dass die Version „all NVIDIA architectures from Turing through Grace Blackwell“ unterstützt, und die T4 ist eine Turing-Karte mit Compute Capability 7.5. Entfernt hat CUDA 13 Maxwell, Pascal und Volta. TensorRT 11.4.0 „supports NVIDIA hardware with compute capability SM 7.5 or higher“, so die Support-Matrix vom 5. Oktober 2026, die die T4 in ihrem GPU-Filter nennt, und die Installationsanleitung von vLLM nennt Compute Capability 7.5 als Minimum, mit der T4 als erstem Beispiel. Auch aktuelle Treiber führen die T4: Die Release Notes des Rechenzentrumstreibers 595.91.07 enthalten „NVIDIA T4, T4G“. Ein T4-Server bekommt also vorerst weiter aktuelle Software. Für den Austausch sprechen Speicher, Formate, vGPU-Support und die genannten Termine.

T4, L4, RTX PRO 4000 SFF und RTX PRO 2000 im Vergleich

Produktseite und Product Brief PB-09256-001_v05 (April 2020) der NVIDIA T4; Produktseite der NVIDIA L4; NVIDIA-Übersicht der professionellen Desktop-GPUs und RTX-PRO-Datenblätter (Juni 2026); Support-Matrix des NVIDIA Video Codec SDK; vGPU-Liste von NVIDIA vom 2. Oktober 2026; alle gelesen am 24. Oktober 2026.

Der Brief der T4 beschreibt eine „single-slot, low-profile, 6.6-inch PCI Express Gen3“-Karte in halber Höhe und halber Länge, „passively cooled“, mit 16 GB GDDR6, ausgeliefert „with ECC and page retirement enabled by default“, und mit Luftstrom von beiden Seiten. Die L4 behält dieses Slot-Format und bringt 8 GB mehr. Die beiden RTX-PRO-Karten haben dieselbe Höhe von 2,7 Zoll, belegen aber zwei Slots und haben vier Mini-DisplayPort-2.1b-Ausgänge.

Die Tensor-Zeile vergleicht unterschiedliche Formate. Auf gleicher Basis, dichtes INT8, stehen die 130 TOPS der T4 (NVIDIAs T4-Seite nennt keinen Sparse-Wert) gegen 242,5 TOPS der L4, die Hälfte von NVIDIAs Sparse-Wert 485; damit ist die L4 auf dem Papier rund 1,9-mal schneller, nach unserer Rechnung. FP16 ergibt dasselbe Verhältnis: 65 TFLOPS auf der T4 gegen 121 dicht auf der L4.

Speicherbandbreite: wo die L4 nicht schneller ist

Sprachmodelle lesen für jedes erzeugte Token ihre Gewichte aus dem Speicher, deshalb begrenzt die Bandbreite die Geschwindigkeit für einen einzelnen Nutzer. Die L4 hat 300 GB/s, 6 Prozent weniger als die 320 GB/s der T4. Für ein 8B-Modell in FP8 mit 9,45 GB Gewichten liegt die Obergrenze nach unserer Rechnung bei rund 34 Token pro Sekunde auf einer T4, 32 auf einer L4, 46 auf einer RTX PRO 4000 SFF und 30 auf einer RTX PRO 2000: Bandbreite geteilt durch die je Token gelesenen Bytes. Das sind Obergrenzen; die reale Dekodierung erreicht weniger.

Die L4 gewinnt dort, wo der T4 Speicher oder Rechenleistung ausgehen: bei größeren Modellen, längeren Kontexten, mehr gebündelten Gesprächen und in der Prompt-Phase, die von der Rechenleistung abhängt. Eine T4, die ein kleines Modell für wenige Nutzer gleichzeitig bedient, wird auf einer L4 kaum schneller wirken. Wo die Geschwindigkeit eines einzelnen Datenstroms zählt, ist die RTX PRO 4000 SFF die Karte mit mehr Bandbreite, sofern das System sie aufnehmen kann.

Formate: FP8 und FP4 statt INT8 und FP16

Die T4 rechnet in FP16, INT8 und INT4. FP8 kam mit Ada und Hopper. Die FP8-Dokumentation von vLLM vom 24. September 2026 hält fest: „FP8 computation is supported on NVIDIA GPUs with compute capability >= 8.9 (Ada Lovelace, Hopper, Blackwell)“; auf Turing läuft ein FP8-Modell „as weight-only W8A16, utilizing FP8 Marlin“: Die Gewichte liegen in 8 Bit vor, gerechnet wird in 16 Bit. Auf einer L4 rechnet derselbe Checkpoint in FP8. Die RTX-PRO-Karten bringen zusätzlich NVFP4, das 4-Bit-Format der Blackwell-Tensor-Cores.

Dienste, die über TensorRT in INT8 laufen, behalten diesen Weg auf der L4, die NVIDIA mit 485 INT8-TOPS mit Sparsity angibt, und TensorRT 11.4 unterstützt beide Karten. Wer mit der neuen Karte auf FP8 oder NVFP4 umsteigt, sollte eine Genauigkeitsprüfung mit eigenen Daten einplanen, denn mit dem Format ändern sich die Zahlen, mit denen das Modell rechnet.

Sprachmodelle in 16 GB und 24 GB

Unsere Regel für Nutzer je Karte nimmt 90 Prozent des Speichers, den der Treiber meldet, und zieht 3 GiB für CUDA Graphs und Aktivierungen ab; was nach den Gewichten bleibt, nimmt den KV-Cache auf. GDDR6 mit eingeschaltetem ECC verliert 6,25 Prozent seiner Kapazität, und die T4 wird mit ECC ausgeliefert; für GDDR7 gibt NVIDIA an, dass ECC keine Kapazität kostet. Nach dieser Regel hat die T4 10,4 GiB für Gewichte und Cache, die L4 mit ECC 17,2 GiB, die RTX PRO 4000 SFF 18,5 GiB und die RTX PRO 2000 11,3 GiB.

Unsere Schätzung nach der Regel für Nutzer je Karte: vom Treiber gemeldeter Speicher skaliert von 97.887 MiB für eine 96-GB-Karte, davon 0,9 abzüglich 3 GiB; Gewichte Qwen3-8B FP8 8,8 GiB; Cache je Gespräch mit 8.192 Token 1,125 GiB in 16 Bit und 0,5625 GiB in FP8.

Die T4 hält ein 8B-Modell in FP8 mit Platz für kaum ein langes Gespräch; ein solches Modell braucht auf der T4 also kurze Kontexte oder 4-Bit-Gewichte. Auf einer 24-GB-Karte bedient dasselbe Modell 14 bis 17 Gespräche gleichzeitig. Ein 14B-Modell in FP8 oder ein 30B-Mixture-of-Experts-Modell in 4 Bit braucht die 24-GB-Karten, wie unsere Leitfäden zu kleinen Sprachmodellen auf L4 und RTX PRO 2000 und zu 30B-MoE-Modellen auf 24-GB-GPUs zeigen.

Server-Slots: was dort passt, wo die T4 saß

Ein Server mit T4-Karten hat Low-Profile-Slots, rund 70 W je Slot aus dem Mainboard und Lüfter, die für passive Karten ausgelegt sind. Die L4 erfüllt alle drei Punkte: höchstens 72 W aus dem Slot ohne Zusatzstecker, eine passive Low-Profile-Karte mit einem Slot und, wie NVIDIAs Unterlagen zu beiden Karten angeben, Luftstrom aus beiden Richtungen. Angebunden ist sie mit PCIe 4.0 x16. Ob sie in einen bestimmten Server darf, entscheidet die Support-Liste des Herstellers: Lenovos L4-Produktleitfaden LP1717 nennt etwa acht L4 für den ThinkSystem SR650 V3 und vier für den SR635 V3 und führt Tower-Modelle wie den ST50 V3 als nicht unterstützt.

Die RTX PRO 2000 und die RTX PRO 4000 SFF brauchen zwei Slot-Breiten und blasen ihre Luft selbst. In einem 1U-Server mit einfach breiten Low-Profile-Risern passen sie nicht, und in einem 2U-Server belegen sie zwei Positionen und hängen davon ab, dass der Hersteller sie listet. Beide Karten beziehen ihren Strom nur aus dem Slot; NVIDIAs Quick Start Guide hält fest, dass sie „do not use a power cable“. Nach NVIDIAs Richtlinien ist ein PCIe-Slot „typically“ für 75 W ausgelegt; die Slot-Leistung eines kompakten PCs ist daher vor der Bestellung zu prüfen.

Video und Kamerastreams

NVIDIAs T4-Seite gibt an, dass die Karte „can decode up to 38 full-HD video streams“. Ihr einziger Encoder ist laut Support-Matrix des NVIDIA Video Codec SDK ein NVENC der 7. Generation ohne AV1. Die L4 hat zwei Encoder der 8. Generation mit AV1, vier Decoder und vier JPEG-Decoder, und NVIDIA nennt bis zu 1.040 gleichzeitige AV1-Streams mit 720p30 für einen Server mit acht L4. Für Kameraanalyse und Transcoding ist die L4 der Nachfolger der T4 im selben Slot; unser Artikel zum GPU-Server für Videoanalyse rechnet Streams je Karte.

Die RTX PRO 4000 SFF hat zwei Encoder der 9. Generation, die RTX PRO 2000 einen, beide mit AV1 und mit 4:2:2-Kodierung und -Dekodierung für H.264 und HEVC, die Broadcast-Formate verwenden. Sie passen eher in eine Video-Workstation mit angeschlossenen Monitoren als in einen Stream-Server.

Virtuelle Desktops auf T4-Hosts

Ein vGPU-Host mit T4 wechselt auf die L4. Von den drei Nachfolgern steht nur die L4 auf NVIDIAs vGPU-Liste, unterstützt seit Release 15.2 und in „Full Support“. Ihre Profile reichen von 1 bis 24 GB, bis zu 24 Desktops je Karte mit 1-GB-Profilen; unser Leitfaden zu den L4-vGPU-Profilen listet sie auf. Die Lizenzeditionen ändern sich mit der Karte nicht. Eine VM-Migration zwischen Hosts setzt auf beiden denselben GPU-Typ voraus, ein gemischter Cluster wird daher als getrennte Pools geplant.

Ein T4-Server mit vier Karten, Karte für Karte

Werden vier T4 durch vier L4 ersetzt, bleibt die Leistung der Karten fast gleich, 280 W gegen 288 W, und der GPU-Speicher steigt von 64 GB auf 96 GB, nach unserer Rechnung. Acht Watt über vier Karten sind für das Netzteil eine kleine Änderung; entscheidend ist, ob der Hersteller die L4 in diesem Modell unterstützt. Sind die T4-Server so alt, dass ihre Garantie abgelaufen ist, ist ein neuer Server mit vier oder acht L4 die Alternative, wie unsere Seiten L4-Server kaufen und zum Server mit acht L4 beschreiben.

Für Dienste, die über 24 GB je Karte hinauswachsen, ist der nächste Schritt in einem Slot voller Höhe die RTX PRO 4500 Server Edition mit 32 GB bei 165 W, die unser Vergleich L4 vs. RTX PRO 4500 Server Edition behandelt, oder die L40S mit 48 GB in unserem Vergleich L4 und L40S. Wer von T4-Instanzen bei Google auf eigene Hardware wechselt, kann Googles eigener Empfehlung folgen: ein L4-Server für die G2-Klasse oder Karten der RTX PRO 6000 Server Edition für die G4-Klasse.

Was wir liefern

Wir liefern die NVIDIA L4, die RTX PRO 4000 SFF und die RTX PRO 2000 als Karten oder in Servern und Workstations nach Auftrag, mit einem EU-Vertrag und einer Rechnung und mit Herstellergarantie auf jede Komponente. Kommen die Karten in Server, die Sie bereits besitzen, prüfen wir vorher Plattform, Stromversorgung und Kühlung und sagen im Voraus, wenn etwas nicht funktionieren wird. Für vGPU-Hosts stehen die Lizenzen im selben Angebot. Nennen Sie uns das Servermodell und die Zahl der T4-Karten darin, und wir antworten mit dem Nachfolger, den der Hersteller in diesem Gehäuse unterstützt.

FAQ