Linux für GPU-Server: Ubuntu 24.04 oder 26.04, RHEL oder Rocky Linux für den NVIDIA-Stack

Die engere Wahl für einen neuen GPU-Server

Für einen GPU-Server, der Ende 2026 in Betrieb geht, sind Ubuntu 24.04 LTS, RHEL 9 und RHEL 10 die Betriebssysteme, die jede Support-Liste von NVIDIA abdeckt: CUDA, GPU Operator, NVIDIA AI Enterprise und vGPU. Ubuntu 26.04 LTS wird von CUDA, dem GPU Operator und vGPU unterstützt, NVIDIA AI Enterprise 8.2 nennt es aber nur innerhalb virtueller Maschinen. Rocky Linux wird von CUDA und dem GPU Operator unterstützt, auf der Liste von AI Enterprise fehlt es.

Die Wahl hängt daher weniger am Geschmack als daran, welches NVIDIA-Produkt auf dem Host Support braucht. Ein Server, der nur CUDA-Anwendungen und Container ausführt, kann jedes der fünf Systeme nutzen. Ein Server, dessen Software unter eine Lizenz für NVIDIA AI Enterprise fällt, etwa NIM, braucht ein Betriebssystem aus der AI-Enterprise-Matrix, ein vGPU-Host eines aus der vGPU-Matrix.

NVIDIA, CUDA 13.4 Installation Guide for Linux (validierte Konfigurationen), Plattformseite des GPU Operators (14. Oktober 2026), Support-Matrix von NVIDIA AI Enterprise 8.2 (2. September 2026), Ubuntu-Release-Zyklus, Red-Hat-Errata-Richtlinie und Rocky-Linux-Versionsseite; alles gelesen am 24. Oktober 2026. Die RHEL-Releases in der Bare-Metal-Zeile sind die, die NVIDIA für Kubernetes nennt.

Die Tabelle verbirgt eine Falle: Jede Liste nennt Minor-Releases, und sie bewegen sich nicht gemeinsam. CUDA 13.4 Update 1 ist auf Rocky Linux 9.8 und 10.2 validiert, die Seite des GPU Operators nennt Rocky 9.7 und 10.1. Prüfen Sie vor einem Minor-Upgrade die Liste jeder NVIDIA-Komponente, die der Server ausführt.

Ubuntu 24.04 LTS: das System, das heute jede NVIDIA-Liste abdeckt

Ubuntu 24.04 LTS steht auf allen oben genannten Listen. Canonicals Seite zum Release-Zyklus gibt ihm Standard-Sicherheitswartung bis Mai 2029 und Expanded Security Maintenance mit Ubuntu Pro bis Mai 2034. CUDA 13.4 Update 1 ist auf 24.04.4 mit Kernel 6.17.0-19, GCC 14.3.0 und glibc 2.39 validiert. NVIDIA AI Enterprise 8.2 nennt es für Kubernetes und Container auf Bare Metal, als Gast und als Hypervisor auf einem Knoten, und der GPU Operator unterstützt es mit containerd 2.0 bis 2.3 und mit CRI-O.

Ein Ubuntu-LTS-Release bleibt nicht bei einer Kernel-Linie. Für Ubuntu 22.04 nennt die Plattformseite des GPU Operators die Kernel 5.15, 6.5 und 6.8, und CUDA 13.4 ist auf 22.04.5 mit 6.5.0-45 und auf 24.04.4 mit 6.17.0-19 validiert. Welchen Kernel ein Server fährt, hängt von der Installation und von Hardware-Enablement-Updates ab; ein für einen Kernel gebauter Treiber ist nach jedem Kernelwechsel zu prüfen.

Die Grenze ist die Zeit. Ein Ende 2026 in Betrieb genommener Server läuft in seinem dritten Jahr über den Mai 2029 hinaus. NVIDIAs CUDA-Anleitung hält fest, dass der Support für ein Betriebssystem bis zum Ende der Standard-Sicherheitswartung der jeweiligen Distribution läuft; ab Mitte 2029 braucht ein Server mit 24.04 also Ubuntu Pro für Sicherheitsupdates oder ein Release-Upgrade. Unser Leitfaden zum Lebenszyklus eines GPU-Servers über fünf Jahre stellt das neben die Wechsel des Treiber-Branches und die Garantie.

Ubuntu 26.04 LTS: neuerer Kernel, kürzere Listen

Ubuntu 26.04 LTS erschien im April 2026, mit Standard-Sicherheitswartung bis Mai 2031; damit deckt es den größten Teil eines fünfjährigen Serverlebens ab. CUDA 13.4 Update 1 ist auf 26.04.1 mit Kernel 7.0.0-31, GCC 15.2.0 und glibc 2.43 validiert. NVIDIAs eigene Systeme sind umgestiegen: DGX OS 8.0.0, erschienen am 31. August 2026, basiert auf Ubuntu 26.04 mit Kernel 7.0.0-1010-nvidia und dem R595-Treiber 595.91.07, wie unsere Seite zu DGX OS 8 auf der DGX B300 beschreibt.

Vier Punkte auf den Listen vom Oktober 2026 bremsen es auf manchen Servern:

• NVIDIA AI Enterprise 8.2 nennt Ubuntu 26.04 für virtualisierte Gäste und als Ubuntu-Hypervisor auf einem Knoten, nicht für Kubernetes oder Container auf Bare Metal, wo die Liste bei 24.04 endet.
• Der GPU Operator unterstützt containerd unter 26.04, nennt dafür aber kein CRI-O; vorkompilierte Treiber gibt es für 26.04 mit Kernel 7.0 und dem Branch R595.
• Die cryoSPARC-Anleitung warnt, Stand Juni 2026: „CryoSPARC versions up to 5.0.6 are incompatible with the version 7 kernel that is the default for Ubuntu 26.04“, und empfiehlt Ubuntu 22.04 oder 24.04.
• Kernel 7.0 ist neu; Module anderer Hersteller außerhalb des Kernels, etwa Storage- oder Netzwerktreiber, brauchen eine eigene Prüfung.

Bei vGPU ist 26.04 weiter: NVIDIAs vGPU-Support-Matrix führt Ubuntu 26.04 LTS seit Release 20.1 als Host. Unser Artikel zu Servern für cryoSPARC und RELION zeigt, wie eine einzige Anwendung das Betriebssystem bestimmen kann.

Schicken Sie uns die Anwendungen, die der Server ausführen soll, und wir installieren das Ubuntu-Release, den Treiber-Branch und die CUDA-Version, die alle diese Anwendungen unterstützen.

RHEL 9 und RHEL 10: eine Kernel-Linie je Release

Red Hats Errata-Richtlinie beschreibt für RHEL 8, 9 und 10 einen Lebenszyklus von zehn Jahren: fünf Jahre Full Support, fünf Jahre Maintenance Support, danach eine Extended Life Phase. Red Hats Release-Tabelle nennt RHEL 9.0 am 17. Mai 2022 und RHEL 10.0 am 20. Mai 2025; nach unserer Rechnung wird RHEL 9 damit bis etwa Mitte 2032 gepflegt und RHEL 10 bis etwa Mitte 2035, beides über ein fünfjähriges Serverleben hinaus.

Für GPU-Treiber zählt die Kernel-Politik mehr. Jedes Minor-Release von RHEL 9 in Red Hats Tabelle läuft mit einem 5.14.0-Kernel, von 9.0 bis 9.8 vom 19. Mai 2026, jedes Release von RHEL 10 mit einem 6.12.0-Kernel. Minor-Releases erscheinen alle sechs Monate, in dieser Tabelle im Mai und November, und jedes bringt einen neuen Kernel-Build derselben Linie. Die NVIDIA-Listen folgen den Minor-Releases: Der GPU Operator nennt RHEL 9.2, 9.4, 9.6, 9.7 und 9.8 sowie 10.0 bis 10.2, NVIDIA AI Enterprise 8.2 nennt 9.4, 9.6, 10.0 und 10.2 für Kubernetes auf Bare Metal. Seit GPU Operator 26.7.0 tragen die Images der Treiber-Container für RHEL und Rocky Linux das Major-Release im Tag, etwa rhel9 oder rocky10, und die nicht vorkompilierten Treiber-Container für RHEL 9 gibt es nur für x86.

Wer länger auf einem Minor-Release bleiben will, nutzt Red Hats ELCP, das Extended Update Support ablöst: sechs Jahre ab allgemeiner Verfügbarkeit für die geraden Minor-Releases .2, .4, .6 und .8 und neun Jahre für .10. Ein GPU-Server auf einem geraden Minor-Release, das NVIDIA nennt, etwa 9.6, kann dann auf einen geplanten Wechsel warten, statt jedem Release zu folgen.

RHEL ist auch die Basis von Red Hats KI-Stack: Der Red Hat AI Inference Server braucht RHEL 9.2 oder neuer, und OpenShift-Worker laufen auf Red Hat Enterprise Linux CoreOS, wie unser Leitfaden zu OpenShift AI auf GPU-Servern zeigt. Ein RHEL-Server braucht eine Red-Hat-Subscription.

Rocky Linux: dieselben Kernel, kein Enterprise-Support von NVIDIA

Rocky Linux baut RHEL nach und folgt dessen Kerneln: Die CUDA-13.4-Tabelle führt Rocky 9.8 mit Kernel 5.14.0-687.15 und Rocky 10.2 mit 6.12.0-211, dieselben wie RHEL 9.8 und 10.2. CUDA und der GPU Operator unterstützen es, cryoSPARC empfiehlt Rocky Linux 8, 9 und 10 neben Ubuntu, und Rocky Linux nennt als Lebensende für Rocky 8 den 31. Mai 2029 und für Rocky 9 den 31. Mai 2032. Die Rocky-Versionsseite, die wir gelesen haben, hat keine Zeile für Rocky 10.

Zwei Punkte trennen es auf einem GPU-Server von RHEL. NVIDIA AI Enterprise 8.2 nennt Rocky Linux nicht, weder auf Bare Metal noch als Hypervisor; ein Server, dessen NVIDIA-Software unter einer AI-Enterprise-Lizenz läuft, gehört also auf RHEL oder Ubuntu. Und Rocky-Minor-Releases sind kurzlebig: Die Versionsseite gibt Rocky 9.5, erschienen am 19. November 2024, ein Lebensende im Mai 2025. Ein Rocky-GPU-Server folgt daher den Minor-Upgrades und mit ihnen der NVIDIA-Liste für das jeweilige Release. Rocky passt zu Forschungs- und Rechenservern, deren Software allein CUDA voraussetzt und deren Team bereits RHEL-ähnliche Systeme betreibt.

vGPU-Hosts: RHEL KVM oder Ubuntu

Ein Server, der vGPU-VMs bereitstellt, braucht einen Hypervisor aus NVIDIAs vGPU-Matrix. Bei den Linux-Hosts nennt die Matrix vom 29. September 2026 RHEL KVM 8.10, 9.4, 9.6, 9.8 und 10.0 bis 10.2, wobei 9.8 und 10.2 mit vGPU 20.2 hinzukamen und 9.7 nur für 20.0 und 20.1 gilt, sowie Ubuntu 20.04 bis 26.04 LTS. Die RTX PRO 6000 und RTX PRO 4500 Blackwell Server Edition, die L40S und die L4 stehen auf beiden Seiten. Die RTX PRO 5000 Blackwell Workstation Edition 72 GB erscheint nur unter RHEL KVM 9.6, seit Release 20.2, die H200 NVL auf keiner der beiden Seiten.

NVIDIA AI Enterprise 8.2 unterstützt die Hypervisoren RHEL KVM, Ubuntu und Nutanix AHV nur auf einem Knoten. VMware ESXi 8.0 und 9.0 stehen ohne diese Einschränkung auf der Liste; unser Artikel zu GPUs in vSphere, Passthrough oder vGPU behandelt diesen Weg.

Kubernetes-Distributionen und Container-Laufzeiten

Unter Kubernetes grenzt die Plattformseite des GPU Operators die Wahl je Distribution ein. Upstream-Kubernetes 1.33 bis 1.37 wird auf allen oben genannten Systemen unterstützt. Rancher RKE2 deckt Ubuntu sowie RHEL 9 und 10 ab, nicht RHEL 8; K3s, Mirantis k0s und Canonical MicroK8s sind nur für Ubuntu gelistet. Bei der Container-Laufzeit steht containerd 2.0 bis 2.3 für Ubuntu sowie RHEL 8 und 9 auf der Liste, CRI-O für Ubuntu 22.04 und 24.04 sowie RHEL 8 und 9, nicht für Ubuntu 26.04. NVIDIA AI Enterprise 8.2 nennt Upstream-Kubernetes 1.32 bis 1.36, ein Release hinter dem Operator; den Serving-Stack auf einem solchen Cluster behandelt unser Artikel zur privaten LLM-Plattform auf Kubernetes.

Kernel-Updates brauchen auf jeder Distribution eine Regel. Für Ubuntu 22.04 empfiehlt NVIDIAs Plattformseite, Kernel-Updates über unattended-upgrades abzuschalten, damit ein Knoten nicht auf einen Kernel wechselt, den die Treiber-Container nicht unterstützen. Dieselbe Logik gilt für einen auf dem Host installierten Treiber: Kernel und Treiber gemeinsam festschreiben und beide in einem Wartungsfenster aktualisieren, wie unser Leitfaden zu NVIDIA-Treiber-Branches und CUDA-Versionen erklärt. Secure Boot und signierte Kernelmodule behandelt unser Leitfaden zum NVIDIA-Treiber mit Secure Boot auf Linux-Servern.

Welches Linux für welchen GPU-Server

• Inferenz- oder Trainingsserver mit Software aus NVIDIA AI Enterprise, etwa NIM: Ubuntu 24.04 LTS oder RHEL 9 oder 10 auf einem Minor-Release, das NVIDIA nennt. Planen Sie den Wechsel weg von 24.04 vor Mai 2029 oder Ubuntu Pro ein.
• Kubernetes-GPU-Knoten ohne AI Enterprise: Ubuntu 24.04 oder 26.04 mit containerd oder RHEL; Ubuntu 26.04, sobald jeder Operator und jedes Modul auf dem Knoten es nennt. Unser Leitfaden zu Kubernetes DRA ergänzt die Anforderungen an Treiber und Laufzeit für DRA.
• Unternehmen, die auf Red Hat oder OpenShift standardisiert haben: RHEL 9 oder 10, festgeschrieben auf ein gerades Minor-Release; OpenShift-Knoten laufen auf CoreOS.
• Forschungsserver nur mit CUDA-Anwendungen: Ubuntu 24.04 oder Rocky Linux 9; prüfen Sie jede Anwendung, wie der Kernel-Hinweis von cryoSPARC zeigt.
• vGPU-Host ohne vSphere: RHEL KVM oder Ubuntu aus der vGPU-Matrix, auf einem Knoten.

Was wir liefern

Wir bauen KI-Server nach Auftrag mit RTX PRO 6000 Server Edition, H200 NVL, L40S oder L4, vor der Lieferung montiert und getestet und EU-weit mit einem Vertrag und einer Rechnung geliefert. Auf Wunsch kommen sie mit installiertem Betriebssystem, Treiber, CUDA und einer Container-Laufzeit, auf der Distribution und dem Release, das Ihr Team betreibt. Nennen Sie uns Distribution, Release und die NVIDIA-Software, die Sie lizenzieren, und unser Team antwortet innerhalb eines Werktages mit einer Konfiguration, deren Versionen auf jeder NVIDIA-Liste stehen.

FAQ