NVIDIA vGPU unter Proxmox VE: RTX PRO Server Edition, L40S, L4 einrichten, lizenzieren

Welche Karten NVIDIA vGPU unter Proxmox VE betreiben

NVIDIA unterstützt vGPU unter Proxmox VE unter anderem für die RTX PRO 6000 Blackwell Server Edition, die RTX PRO 4500 Blackwell Server Edition, die L40S und die L4: Die Seite der validierten Plattformen für vGPU R595 unter Linux mit KVM, aktualisiert am 29. September 2026, nennt Proxmox VE als unterstützte Plattform und diese GPUs als unterstützte Geräte. Die H200 NVL sowie die Workstation- und Max-Q-Edition der RTX PRO 6000 stehen nicht auf dieser Liste und kommen per Passthrough der ganzen Karte in eine VM. Grafikprofile unter RTX vWS, vPC und vApps sind der unterstützte Fall; NVIDIA AI Enterprise mit seinen Compute-Profilen ist nach Proxmox' eigenen Worten „currently not officially supported with Proxmox VE“.

NVIDIA Virtual GPU Software R595 for Linux with KVM, Validated Platforms und Release Notes (20.0 bis 20.2), aktualisiert am 29. September 2026; Proxmox-Wiki „NVIDIA vGPU on Proxmox VE“, zuletzt bearbeitet am 13. August 2026; MIG-Anzahlen aus NVIDIAs MIG-Leitfaden, wie in unseren MIG-Artikeln zitiert; alle gelesen am 24. Oktober 2026.

Die RTX PRO 5000 Blackwell mit 72 GB steht auf NVIDIAs vGPU-Liste nur für Red Hat Enterprise Linux mit KVM 9.6, nicht auf der Seite für Linux mit KVM, und ist damit keine vGPU-Karte für Proxmox. NVIDIAs Seite der validierten Plattformen für Red Hat Enterprise Linux mit KVM hält fest, dass L40S und RTX PRO 6000 Server Edition im Display-off-Modus ausgeliefert werden und darin betrieben werden müssen; das ist der Werkszustand beider passiv gekühlter Karten.

Dieser Artikel behandelt den vGPU-Betrieb unter Proxmox mit den Karten, die wir liefern. Die Profiltabellen je Karte stehen in unseren Leitfäden zu den vGPU-Profilen der RTX PRO 6000 Server Edition, den vGPU-Profilen der RTX PRO 4500 Server Edition und den vGPU-Profilen der L40S, dieselbe Entscheidung unter vSphere in GPUs in VMware vSphere: Passthrough oder vGPU.

Wer was unterstützt: NVIDIA, Proxmox und das Abonnement

NVIDIA führt Proxmox als eine von mehreren Plattformen mit Linux und KVM, neben Nutanix AHV, SUSE Linux Enterprise Server, Red Hat OpenStack Platform und weiteren. Die Support-Matrix dieser Kategorie hält fest, dass „NVIDIA vGPU software is supported on Linux with KVM platforms only by specific hypervisor software vendors“, nennt keine Versionsnummern und rät: „consult the documentation from your hypervisor vendor“. Die Seite der validierten Plattformen ergänzt: „For NVIDIA vGPU software support, contact your Linux with KVM hypervisor vendor.“ Für Proxmox verlinkt sie den Wiki-Artikel von Proxmox zu NVIDIA vGPU.

Der Wiki-Artikel legt die Bedingungen auf der Seite von Proxmox fest. „Beginning with NVIDIA vGPU Software 18, Proxmox Virtual Environment is an officially supported platform.“ Ein Supportticket setzt „an active and valid Proxmox VE subscription on your cluster“ der Stufe Basic, Standard oder Premium voraus, dazu eine aktive NVIDIA-vGPU-Berechtigung. Auch das Enterprise-Repository braucht ein gültiges Abonnement je Knoten; das No-Subscription-Repository ist für Evaluierung und Nicht-Produktivbetrieb gedacht. Für einen Host im Unternehmen, der Desktops oder GPU-VMs für Mitarbeitende bereitstellt, planen Sie beide Positionen ein: das Proxmox-Abonnement für jeden Knoten und die NVIDIA-Lizenzen für die Nutzer oder GPUs.

Getestete Versionen von Proxmox VE und vGPU

Weil NVIDIA die Versionsfrage an den Hypervisor-Hersteller abgibt, ist die Tabelle im Proxmox-Wiki die Referenz dafür, welcher Kernel und welcher Host-Treiber zusammengehören. Die drei aktuellen Zeilen, Stand 13. August 2026:

Proxmox-Wiki „NVIDIA vGPU on Proxmox VE“, unterstützte Kombinationen, zuletzt bearbeitet am 13. August 2026; die Zeile 8.4.1 nennt zusätzlich die Kernel 6.11.11-2-pve und 6.14.5-1-bpo12-pve. Gelesen am 24. Oktober 2026.

Das Wiki merkt an, dass neuere Releases innerhalb eines Branches auch auf demselben oder einem älteren Kernel funktionieren sollten. Das ist für die Sicherheit wichtig. NVIDIAs Bulletin vom 30. September 2026 führt vGPU-Releases bis 19.5 und 20.1 als betroffen von CVE-2026-47489, 19.6 und 20.2 sind also die ersten korrigierten Releases, wie unser Artikel zu NVIDIA-Treiber-Branches und CUDA-Versionen darstellt. Ein Host auf der Zeile mit 19.5 sollte innerhalb desselben Branches auf 19.6 wechseln.

Welcher Branch passt, hängt von der Karte ab. Laut NVIDIAs vGPU-Release-Tabelle hat vGPU 19 auf dem Treiber-Branch R580 Langzeitsupport bis Juli 2028, vGPU 20 auf R595 Produktionssupport bis März 2027. Die RTX PRO 6000 Server Edition läuft auf beiden. Die RTX PRO 4500 Server Edition und die flüssiggekühlte RTX PRO 6000 Server Edition kamen mit Release 20.0; ein Proxmox-Host mit diesen Karten bleibt also auf dem kürzeren vGPU-20-Branch, bis NVIDIA dessen Nachfolger benennt.

Den Proxmox-Host vorbereiten

Die Firmware-Einstellungen sind dieselben wie bei jedem vGPU-Host. Das Wiki nennt VT-d bei Intel oder AMD-V bei AMD, beides auch als IOMMU bezeichnet; SR-IOV; Above 4G Decoding; und Alternative Routing ID Interpretation (ARI), die GPUs ab Ampere brauchen. Alle vier Karten aus der Tabelle oben sind Ada- oder Blackwell-Karten, es gelten also alle vier Einstellungen.

Auf der Softwareseite liefert Proxmox ein Hilfswerkzeug mit. pve-nvidia-vgpu-helper ist ab pve-manager 8.3.4 enthalten; pve-nvidia-vgpu-helper setup sperrt den Nouveau-Treiber, installiert die Kernel-Header und richtet DKMS ein. Der Host-Treiber ist NVIDIAs vGPU Manager für Linux KVM, heruntergeladen wie in NVIDIAs vGPU-Schnellstartanleitung beschrieben („Choose Linux KVM as target hypervisor when downloading“, so das Wiki) und mit der Option --dkms installiert, damit er bei jedem Kernel-Update neu gebaut wird. Bei Hosts mit Secure Boot muss das Modul signiert und der Schlüssel an der Konsole registriert werden, bei einem Server also über die Remote-Konsole des BMC; unser Leitfaden zum NVIDIA-Treiber mit Secure Boot auf Linux-Servern beschreibt den Umgang mit den Schlüsseln.

Ab Ampere entstehen vGPUs auf virtuellen SR-IOV-Funktionen, die vor der Nutzung von vGPU aktiviert sein müssen. NVIDIAs Skript sriov-manage erledigt das bis zum nächsten Neustart; dauerhaft geht es unter Proxmox mit dem systemd-Dienst pve-nvidia-sriov@ALL.service, einmal aktiviert, oder mit einer PCI-Adresse statt ALL für eine einzelne Karte. lspci -d 10de: zeigt dann die virtuellen Funktionen neben der physischen GPU.

Wir liefern die RTX PRO 6000 und 4500 Server Edition, die L40S und die L4 als Karten oder in Servern nach Auftrag; senden Sie uns Knotenzahl, Version von Proxmox VE und Nutzer je Host, und unser Team antwortet mit Karten und Lizenzpositionen.

Einer VM ihre vGPU zuweisen

In der Weboberfläche werden die virtuellen Funktionen zu einem Resource Mapping unter Datacenter, Resource Mappings, mit aktivierter Option „Use with mediated devices“; beim Start der VM nimmt Proxmox die erste freie Funktion. Auf der Kommandozeile hängt qm set eine Funktion als hostpci0 mit einem mdev=-Typ wie nvidia-660 an, und pvesh get auf das Mapping listet die Typen, die der Treiber gerade anbietet; diese können sich mit dem ändern, was bereits auf der Karte läuft. Die VM muss heruntergefahren sein, während die vGPU hinzugefügt wird.

Drei Details aus dem Wiki sparen in der Praxis Zeit. Die eingebaute noVNC- und SPICE-Konsole kann die Anzeige der vGPU nicht darstellen, eine Grafik-VM braucht deshalb Remote-Desktop-Software im Gast. Der Gasttreiber muss laut NVIDIAs Kompatibilitätstabellen zum Host-Treiber passen, und in Linux-Gästen muss das CUDA Toolkit unter Umständen separat installiert werden. Und der Windows-Schnellstart führt beim nächsten Start zu einem Bluescreen mit deaktivierter vGPU; in Desktop-Images wird er deshalb abgeschaltet.

MIG-basierte vGPU auf der RTX PRO 6000 Server Edition

Das Wiki dokumentiert MIG-basierte vGPU auf der RTX PRO 6000 Server Edition mit zwei Einschränkungen: „MIG instances must be created and managed manually from the CLI“, und die Platzierung der vGPUs übernimmt der Treiber, sie lässt sich nicht ändern. MIG wird je GPU mit nvidia-smi -i 0 -mig 1 eingeschaltet, die verfügbaren Instanzprofile zeigt nvidia-smi mig -lgip, und Grafik-vGPUs brauchen die Profile mit der Endung +gfx; das Beispiel im Wiki legt vier davon mit nvidia-smi mig -cgi 47,47,47,47 -C an. Manche Profile gibt es nur mit MIG: Das Wiki nennt ein vWS-Profil mit 2 GB.

Vier MIG-Instanzen zu 24 GB geben vier VMs vollständig getrennte Rechenleistung und Speicherbandbreite; Time-Slicing innerhalb der Instanzen erhöht die Zahl, laut NVIDIAs vPC-Sizing-Guide auf bis zu 48 Office-Desktops je Karte mit 2-GB-Profilen, gegenüber 32 mit Time-Slicing über die ganze Karte. Unser Leitfaden zu MIG- und vGPU-VMs je Karte enthält die Zahlen für jede Karte. Die RTX PRO 4500 Server Edition lässt sich in zwei MIG-Hälften zu 16 GB teilen, der MIG-Abschnitt des Wikis wurde aber nur auf der RTX PRO 6000 Server Edition getestet; L40S und L4 haben kein MIG und laufen mit Time-Slicing-Profilen, laut NVIDIAs User Guide von L40S-1Q (32 je Karte) bis L40S-48Q (eines je Karte).

Lizenzen unter Proxmox: vWS, vPC, vApps und kein AI Enterprise

Unter Proxmox folgt die Lizenz wie bei jedem Hypervisor der vGPU-Serie. Profile der Q-Serie brauchen RTX vWS, die B-Serie vPC oder vWS und die A-Serie vApps, laut NVIDIAs vGPU User Guide; die Editionen, wie NVIDIA sie zählt und ihre Laufzeiten, beschreibt unser Leitfaden zur NVIDIA-vGPU-Lizenzierung mit RTX vWS, vPC und vApps. Der Gast bezieht seine Lizenz vom NVIDIA License System, entweder vom Cloud-Dienst oder von einer Delegated-License-Service-Appliance im eigenen Netz, wie unser Artikel zum NVIDIA-vGPU-Lizenzserver erklärt. Das Wiki ergänzt eine Falle, die speziell Proxmox betrifft: Die Uhr des Gasts muss per NTP synchronisiert sein, sonst kann der Gast keine Lizenz anfordern.

Die Lücke sind die Compute-Profile. Die Typen der C-Serie, etwa DC-24C auf der RTX PRO 6000 Server Edition, gehören zu NVIDIA AI Enterprise, lizenziert je GPU. Das Proxmox-Wiki schreibt, dass sich AI-Enterprise-Treiber ähnlich wie vGPU-Treiber verhalten und dieselben Schritte gelten sollten, aber auch: „NVIDIA AI Enterprise is currently not officially supported with Proxmox VE“; NVIDIAs Support-Matrix für AI Enterprise 8.2 nennt vSphere, Red Hat Enterprise Linux mit KVM, Ubuntu, Nutanix AHV und Red Hat OpenStack, nicht Proxmox. Ein Proxmox-Cluster für Data Scientists oder Inferenz-VMs hat damit zwei unterstützte Wege: ganze Karten per Passthrough mit dem Rechenzentrumstreiber im Gast oder vWS-Profile der Q-Serie, die NVIDIAs vGPU-Lizenzierung für CUDA-Arbeit in einer virtuellen Workstation abdeckt, wie unser Leitfaden zur AI-Enterprise-Lizenzierung festhält. Welche NVIDIA-Software überhaupt AI Enterprise braucht, steht in unserer Übersicht kostenlose NVIDIA-Software und AI Enterprise.

Live-Migration und Wartung

Proxmox VE 8.4, erschienen am 9. April 2025, brachte die Live-Migration laufender VMs, „which have mediated devices such as NVIDIA vGPU in use“, sofern „hardware and driver support for live migration is equally available on the target node“. NVIDIAs eigene Bedingungen kommen hinzu: Das Ziel braucht dasselbe GPU-Modell und einen Treiber aus demselben Release-Branch, gleich oder neuer, und eine VM kann nicht zwischen verschiedenen MIG-Profilen wechseln, wie unser Leitfaden zu MIG und vGPU je Karte zusammenfasst. In der Praxis heißt das: zuerst den Zielhost aktualisieren, einen Kartentyp je Cluster oder je HA-Bereich halten und auf einem anderen Knoten freie vGPU-Kapazität jedes Typs für die Wartung vorhalten.

GPU-Passthrough oder vGPU unter Proxmox

Passthrough übergibt die ganze Karte über VFIO an eine VM, und der Gast nutzt den normalen NVIDIA-Treiber. Unter Proxmox ist das der einzige Weg für die H200 NVL und für die Workstation- und Max-Q-Edition der RTX PRO 6000, und der einfachere für eine VM, die eine ganze 96-GB-Karte für ein Modell oder mehrere Karten für Tensor-Parallelismus braucht. Passthrough braucht keine vGPU-Lizenz; AI-Enterprise-Software in der VM, etwa NIM im Produktivbetrieb, braucht weiterhin ihre Lizenz je GPU. Passthrough auf Hosts mit mehreren Karten hat eigene bekannte Probleme: Ein Thread im Proxmox-Forum aus dem Jahr 2025 berichtet von Hängern und fehlgeschlagenen Resets nach dem Herunterfahren des Gasts, am stärksten bei der Max-Q, wie unser Artikel zur RTX PRO 6000 Max-Q in virtuellen Maschinen beschreibt.

Für viele kleine Desktops oder Entwicklungs-VMs passt vGPU besser, für wenige große Compute-VMs Passthrough. Ein Cluster kann beides auf getrennten Karten oder Hosts betreiben, weil eine Karte entweder durchgereicht wird oder vGPUs hostet, nicht beides gleichzeitig. Wenn Sie einen Proxmox-GPU-Cluster planen, beschreiben Sie die VM-Typen und wie viele es von jedem gibt, und wir schlagen Karten, Hosts und Lizenzen je Typ vor.

Was wir liefern

Wir liefern die RTX PRO 6000 Server Edition, die RTX PRO 4500 Server Edition, die L40S und die L4 als Karten mit Herstellergarantie und bauen sie in KI-Server nach Auftrag ein, vor der Lieferung montiert und getestet, auf Wunsch mit installiertem Betriebssystem, Treibern, CUDA und Container-Laufzeit. vGPU- und NVIDIA-AI-Enterprise-Lizenzen stehen im selben Angebot und auf derselben Rechnung wie die Hardware, wie unsere Lizenzseite erklärt; Mengen und Lieferzeit werden schriftlich mit dem Angebot bestätigt, mit einem EU-Vertrag und einer Rechnung.

FAQ