CUDA, TensorRT, NIM, vGPU: welche NVIDIA-Software kostenlos ist, was AI Enterprise braucht

Was ohne Lizenzgebühr läuft und was ein Abonnement braucht

Der größte Teil der NVIDIA-Software auf einem GPU-Server kostet im Produktivbetrieb nichts: das CUDA Toolkit, cuDNN und TensorRT unter NVIDIAs eigenen Lizenzverträgen, dazu TensorRT-LLM, Triton Inference Server, Dynamo, NCCL, der GPU Operator und DCGM als Open-Source-Projekte. NVIDIA AI Enterprise wird für drei Dinge nötig: NIM-Microservices im Produktivbetrieb, Compute-vGPU-Profile in virtuellen Maschinen und NVIDIAs Enterprise-Support mit seinen Produktions-Branches. Ein Inferenzserver für einen einzelnen Nutzerkreis, der vLLM direkt auf der Hardware betreibt, braucht überhaupt kein NVIDIA-Abonnement.

„Kostenlos“ heißt hier ohne Lizenzgebühr; die Bedingungen gelten trotzdem. Jede Komponente hat einen Lizenztext, und dieser regelt, wo die Software laufen darf, was Sie an Dritte weitergeben dürfen und welche Versionen für den Produktivbetrieb gedacht sind. Dieser Artikel geht die Texte Komponente für Komponente durch, Stand 24. Oktober 2026. Er gibt allgemeine Informationen zu den veröffentlichten Lizenztexten und ist keine rechtliche Bewertung; ob eine bestimmte Nutzung abgedeckt ist, klärt Ihre Rechtsabteilung.

Wie AI Enterprise gezählt wird, welche Laufzeiten und Support-Stufen es gibt, steht in unserem Leitfaden zur Lizenzierung von NVIDIA AI Enterprise, die Aktivierung in NVIDIA-AI-Enterprise-Lizenzen aktivieren. Dieser Artikel beantwortet die Frage davor: welcher Teil Ihres Software-Stacks die Lizenz überhaupt braucht.

Lizenz je Komponente, Oktober 2026

CUDA EULA (zuletzt aktualisiert am 26. Januar 2026, Toolkit 13.4), Lizenzseiten der cuDNN-Dokumentation (aktualisiert am 2. September 2026) und der TensorRT-11.4-Dokumentation (aktualisiert am 5. Oktober 2026), NIM General FAQ (6. August 2026) auf NVIDIAs Dokumentationsseiten; Lizenzdateien und README der NVIDIA-Repositorys auf GitHub für open-gpu-kernel-modules, TensorRT, TensorRT-LLM, Triton, Dynamo, NCCL, GPU Operator, Container Toolkit und DCGM; alle gelesen am 24. Oktober 2026. „Geführt“ heißt, dass die Komponente in NVIDIAs Beschreibung der AI-Enterprise-Plattform erscheint, die dafür NVIDIA-Support und Produktions-Branches bringt; „nicht namentlich geführt“ heißt, dass wir keinen solchen Eintrag gefunden haben.

vLLM, die Inferenz-Engine vieler solcher Server, stammt nicht von NVIDIA; ihr Repository steht unter Apache-2.0. Die Modellgewichte sind eine eigene Frage, mit Lizenzen von Apache-2.0 bis zu Texten, die die kommerzielle Nutzung einschränken oder Regionen ausschließen; unser Leitfaden zu offenen LLM-Lizenzen für Unternehmen behandelt sie.

Was die Lizenzen von CUDA, cuDNN und TensorRT erlauben

Die drei SDK-Lizenzen folgen demselben Muster. Die CUDA EULA gewährt „a non-exclusive, non-transferable license, without the right to sublicense“, also eine einfache, nicht übertragbare Lizenz zur Installation und Nutzung des SDK. Sie nennt keine Gebühr und schränkt den Produktivbetrieb freigegebener Versionen nicht ein; Vorabversionen sind „not intended for use in production or business-critical systems“. Nutzen dürfen das SDK auch „employees and contractors of your entity or of your subsidiary(ies)“, und zwar „from your secure network to perform work on your behalf“; ein Download deckt also das ganze Entwicklungsteam ab.

Auf einem Server zählen vier Bedingungen:

1. Nur NVIDIA-GPUs. Der CUDA-Zusatz hält fest: „the SDK is licensed for you to develop applications only for use in systems with NVIDIA GPUs“. Die TensorRT-Lizenz enthält dieselbe Bedingung in ihrem TensorRT-Zusatz, die cuDNN-Lizenz ebenso.
2. Weitergabe nur in der eigenen Anwendung. Was Sie an Kunden ausliefern dürfen, ist aufgelistet: bei CUDA in Anhang A der EULA (CUDA Runtime, cuBLAS, cuFFT, cuSPARSE, NVRTC und weitere Bibliotheken), bei cuDNN und TensorRT die Laufzeitdateien .so und .dll. Ihre Anwendung „must have material additional functionality, beyond the included portions of the SDK“, und das SDK darf nicht „as a stand-alone product“ verbreitet werden.
3. Entwicklerwerkzeuge bleiben intern. „Unless a developer tool is identified in this Agreement as distributable, it is delivered for your internal use only.“
4. Kritische Anwendungen sind von NVIDIAs Tests und Haftung ausgenommen. Die CUDA EULA nennt Luftfahrt, Medizin und Automotive; die Lizenzen von TensorRT und cuDNN enthalten ähnliche Formulierungen.

Für ein Unternehmen, das einen eigenen Inferenzdienst auf eigenen Servern betreibt, kostet keine dieser Bedingungen etwas. Sie werden wichtig, sobald Software weitergegeben wird: ein Produkt mit CUDA-Bibliotheken, das an Kunden geht, oder ein Container-Image, das außerhalb des Unternehmens veröffentlicht wird.

Der Treiber hat eine eigene Lizenz. NVIDIAs Treiber-Lizenzvertrag vom 25. Februar 2025 erlaubt den Einsatz „for your own use“ auf Infrastruktur, die Sie besitzen oder mieten, schließt „commercial hosting services with the SOFTWARE“ aus, soweit der Vertrag sie nicht gewährt, und nimmt GeForce- und Titan-Software vom Einsatz im Rechenzentrum aus, wie unser Artikel zu GeForce-Karten im Server vollständig zitiert. Die Kernelmodule selbst sind Open Source: NVIDIAs Repository open-gpu-kernel-modules lizenziert die Dateien unter MIT und das gebaute Kernelmodul unter MIT/GPLv2, während die User-Space-Komponenten des Treibers und die GSP-Firmware aus dem passenden NVIDIA-Treiberrelease kommen.

Open-Source-Projekte von NVIDIA

Einen großen Teil des Inferenz-Stacks veröffentlicht NVIDIA unter Open-Source-Lizenzen, mit dem Quellcode auf GitHub.

Lizenzangaben und LICENSE-Dateien der GitHub-Repositorys NVIDIA/TensorRT-LLM, triton-inference-server/server, ai-dynamo/dynamo, NVIDIA/nccl, NVIDIA/gpu-operator, NVIDIA/nvidia-container-toolkit und NVIDIA/DCGM, gelesen am 24. Oktober 2026. Das README von Triton nennt 2.73.0 (Container 26.09) als aktuelles Release.

Zwei dieser Projekte sagen, woher Enterprise-Support kommt. Das README von Triton hält fest, dass Triton Teil von NVIDIA AI Enterprise ist; darüber gilt: „NVIDIA global support is available for Triton Inference Server“. Die Software ist mit und ohne Abonnement dieselbe; das Abonnement kauft den Supportvertrag und die Produktions-Branches mit stabilen APIs und Sicherheitspatches. Das Repository von Dynamo nennt ein Community-Forum und Slack für Hilfe und erwähnt AI Enterprise nicht.

Das TensorRT-Repository auf GitHub enthält nur die offenen Teile: „the sources for TensorRT plugins and ONNX parser, as well as sample applications“, beschrieben als „a subset of the TensorRT General Availability (GA) release“. Zum Bauen braucht man das GA-Release (die Build-Anleitung des Repositorys nennt 11.2.1.2, die TensorRT-Dokumentation stand am 24. Oktober 2026 bei 11.4.0), das NVIDIA über seine Entwicklerseite unter der oben genannten TensorRT-Lizenz verteilt. Die Frage nach der TensorRT-Lizenz hat deshalb zwei Antworten: Apache-2.0 für das, was auf GitHub liegt, NVIDIAs Lizenzvertrag für die Kernbibliothek.

NIM: ohne Gebühr in der Entwicklung, mit AI Enterprise im Produktivbetrieb

Bei NIM liegen „kostenlos“ und „lizenziert“ am engsten beieinander. NVIDIAs NIM General FAQ, zuletzt geändert am 6. August 2026, gibt Mitgliedern des NVIDIA Developer Program, dessen Mitgliedschaft nichts kostet, zweierlei: Zugang zu NIM-API-Endpunkten für Prototypen und das Recht, NIM herunterzuladen und selbst zu betreiben, „for research, application development, and experimentation“, auf bis zu 16 GPUs. Produktivbetrieb definiert die FAQ als „any use of NIM for purposes other than development, testing, research or evaluation“, und sie hält fest: „Using NIM in production requires an NVIDIA AI Enterprise license.“ NVIDIA ergänzt: „Pricing is based on the number of GPUs, not the number of NIMs.“ Eine Lizenz je GPU deckt also alle NIMs auf dieser GPU ab.

Für den Schritt in den Produktivbetrieb verweist die FAQ auf eine 90-tägige AI-Enterprise-Testlizenz; sie sei „designed for production deployments and includes a license for commercial use“. NVIDIAs Einstiegsseite zu AI Enterprise gibt an, dass diese Testlizenz Omniverse enthält, Run:ai aber nicht.

NVIDIAs Übersichtsseite zu den NIM-Angeboten führt den NIM Certified Feature Branch „at no charge under the applicable license terms“, was sich schlecht mit der Produktivregel der FAQ verträgt. Unser Leitfaden zu den Anforderungen von NVIDIA NIM stellt dar, wie die beiden Dokumente voneinander abweichen und warum im Angebot stehen sollte, auf welchem NIM-Angebot und welcher Lizenz ein Produktivserver beruht. Für die Planung ist die Lesart der FAQ die sichere: Ein NIM, das Mitarbeitende oder Kunden bedient, braucht AI Enterprise auf jeder GPU, auf der es läuft.

Die offene Alternative zu NIM ist, dieselben Modelle direkt mit vLLM, SGLang oder TensorRT-LLM zu betreiben, wie unser Vergleich von vLLM, SGLang, TensorRT-LLM und Ollama zeigt. NIM bündelt eine Engine, optimierte Profile und NVIDIAs Validierung; die Engines darunter tragen die Open-Source-Lizenzen aus der Tabelle oben. Wir liefern GPU-Server für beide Wege und nehmen die Lizenzen ins selbe Angebot auf; nennen Sie uns die Modelle, die Sie betreiben wollen, und ob NIM geplant ist, und unser Team antwortet mit der Konfiguration und den Lizenzpositionen, die sie braucht.

Compute-vGPU: die Lizenz, die der Treiber durchsetzt

Bei virtuellen Maschinen ändert sich das Bild. NVIDIAs vGPU-Produkt umfasst die Grafikprofile: Q-Serie unter RTX vWS, B-Serie unter vPC und A-Serie unter vApps, Editionen, die unser Leitfaden zur vGPU-Lizenzierung mit RTX vWS, vPC und vApps erklärt. Compute-Profile, die C-Serien-Typen wie DC-24C auf der RTX PRO 6000 Server Edition, gibt es nur mit NVIDIA AI Enterprise, lizenziert je physischer GPU. NVIDIAs Release Notes für vSphere fassen es in einem Satz: „C-series vGPU types are not available. Instead, NVIDIA vGPU for Compute is supported with NVIDIA AI Enterprise.“

Dieser Teil hört ohne Lizenz auf zu funktionieren. Eine Compute-vGPU bezieht beim Start der VM eine Lizenz vom NVIDIA License System; ohne Lizenz läuft sie 20 Minuten mit voller Leistung und fällt dann auf ein Leerlaufniveau der Rechenleistung zurück, wie unser Lizenzleitfaden beschreibt. Grafik-vGPU-Profile werden unter ihren eigenen Lizenzen ebenso durchgesetzt. Alles andere in diesem Artikel läuft unabhängig vom Lizenzstatus weiter, weil es auf Bare Metal und in Containern keinen Lizenzserver gibt, den die Software fragen müsste. Die Optionen für den Lizenzserver, den Cloud-Dienst und die delegierte Appliance für abgeschottete Netze, beschreibt unser Artikel zum NVIDIA-vGPU-Lizenzserver.

MIG auf Bare Metal braucht keine Lizenz: Eine RTX PRO 6000 in vier Instanzen zu 24 GB für vier Container aufzuteilen, ist eine Funktion des Treibers. Werden MIG-Instanzen an getrennte VMs übergeben, sind es MIG-basierte vGPUs, und dann gelten wieder die vGPU-Lizenzregeln. Beim Passthrough einer ganzen Karte an eine VM läuft im Gast der normale Rechenzentrumstreiber; NVIDIA verlangt eine Lizenz erst, wenn in dieser VM AI-Enterprise-Software läuft, etwa ein NIM im Produktivbetrieb.

Drei GPU-Server und die Lizenzen, die sie brauchen

NVIDIAs Lizenzleitfaden, zuletzt aktualisiert am 2. September 2026, zählt AI Enterprise je GPU: „A software license is required for every GPU installed on the server or workstation“, bei Boards mit mehreren GPUs eine Lizenz je GPU. Die Beispiele nutzen die Referenz­konfigurationen auf unserer Seite KI-Server.

NVIDIA AI Enterprise Licensing Guide (2. September 2026) und NIM General FAQ (6. August 2026), gelesen am 24. Oktober 2026; die Zuordnung der Lizenzen zu den Beispiel-Stacks ist unsere Lesart dieser Dokumente.

Der Einstiegsserver ist der häufige Fall. Zwei Karten, eine Open-Source-Engine und ein Team: Die Lizenzverträge von Treiber, CUDA und Engine sind alles, was er braucht. Ein Abonnement brächte NVIDIA-Support bei einem Treiberfehler im Produktivbetrieb und Zugang zu den Produktions-Branches, was manche IT-Abteilungen für jede eingesetzte Software verlangen.

Beim Server mit vier Karten entscheidet die Software. Dieselbe Maschine braucht mit vLLM nichts; mit NIM für 300 Mitarbeitende braucht sie vier Lizenzen, als Virtualisierungshost mit Compute-vGPUs für zwölf Data Scientists ebenfalls vier, unabhängig davon, wie viele VMs sich die Karten teilen. Läuft ein solcher Host unter Proxmox VE, beachten Sie, dass Proxmox NVIDIA AI Enterprise auf seiner Plattform als nicht offiziell unterstützt dokumentiert, wie unser Leitfaden zu NVIDIA vGPU unter Proxmox VE erklärt.

Der Server mit acht H200 NVL ist die Ausnahme, die Vergleiche verschiebt. „Each NVIDIA H200 NVL Tensor Core GPU includes a five-year NVIDIA AI Enterprise subscription“, so der Lizenzleitfaden, der die Laufzeit mit „the ship date of the GPU board to the OEM partner, plus 90 days“ beginnen lässt, ein Datum, das sich nicht ändern lässt. Das Abonnement muss aktiviert werden und darf nur auf dem NVIDIA-Certified System installiert werden, in dem die GPUs stecken. H100 PCIe und H100 NVL enthalten ebenfalls fünf Jahre, die A800 40 GB Active drei; für die RTX PRO 6000 und RTX PRO 4500 Server Edition, die L40S und die L4 nennt der Leitfaden kein Abonnement.

Support, Produktions-Branches und zertifizierte Server

Was AI Enterprise über NIM und Compute-vGPU hinaus bringt, betrifft vor allem den Betrieb. Der Lizenzleitfaden schließt bei Abonnements Business Standard Support ein und bietet Business Critical gegen Aufpreis an. Das Abonnement gibt Zugang zu Produktions- und Langzeit-Branches mit stabilen APIs und regelmäßigen Sicherheitspatches, während die offenen Releases in kürzeren Abständen weiterziehen; unser Artikel zu NVIDIA-Treiber-Branches und CUDA-Versionen zeigt, wie diese Branches zusammenhängen.

Der Support ist an die Hardware gebunden. NVIDIAs Support-Matrix für AI Enterprise 8.2, aktualisiert am 2. September 2026, hält fest, dass ihre GPUs „are supported with servers listed on the NVIDIA-Certified Systems“, und führt die RTX PRO 6000 und RTX PRO 4500 Server Edition, die L40S, die L4 und die H200 NVL. Ein Abonnement auf einem Server außerhalb dieser Liste hat keinen Supportweg; prüfen Sie das Servermodell deshalb gegen NVIDIAs Liste, bevor das Abonnement bestellt wird.

Die Entscheidung folgt aus dem Stack. Mit Bare Metal, Open-Source-Engines und einem eigenen Team, das die Treiber-Updates übernimmt, ist die Lizenz optional. Mit NIM im Produktivbetrieb, Compute-vGPU in VMs oder einer internen Vorgabe, dass Produktivsoftware Herstellersupport haben muss, ist sie Pflicht, je GPU, für jede GPU im Server. Wenn ein Projekt unklar ist, beschreiben Sie GPUs, Hypervisor und Serving-Stack, und wir sagen Ihnen, welche Positionen das Angebot braucht und welche nicht.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team legt die Konfiguration passend zu Ihrer Last und Ihrem Budget aus und antwortet innerhalb eines Werktages. Wir bauen KI-Server nach Auftrag mit RTX PRO 6000 Server Edition, RTX PRO 4500 Server Edition, L40S, L4 oder H200 NVL, vor der Lieferung montiert und getestet, mit Herstellergarantie auf jede Komponente, mit einem EU-Vertrag und einer Rechnung. Auf Wunsch kommt der Server mit installiertem Betriebssystem, Treibern, CUDA und Container-Laufzeit. Lizenzen für NVIDIA AI Enterprise und vGPU stehen im selben Angebot wie die Hardware, und bei H200-NVL-Karten nennt das Angebot das enthaltene Abonnement. Modelle, Retrieval und die Plattform darüber sind unser Service Private AI/ML.

FAQ