MIG und vGPU: Wie viele VMs eine Karte wirklich trägt

MIG vs. vGPU: Was geteilt wird

MIG schneidet die Karte in Hardware: Jede Instanz bekommt eigene Rechenblöcke, eigenen Speicher und eigene Speicherbandbreite – ein Nachbar auf derselben Karte kann Sie nicht beeinflussen. vGPU arbeitet anders: Alle VMs sehen dieselbe Karte und wechseln sich ab.

Es gibt auch einen Hybrid. MIG-gestützte vGPU legt eine virtuelle Karte über eine Hardware-Scheibe, und innerhalb der Scheibe gilt weiter Time-Slicing. Auf dem 48-GB-Profil war dieser Modus laut NVIDIAs Sizing-Guide rund 20% schneller als reines Time-Slicing.

Wie viele Teile jede Karte hergibt

Die Instanzzahl ist von der Architektur fixiert – keine Einstellung ändert sie. Nur Rechenzentrumskarten mit HBM teilen sich siebenfach.

H200 und A100 teilen sich in 7, die A30 in 4

Auf der RTX PRO 6000 heißen die Profile 1g.24gb (vier), 2g.48gb (zwei) und das volle 4g.96gb – jedes mit einer +gfx-Variante, also Grafik innerhalb der Scheibe. Das gab es vor Blackwell nicht. Bei Vierteilung werden aus 96 GB und 188 SM je Scheibe 23,6 GiB und 46 SM; GPT-OSS-20B liefert auf so einer Scheibe rund 80 Token pro Sekunde.

Karte, Szenario, Arbeitsplätze

48 und 12 widersprechen sich nicht: Achtundvierzig ist die Grafik-Obergrenze, zwölf die Compute-Grenze. Der Sizing-Guide ergänzt, dass der Best-Effort-Scheduler „oft eine 2–3-fache Überbuchung“ erlaubt, wenn nicht alle Nutzer gleichzeitig aktiv sind – wie weit das trägt, entscheidet die Speicherrechnung pro Session. Die Monitoring-Regel: Stößt der Videospeicher einer VM ständig an die Profilgrenze, wird das Profil vergrößert – nicht die Platzzahl.

Lizenzen: Ohne läuft die Karte 20 Minuten

Es gibt drei Produkte, lizenziert pro gleichzeitig aktivem Nutzer, nicht pro Karte – und nur eine RTX-PRO-6000-Version unterstützt vGPU überhaupt. vApps streamt Anwendungen: ein Display, 1280×1024, A-Profile. vPC sind virtuelle Desktops: bis zu vier Displays mit 2560×1600 oder eines mit 5120×2880, B-Profile, kein CUDA. vWS ist CAD und Entwicklung: bis 7680×4320, Q-Profile, CUDA, mehrere vGPUs pro VM. NVIDIAs historische Listenpreise setzen vWS bei etwa dem Fünffachen von vPC und dem Fünfundzwanzigfachen von vApps an – ein Produktfehler kostet mehr als ein Kartenfehler.

Compute-C-Profile gehören nicht zu diesem Trio: Sie leben nur in NVIDIA AI Enterprise, lizenziert pro GPU im Server, nicht pro Nutzer. Direkt gefragt, ob vWS/vPC/vApps in AI Enterprise enthalten sind, antwortete NVIDIA: nein – nur C-Profile. Eine gemischte Flotte bedeutet zwei Beschaffungen.

Fällt die Lizenz weg, kommt die Degradierung zweistufig: zwanzig Minuten volle Geschwindigkeit, dann eine Begrenzung auf 15 fps mit eingeschränkter CUDA-Leistung; nach 24 Stunden sinkt die Grenze auf 3 fps, und CUDA funktioniert nicht mehr. Nach der Wiederverbindung heben sich die Limits – aber Anwendungen müssen unter Umständen neu gestartet werden.

Hypervisoren

Zwei Details kippen Pläne am häufigsten. Auf Proxmox werden MIG-Instanzen von Hand per CLI angelegt, das vGPU-Layout über die Scheiben lässt sich nicht ändern, und AI Enterprise ist dort nicht offiziell unterstützt. Live-Migration verlangt dasselbe GPU-Modell auf beiden Hosts und einen Zieltreiber aus demselben Release-Zweig in derselben oder einer neueren Version (nie einer älteren) – und funktioniert nie zwischen unterschiedlichen MIG-Profilen.

Was in der Praxis bricht

Die längste Saga gehört der RTX PRO 6000 Blackwell. Karten wurden mit vBIOS 98.02.52.00.02 ausgeliefert, während MIG 98.02.55.00.00 verlangt – das es zum Launch nicht gab. Besitzer bekamen „Unable to enable MIG Mode: Not Supported“ und stellten im Forum die naheliegende Frage. Die funktionierende Prozedur: vBIOS über den Lieferanten aktualisieren, die Karte mit dem DisplayModeSelector in den Compute-Modus schalten, dann Profile zuweisen. Fragen Sie vor der Zahlung nach der Firmware-Version.

Der Compute-Modus hat Folgen. In einer Workstation, in der die Karte auch den Monitor treibt, wird der Videoausgang dunkel. BAR1 wächst von 256 MB auf 64 GB zusammenhängenden Adressraum – und das Mainboard muss ihn zuteilen können.

Das wichtigste Editions-Limit: Alle drei RTX-PRO-6000-Editionen können MIG, aber nur die Server Edition unterstützt vGPU. Eine Workstation-Karte kann sich in vier Scheiben für lokale Container teilen – sie kann sie nicht an virtuelle Maschinen übergeben. Limits aller Karten: kein Peer-to-Peer zwischen MIG-Instanzen auf verschiedenen GPUs (seit Treiber R570 funktioniert P2P zwischen Instanzen derselben GPU), GPUDirect RDMA funktioniert aus einer GPU-Instanz heraus, NCCL funktioniert mit MIG nicht. NVIDIA sagt es klar: MIG ist für Workloads, die keine ganze GPU brauchen. Nur Linux mit CUDA.

Macht das Teilen schneller?

Hängt davon ab, ob eine Aufgabe die Karte sättigt. Wenn nicht, erhöht die Partitionierung den Gesamtdurchsatz.

Die letzte Zeile ist die wichtige: Eine Einzelaufgabe wird auf einer Scheibe schlechter, denn eine Scheibe ist buchstäblich 1/7 der Karte über alle drei Ressourcen zugleich. Der Gewinn erscheint erst mit vielen beschäftigten Scheiben – und die Skalierung ist sublinear (der MIGPerf-Benchmark zeigte: N Instanzen liefern nicht N-fachen Durchsatz). Der zweite Grund, in Hardware zu schneiden, ist Vorhersagbarkeit: In einem Test mit sieben Mandanten auf der A100 hielt ein geschützter Dienst P95 um 1.319 ms auf MIG gegenüber 2.499 ms auf geteilter Karte.

Was wir liefern

Eurokommerz liefert die RTX PRO 6000 Server Edition (die einzige Edition mit MIG und vGPU zugleich – passiv gekühlt, braucht Server-Airflow), die L40S für Time-Sliced-VDI und die RTX PRO 5000 Blackwell in 48 GB und 72 GB, wenn zwei isolierte Instanzen (je 24 GB oder rund 36 GB) genügen – EU-weit, mit Herstellergarantie.

FAQ