MIG auf Workstation-Karten der RTX PRO Blackwell: Schritt für Schritt und wieder zurück

Was jede Karte braucht

NVIDIAs MIG-Leitfaden, zuletzt aktualisiert am 11. September 2026, führt alle drei Editionen der RTX PRO 6000, die RTX PRO 5000 und die RTX PRO 4500 als MIG-fähig. MIG läuft nur unter Linux: „MIG wird nur auf Linux-Betriebssystemdistributionen unterstützt, die von CUDA unterstützt werden.“ Für die RTX PRO 6000 und 5000 verlangt der Leitfaden Treiber R575, 575.51.03 oder neuer, und für die Editionen Workstation und Max-Q sowie die RTX PRO 5000 zusätzlich ein Mindest-vBIOS und den von Grafik auf Compute umgestellten Anzeigemodus. Die RTX PRO 6000 Server Edition wird ab Werk im Display-off-Modus ausgeliefert und überspringt diesen Schritt; unser Editionsvergleich erklärt die übrigen Unterschiede.

NVIDIAs MIG-Leitfaden: unterstützte GPUs, unterstützte MIG-Profile und Erste Schritte, aktualisiert am 11. September 2026; Datenblatt der NVIDIA RTX PRO 5000 (Juni 2026) für die 72-GB-Karte. Jedes aufgeführte Profil gibt es auch als +gfx-Variante.

Die RTX PRO 5000 mit 72 GB steht noch nicht in den Tabellen des Leitfadens; ihr Datenblatt nennt zwei Instanzen zu 36 GB, und NVIDIA-Mitarbeiter haben im Mai 2026 bestätigt, dass sie DisplayModeSelector 1.76 oder neuer braucht. Für die RTX PRO 4500 führt der Leitfaden Profile, aber keine eigenen Voraussetzungen auf, NVIDIAs Seite zum DisplayModeSelector nennt sie nicht, und Datenblatt und Produktseite der Workstation-Karte erwähnen MIG nicht, anders als die Seite der Server Edition. Wir haben keine Aussage von NVIDIA dazu gefunden, was eine RTX PRO 4500 als Workstation-Karte für MIG braucht; fordern Sie deshalb eine schriftliche Bestätigung an, bevor Sie damit planen.

Schritt 1: Treiber und vBIOS prüfen

Ein einfaches nvidia-smi zeigt die Treiberversion im Kopf seiner Ausgabe, und nvidia-smi -q meldet sie zusammen mit dem Feld VBIOS Version; das aktuelle Handbuch zu nvidia-smi markiert Driver Version als veraltet zugunsten von KMD Version, achten Sie also auf beide Namen. NVIDIAs Support-Seite zum GPU Operator vermerkt außerdem für die Server Edition, dass MIG mit dem Release 575.57.08 nicht unterstützt wird. In NVIDIAs MIG-Leitfaden wird das vBIOS mit nvidia-smi und den Optionen --query-gpu=vbios_version und --format=csv ausgelesen. Liegt die Karte unter dem Minimum aus der Tabelle, sollen Sie sich laut Leitfaden für das Update an Ihren Händler oder Systemanbieter wenden. Das kommt tatsächlich vor: Besitzer haben in NVIDIAs Entwicklerforum 2025 und erneut im Juni 2026 Karten der RTX PRO 6000 mit vBIOS 98.02.52.00.02 gemeldet, unter der Version 98.02.55.00.00, die die Workstation Edition verlangt.

Schritt 2: den Anzeigemodus auf Compute umstellen

NVIDIAs Leitfaden ist eindeutig: „Der Anzeigemodus ist standardmäßig auf Grafik gesetzt, er muss auf Compute gesetzt werden, bevor MIG für GPUs der Workstation Edition und der Max-Q Workstation Edition aktiviert werden kann.“ Das Werkzeug dafür ist DisplayModeSelector, laut Leitfaden in Version 1.72 oder neuer, das NVIDIAs Entwicklerseite nach einer Freigabe bereitstellt. Die FAQ des Werkzeugs enthalten drei Warnungen: „Ein System (Workstation oder Server) muss für jeden vom Standard abweichenden Modus eigens qualifiziert sein“, Sie sollen sich beim Systemhersteller bestätigen lassen, dass der Modus unterstützt wird, und „eine unsachgemäße Verwendung des Werkzeugs kann die GPU dauerhaft beschädigen, ohne die Möglichkeit, zur Standardkonfiguration zurückzukehren.“

Der Leitfaden gibt den Befehl als sudo ./DisplayModeSelector mit --gpumode=compute und --gpu=<GPU_ID> an, sagt aber nicht, wie <GPU_ID> nummeriert wird; prüfen Sie deshalb in einer Maschine mit mehr als einer NVIDIA-GPU, welche Karte das Werkzeug auswählt, bevor Sie umschalten. NVIDIAs vGPU-Leitfaden schreibt den Namen des Werkzeugs als displaymodeselector, und Linux unterscheidet bei Dateinamen zwischen Groß- und Kleinschreibung; verwenden Sie also den Namen der Datei in Ihrem Download. Danach steuert die Karte keine Displays mehr an: Ist sie der primäre Grafikadapter einer Workstation mit nur einer Karte, wird der Compute-Modus „die physische Displayausgabe deaktivieren“, stellen Sie also vorher sicher, dass der Zugang per SSH funktioniert, wie es der MIG-Leitfaden sagt; eine Antwort in NVIDIAs Entwicklerforum vom Januar 2026 ergänzt, dass eine solche Workstation eine weitere GPU für ihre Anzeige braucht.

Die Karte beansprucht außerdem weit mehr Adressraum. Dieselbe Antwort erklärt, dass die Umstellung BAR1 auf Workstation-Boards der RTX PRO 6000 von 256 MB auf 64 GB ändert und dass es vom BIOS eines Systems abhängt, ob es diesen Bereich bereitstellen kann; sie fügt hinzu, dass für die Server Edition zertifizierte Systeme das schaffen. Die Antwort nennt 64 GB außerdem den Standardwert der Server Edition, NVIDIAs Product Brief zur Server Edition vom Juni 2025 gibt dagegen „BAR1: 128 GiB (Display Off mode; default)“ an. Im selben Thread berichtete ein Nutzer von POST-Fehlern auf inkompatiblen Plattformen, von denen die Karten zum Zurückschalten in ein kompatibles System umziehen mussten; klären Sie den Modus also vorher mit dem Systemhersteller, wie NVIDIA es in den FAQ verlangt. NVIDIAs MIG-Leitfaden führt nach der Umstellung keinen Neustart auf. Wir raten zu einem, nach unserer eigenen Schlussfolgerung aus jener Forumsantwort: Der BAR1-Bereich kommt vom System-BIOS, das ihn beim Start zuweist. Nach dem Neustart zeigt der Wert Total unter BAR1 Memory Usage in nvidia-smi -q, ob die Änderung gegriffen hat.

Schritt 3: MIG aktivieren und die Instanzen anlegen

Im Compute-Modus aktivieren Sie MIG mit sudo nvidia-smi -i 0 -mig 1, wobei 0 in diesem Beispiel der GPU-Index ist; ohne -i gilt der Befehl für jede GPU im System. Die Option -i akzeptiert auch PCI-Bus-IDs oder UUIDs, die das Handbuch zu nvidia-smi der Konsistenz halber empfiehlt, weil nicht garantiert ist, dass die Reihenfolge der Indizes zwischen Neustarts gleich bleibt. Ab der Hopper-Generation braucht das Aktivieren von MIG keinen GPU-Reset. Beenden Sie vorher alles, was den Treiber belegt: Laut Leitfaden müssen alle Daemons mit Handles auf die Treibermodule gestoppt werden, und er zeigt das für NVIDIAs eigene Dienste nvsm und dcgm. Prüfen Sie dann mit nvidia-smi -i 0, ergänzt um --query-gpu=pci.bus_id,mig.mode.current und --format=csv: Die Antwort sollte Enabled lauten.

Der MIG-Modus allein gibt CUDA nichts, worauf es laufen könnte. nvidia-smi mig -lgip listet die Profile für GPU-Instanzen mit ihren IDs auf, nvidia-smi mig -lgipp die Platzierungen, die die Karte akzeptiert. sudo nvidia-smi mig -cgi legt dann GPU-Instanzen aus einer kommagetrennten Liste von Profil-IDs, Kurznamen wie 1g.24gb oder vollen Namen wie MIG 1g.24gb an, und die Option -C legt mit ihnen die zugehörigen Compute-Instanzen an. Beispielsweise sind vier Viertel einer RTX PRO 6000 der viermal aufgeführte Kurzname 1g.24gb und die zwei Hälften einer RTX PRO 4500 das zweimal aufgeführte 1g.16gb. Auf der RTX PRO 5000 mit 72 GB entnehmen Sie die Namen der Ausgabe von -lgip auf der Karte selbst, da der Leitfaden noch keine nennt. sudo nvidia-smi mig -lgi listet die vorhandenen GPU-Instanzen auf.

Die Profilvarianten entscheiden, was eine Instanz neben Rechenleistung und Speicher bekommt. Auf der RTX PRO 6000 hat ein einfaches 1g.24gb einen Videodecoder, einen Encoder und eine JPEG-Engine. Die +gfx-Varianten ergänzen die Unterstützung für Grafik-APIs, die einfachen MIG-Instanzen fehlt; NVIDIAs Beispiele sind OpenGL und Vulkan. Die Variante +me.all gibt einer einzelnen Instanz alle Media-Engines, und -me lässt sie für reine Rechenaufgaben weg. Eine GPU-Instanz lässt sich mit -cci weiter in Compute-Instanzen unterteilen, diese teilen sich aber Speicher und Engines der Instanz; getrennte Workloads gehören deshalb in getrennte GPU-Instanzen.

Schritt 4: die Instanzen aus CUDA und Containern nutzen

nvidia-smi -L listet jedes MIG-Gerät mit einer UUID der Form MIG-<UUID> auf. CUDA wählt Geräte über CUDA_VISIBLE_DEVICES aus, das diese UUIDs akzeptiert, höchstens eine Compute-Instanz je GPU-Instanz; seit CUDA 12 und Treiber R570 kann ein Prozess mehrere GPU-Instanzen nutzen, aber in jeder nur eine Compute-Instanz. Für Container setzt NVIDIAs Leitfaden NVIDIA_VISIBLE_DEVICES auf die MIG-UUID oder auf die Indexform GPU:MIG, etwa 0:0, und startet Docker mit --runtime=nvidia; Docker ab Version 19.03 akzeptiert diese Namen auch über die Option --gpus. In Kubernetes übernimmt das Device-Plugin das für Sie, mit den Strategien, die unser Leitfaden zum GPU-Sharing in Kubernetes beschreibt.

Für die Planung zählen die Grenzen: NCCL wird mit MIG nicht unterstützt, Peer-to-Peer funktioniert nur zwischen Instanzen auf derselben GPU (Treiber R570), und CUDA IPC reicht nicht über GPU-Instanzen hinaus. MIG ist für Workloads gedacht, die in eine Instanz passen, und so dimensioniert sie auch unser Vergleich von MIG und vGPU.

Was ein Neustart rückgängig macht und wie die Konfiguration erhalten bleibt

Der Anzeigemodus ist eine Einstellung auf der Karte und bleibt, bis Sie ihn ändern; NVIDIAs vGPU-Leitfaden weist darauf hin, dass sich eine im Display-off-Modus ausgelieferte Karte in einem Modus mit aktivierter Anzeige befinden kann, wenn ihr Modus zuvor geändert wurde. MIG bleibt nicht erhalten. Für Hopper und neuere GPUs sagt NVIDIAs Leitfaden, dass der MIG-Modus „nur so lange persistent ist, wie der Treiber im System resident ist“; ein Neustart oder das Entladen und erneute Laden der Kernelmodule bei einem Treiber-Update schaltet ihn also ab, und die GPU- und Compute-Instanzen gehen ebenfalls verloren.

NVIDIAs Antwort ist sein MIG Partition Editor, nvidia-mig-parted. Er wendet ein benanntes Layout aus einer YAML-Datei an, in der jedes Layout die devices aufführt, mig-enabled setzt und unter mig-devices die Profile und ihre Anzahl angibt. Der Befehl nvidia-mig-parted apply setzt mit -f für die Datei und -c für den Namen des Layouts ein Layout um, und ein Layout, in dem mig-enabled auf false steht, schaltet MIG wieder ab. Das Werkzeug allein bewahrt nichts über Neustarts hinweg; seine README verweist auf einen systemd-Dienst, der es kapselt, und NVIDIAs MIG-Leitfaden schlägt dasselbe vor, um das Layout beim Start neu anzulegen. In Kubernetes übernimmt das der MIG Manager des GPU Operator anhand eines Node-Labels. In der Dokumentation der beiden Werkzeuge haben wir keine Erwähnung des Anzeigemodus gefunden; dieser Schritt bleibt also manuell.

Fehler und ihre dokumentierten Ursachen

Zwei Meldungen sollten Sie kennen: „Unable to enable MIG Mode for GPU …: Not Supported“ vom Befehl zum Aktivieren und „Specified GPU mode not supported on this device 0x2BB3“ vom DisplayModeSelector.

NVIDIAs MIG-Leitfaden und die Seite zum DisplayModeSelector (September 2026); Threads in NVIDIAs Entwicklerforum aus dem Jahr 2025, vom Januar 2026, von April bis Mai 2026 und vom Juni 2026, mit Antworten von NVIDIA-Mitarbeitern, wo vermerkt.

Zurück zur Grafikkarte

Machen Sie die Schritte in umgekehrter Reihenfolge rückgängig, ohne Workloads auf der Karte. Löschen Sie die Compute-Instanzen mit sudo nvidia-smi mig -dci und danach die GPU-Instanzen mit sudo nvidia-smi mig -dgi, ein Befehlspaar, das in NVIDIAs Leitfaden zusammen ausgeführt wird. Schalten Sie MIG mit sudo nvidia-smi -i 0 -mig 0 ab, NVIDIAs Beispiel für GPU 0 in seiner Dokumentation zu AI Enterprise, deren Voraussetzungen Root-Rechte verlangen und vorschreiben, dass in diesem Moment keine CUDA-Anwendung, kein Monitoring-Werkzeug und kein Aufruf von nvidia-smi die GPU nutzt. Schalten Sie die Karte zuletzt mit sudo ./DisplayModeSelector, --gpumode=graphics und --gpu=<GPU_ID> zurück und starten Sie wie nach der ersten Umstellung neu. Grafik ist der Standardmodus, in dem die Karte ihre Displayausgänge wieder ansteuert.

Was wir liefern

Eurokommerz liefert die RTX PRO 6000 Workstation Edition und Max-Q, die RTX PRO 5000 mit 48 und 72 GB und die RTX PRO 4500 EU-weit mit Herstellergarantie, als Karten oder in konfigurierten Workstations. Nennen Sie uns, welche Karte in welcher Maschine MIG betreiben soll, und lassen Sie sich von uns vor der Bestellung die vBIOS-Version der Karten schriftlich nennen.

FAQ