MIG auf der RTX PRO 6000 und anderen Karten der RTX PRO Blackwell: Schritt für Schritt und wieder zurück

Was jede Karte braucht

Alle drei Editionen der RTX PRO 6000 unterstützen MIG. Um MIG zu aktivieren, brauchen Sie Linux, Treiber 575.51.03 oder neuer und bei den Editionen Workstation und Max-Q eine Mindestversion des vBIOS und den auf Compute umgestellten Anzeigemodus; nvidia-smi teilt die Karte dann in bis zu vier Instanzen mit 24 GB (Profil 1g.24gb), zwei mit 48 GB (2g.48gb) oder eine mit 96 GB (4g.96gb) auf. NVIDIAs MIG-Leitfaden führt in seiner Fassung vom 4. November 2026 außerdem die 48-GB-Version der RTX PRO 5000 mit zwei Instanzen zu 24 GB und die RTX PRO 4500 mit zwei Instanzen zu 16 GB. Die RTX 6000 Ada sowie die RTX PRO 4000 und 2000 stehen nicht auf seiner Liste der unterstützten GPUs. MIG läuft nur unter Linux: „MIG wird nur auf Linux-Betriebssystemdistributionen unterstützt, die von CUDA unterstützt werden.“ Für die RTX PRO 6000 setzt der Leitfaden Treiber R575, 575.51.03 oder neuer, als Minimum, für die RTX PRO 5000 575.57.08 und für die RTX PRO 4500 575.64, und er empfiehlt, den neuesten Rechenzentrumstreiber zu installieren. Stand 5. November 2026 sind die neuesten Releases 580.196.07 im Langzeitzweig R580 (Support bis Juni 2028), 595.112.07 im Zweig R595 (bis März 2027) und 620.70.06 vom 4. November 2026 im neuen Langzeitzweig R620 (bis September 2029); bleiben Sie auf R580 und R595 mindestens auf 580.178.04 oder 595.91.07, den Versionen, die NVIDIAs Sicherheitsbulletin vom 30. September 2026 als korrigiert nennt. Für die Editionen Workstation und Max-Q sowie die RTX PRO 5000 verlangt er zusätzlich ein Mindest-vBIOS und den von Grafik auf Compute umgestellten Anzeigemodus. Die RTX PRO 6000 Server Edition wird ab Werk im Display-off-Modus ausgeliefert und überspringt diesen Schritt; unser Editionsvergleich erklärt die übrigen Unterschiede.

NVIDIAs MIG-Leitfaden: unterstützte GPUs, unterstützte MIG-Profile und Erste Schritte, aktualisiert am 4. November 2026; Datenblatt der NVIDIA RTX PRO 5000 (Juli 2026) für die 72-GB-Karte. Jedes aufgeführte Profil gibt es auch als +gfx-Variante. Was in jede Instanz passt, zeigt unser Leitfaden zu den MIG-Profilen der RTX PRO 6000.

Die RTX PRO 5000 mit 72 GB steht noch nicht in den Tabellen des Leitfadens; ihr Datenblatt nennt zwei Instanzen zu 36 GB, und NVIDIAs Seite zum DisplayModeSelector führt die RTX PRO 5000 Blackwell unter den kompatiblen GPUs, ohne eine Version des Werkzeugs zu nennen. Dieselbe Seite nennt die RTX PRO 5500 Blackwell Workstation Edition unter den Karten mit MIG; der MIG-Leitfaden führt diese Karte noch nicht, Profilnamen und Voraussetzungen sind also nicht veröffentlicht. Für die RTX PRO 4500 führt der Leitfaden Profile und seit seiner Aktualisierung vom 4. November 2026 einen Mindesttreiber 575.64 auf, aber kein Mindest-vBIOS und keine Edition; NVIDIAs Seite zum DisplayModeSelector nennt die Karte nicht, und Datenblatt und Produktseite der Workstation-Karte erwähnen MIG nicht, anders als die Seite der Server Edition. Wir haben keine Aussage von NVIDIA gefunden, dass die RTX PRO 4500 als Workstation-Karte MIG unterstützt; fordern Sie deshalb eine schriftliche Bestätigung an, bevor Sie damit planen.

Wir liefern alle drei Editionen der RTX PRO 6000 und die RTX PRO 5000 mit 48 und 72 GB. Nennen Sie uns die Karte, die Sie erwägen, und die Maschine, in die sie kommt, und wir sagen Ihnen vor der Bestellung, welche Karte passt.

Schritt 1: Treiber und vBIOS prüfen

Ein einfaches nvidia-smi zeigt die Treiberversion im Kopf seiner Ausgabe, und nvidia-smi -q meldet sie zusammen mit dem Feld VBIOS Version; das aktuelle Handbuch zu nvidia-smi markiert Driver Version als veraltet zugunsten von KMD Version, achten Sie also auf beide Namen. NVIDIAs Support-Seite zum GPU Operator vermerkt außerdem für die Server Edition, dass MIG mit dem Release 575.57.08 nicht unterstützt wird. In NVIDIAs MIG-Leitfaden wird das vBIOS mit nvidia-smi und den Optionen --query-gpu=vbios_version und --format=csv ausgelesen. Liegt die Karte unter dem Minimum aus der Tabelle, sollen Sie sich laut Leitfaden für das Update an Ihren Händler oder Systemanbieter wenden.

Schritt 2: den Anzeigemodus auf Compute umstellen

NVIDIAs Leitfaden ist eindeutig: „Der Anzeigemodus ist standardmäßig auf Grafik gesetzt, er muss auf Compute gesetzt werden, bevor MIG für GPUs der Workstation Edition und der Max-Q Workstation Edition aktiviert werden kann.“ Das Werkzeug dafür ist DisplayModeSelector, laut Leitfaden in Version 1.72 oder neuer, das NVIDIAs Entwicklerseite nach einer Freigabe bereitstellt. Die FAQ des Werkzeugs enthalten drei Warnungen: „Ein System (Workstation oder Server) muss für jeden vom Standard abweichenden Modus eigens qualifiziert sein“, Sie sollen sich beim Systemhersteller bestätigen lassen, dass der Modus unterstützt wird, und „eine unsachgemäße Verwendung des Werkzeugs kann die GPU dauerhaft beschädigen, ohne die Möglichkeit, zur Standardkonfiguration zurückzukehren.“

Der Leitfaden gibt den Befehl als sudo ./DisplayModeSelector mit --gpumode=compute und --gpu=<GPU_ID> an, sagt aber nicht, wie <GPU_ID> nummeriert wird; prüfen Sie deshalb in einer Maschine mit mehr als einer NVIDIA-GPU, welche Karte das Werkzeug auswählt, bevor Sie umschalten. NVIDIAs vGPU-Leitfaden schreibt den Namen des Werkzeugs als displaymodeselector, und Linux unterscheidet bei Dateinamen zwischen Groß- und Kleinschreibung; verwenden Sie also den Namen der Datei in Ihrem Download. Nach der Umstellung steuert die Karte keine Displays mehr an. Ist sie der primäre Grafikadapter einer Workstation mit nur einer Karte, wird der Compute-Modus „die physische Displayausgabe deaktivieren“; stellen Sie also vorher sicher, dass der Zugang per SSH funktioniert, wie es der MIG-Leitfaden sagt. Eine solche Workstation braucht dann einen weiteren Grafikadapter für ihren Monitor.

Der Compute-Modus kann außerdem den BAR1-Adressraum der Karte ändern. NVIDIAs Product Brief zur Server Edition vom Juni 2025 gibt „BAR1: 128 GiB (Display Off mode; default)“ an; für die Workstation Edition und die Max-Q veröffentlicht NVIDIA für keinen der beiden Modi einen BAR1-Wert. Ob ein System einen großen BAR1-Bereich abbilden kann, hängt von seinem BIOS ab; klären Sie den Modus also vorher mit dem Systemhersteller, wie NVIDIA es in den FAQ verlangt. NVIDIAs MIG-Leitfaden führt nach der Umstellung keinen Neustart auf. Wir raten zu einem, nach unserer eigenen Schlussfolgerung: Das System-BIOS weist den BAR1-Bereich beim Start zu. Nach dem Neustart zeigt der Wert Total unter BAR1 Memory Usage in nvidia-smi -q, ob die Änderung gegriffen hat. Vor der Bestellung prüfen wir Plattform, Strom und Kühlung des Systems, in das die Karte kommt. Schicken Sie uns das System, das Sie auf den Compute-Modus umstellen wollen, und unser Team hilft Ihnen weiter.

Schritt 3: MIG aktivieren und die Instanzen anlegen

Im Compute-Modus aktivieren Sie MIG mit sudo nvidia-smi -i 0 -mig 1, wobei 0 in diesem Beispiel der GPU-Index ist; ohne -i gilt der Befehl für jede GPU im System. Die Option -i akzeptiert auch PCI-Bus-IDs oder UUIDs, die das Handbuch zu nvidia-smi der Konsistenz halber empfiehlt, weil nicht garantiert ist, dass die Reihenfolge der Indizes zwischen Neustarts gleich bleibt. Ab der Hopper-Generation braucht das Aktivieren von MIG keinen GPU-Reset. Beenden Sie vorher alles, was den Treiber belegt: Laut Leitfaden müssen alle Daemons mit Handles auf die Treibermodule gestoppt werden, und er zeigt das für NVIDIAs eigene Dienste nvsm und dcgm. Auf Workstations zählt laut Leitfaden auch die Desktop-Sitzung (Display-Manager oder Xorg) dazu, die nvidia-smi unter Umständen nicht als GPU-Prozess anzeigt. Prüfen Sie dann mit nvidia-smi -i 0, ergänzt um --query-gpu=pci.bus_id,mig.mode.current und --format=csv: Die Antwort sollte Enabled lauten.

Der MIG-Modus allein legt noch kein Gerät an, das CUDA nutzen kann. nvidia-smi mig -lgip listet die Profile für GPU-Instanzen mit ihren IDs auf, nvidia-smi mig -lgipp die Platzierungen, die die Karte akzeptiert. sudo nvidia-smi mig -cgi legt dann GPU-Instanzen aus einer kommagetrennten Liste von Profil-IDs, Kurznamen wie 1g.24gb oder vollen Namen wie MIG 1g.24gb an, und die Option -C legt mit ihnen die zugehörigen Compute-Instanzen an. Beispielsweise sind vier Viertel einer RTX PRO 6000 der viermal aufgeführte Kurzname 1g.24gb und die zwei Hälften einer RTX PRO 4500 das zweimal aufgeführte 1g.16gb. Auf der RTX PRO 5000 mit 72 GB entnehmen Sie die Namen der Ausgabe von -lgip auf der Karte selbst, da der Leitfaden noch keine nennt. sudo nvidia-smi mig -lgi listet die vorhandenen GPU-Instanzen auf.

Die Profilvarianten entscheiden, was eine Instanz neben Rechenleistung und Speicher bekommt. Auf der RTX PRO 6000 hat ein einfaches 1g.24gb einen Videodecoder, einen Encoder und eine JPEG-Engine. Die +gfx-Varianten ergänzen die Unterstützung für Grafik-APIs, die einfachen MIG-Instanzen fehlt; NVIDIAs Beispiele sind OpenGL und Vulkan. Die Variante +me ergänzt eine einzelne 1g.24gb-Instanz um den Optical Flow Accelerator, +me.all gibt einer einzelnen Instanz alle Media-Engines, und -me lässt sie für reine Rechenaufgaben weg. Eine GPU-Instanz lässt sich mit -cci weiter in Compute-Instanzen unterteilen, diese teilen sich aber Speicher und Engines der Instanz; getrennte Workloads gehören deshalb in getrennte GPU-Instanzen.

Schritt 4: die Instanzen aus CUDA und Containern nutzen

nvidia-smi -L listet jedes MIG-Gerät mit einer UUID der Form MIG-<UUID> auf. CUDA wählt Geräte über CUDA_VISIBLE_DEVICES aus, das diese UUIDs akzeptiert, höchstens eine Compute-Instanz je GPU-Instanz; seit CUDA 12 und Treiber R570 kann ein Prozess mehrere GPU-Instanzen nutzen, aber in jeder nur eine Compute-Instanz. Für Container setzt NVIDIAs Leitfaden NVIDIA_VISIBLE_DEVICES auf die MIG-UUID oder auf die Indexform GPU:MIG, etwa 0:0, und startet Docker mit --runtime=nvidia; Docker ab Version 19.03 akzeptiert diese Namen auch über die Option --gpus. In Kubernetes übernimmt das Device-Plugin das für Sie, mit den Strategien, die unser Leitfaden zum GPU-Sharing in Kubernetes beschreibt.

Für die Planung zählen die Grenzen, wie NVIDIAs MIG-Leitfaden (aktualisiert am 4. November 2026) sie nennt: NCCL unterstützt MIG nur experimentell, ab Version 2.31 (ein Rank je MIG-Instanz, CUDA-Treiber 13.0 oder neuer, NCCL_MNNVL_ENABLE=0), Peer-to-Peer funktioniert nur zwischen Instanzen auf derselben GPU (Treiber R570), und CUDA IPC reicht nicht über GPU-Instanzen hinaus. MIG ist für Workloads gedacht, die in eine Instanz passen, und so dimensioniert sie auch unser Vergleich von MIG und vGPU.

Was ein Neustart zurücksetzt und wie die MIG-Konfiguration erhalten bleibt

Der Anzeigemodus ist eine Einstellung auf der Karte und bleibt, bis Sie ihn ändern; NVIDIAs vGPU-Leitfaden weist darauf hin, dass sich eine im Display-off-Modus ausgelieferte Karte in einem Modus mit aktivierter Anzeige befinden kann, wenn ihr Modus zuvor geändert wurde. Der MIG-Modus und seine Instanzen bleiben nicht auf dieselbe Weise erhalten. Für Hopper und neuere GPUs sagt NVIDIAs Leitfaden, dass der MIG-Modus „nur so lange persistent ist, wie der Treiber im System resident ist“; ein Neustart oder das Entladen und erneute Laden der Kernelmodule bei einem Treiber-Update schaltet ihn also ab, und die GPU- und Compute-Instanzen gehen ebenfalls verloren.

NVIDIAs Antwort ist sein MIG Partition Editor, nvidia-mig-parted. Er wendet ein benanntes Layout aus einer YAML-Datei an, in der jedes Layout die devices aufführt, mig-enabled setzt und unter mig-devices die Profile und ihre Anzahl angibt. Der Befehl nvidia-mig-parted apply setzt mit -f für die Datei und -c für den Namen des Layouts ein Layout um, und ein Layout, in dem mig-enabled auf false steht, schaltet MIG wieder ab. Das Werkzeug allein bewahrt nichts über Neustarts hinweg; seine README verweist auf einen systemd-Dienst, der es kapselt, und NVIDIAs MIG-Leitfaden schlägt dasselbe vor, um das Layout beim Start neu anzulegen. In Kubernetes übernimmt das der MIG Manager des GPU Operator anhand eines Node-Labels; auf der Support-Liste des Operator haben wir mit Stand Oktober 2026 aber keinen Eintrag für die Editionen Workstation und Max-Q der RTX PRO 6000 oder für die RTX PRO 5000 gefunden. In der Dokumentation der beiden Werkzeuge haben wir keine Erwähnung des Anzeigemodus gefunden; dieser Schritt bleibt also manuell.

Fehler und ihre dokumentierten Ursachen

Eine Meldung sollten Sie kennen: „Unable to enable MIG Mode for GPU …: Not Supported“ vom Befehl zum Aktivieren.

NVIDIAs MIG-Leitfaden (aktualisiert am 4. November 2026) und die Seite zum DisplayModeSelector mit ihren FAQ (gelesen am 5. November 2026).

Zurück zur Grafikkarte

Machen Sie die Schritte in umgekehrter Reihenfolge rückgängig, ohne Workloads auf der Karte. Löschen Sie die Compute-Instanzen mit sudo nvidia-smi mig -dci und danach die GPU-Instanzen mit sudo nvidia-smi mig -dgi, ein Befehlspaar, das in NVIDIAs Leitfaden zusammen ausgeführt wird. Schalten Sie MIG mit sudo nvidia-smi -i 0 -mig 0 ab, NVIDIAs Beispiel für GPU 0 in seiner Dokumentation zu AI Enterprise, deren Voraussetzungen Root-Rechte verlangen und vorschreiben, dass in diesem Moment keine CUDA-Anwendung, kein Monitoring-Werkzeug und kein Aufruf von nvidia-smi die GPU nutzt. Schalten Sie die Karte zuletzt mit sudo ./DisplayModeSelector, --gpumode=graphics und --gpu=<GPU_ID> zurück und starten Sie wie nach der ersten Umstellung neu. Grafik ist der Standardmodus, in dem die Karte ihre Displayausgänge wieder ansteuert.

Was wir liefern

Wir liefern die RTX PRO 6000 in allen drei Editionen (Workstation, Max-Q und Server Edition), die RTX PRO 5000 mit 48 und 72 GB und die RTX PRO 4500, für die NVIDIAs Leitfaden MIG-Profile und einen Mindesttreiber, aber keine Edition nennt, EU-weit mit Herstellergarantie, als Karten oder in Workstations und auf Bestellung gebauten KI-Servern. Stückzahlen und Lieferzeit bestätigen wir schriftlich mit dem Angebot.

FAQ