RTX PRO 6000 MIG-Profile: die Instanzen mit 24, 48 und 96 GB auf jeder Blackwell-Edition

RTX PRO 6000 MIG-Profile im Überblick

Die RTX PRO 6000 Blackwell unterstützt MIG mit drei Instanzgrößen: je Karte bis zu vier Instanzen 1g.24gb mit 24 GB, bis zu zwei Instanzen 2g.48gb mit 48 GB oder eine Instanz 4g.96gb mit 96 GB. NVIDIAs MIG-Leitfaden, zuletzt aktualisiert am 13. Oktober 2026, führt 11 Profile, die drei Größen und ihre Varianten, in einer Tabelle für die Workstation Edition, die Max-Q Workstation Edition und die Server Edition.

NVIDIAs MIG-Leitfaden, „Supported MIG Profiles“, Tabelle „GPU Instance Profiles on RTX PRO 6000“, aktualisiert am 13. Oktober 2026. Gemeldeter Speicher und SMs: Ausgabe von nvidia-smi mig -lgip auf einer RTX PRO 6000 Server Edition mit Treiber 580.95.05, veröffentlicht von NETWAYS Web Services am 10. Dezember 2025.

Die GB-Angaben im Profilnamen sind Nennwerte. Auf der Karte in dieser veröffentlichten Ausgabe meldete eine 1g.24gb-Instanz 23,62 GiB, eine 2g.48gb-Instanz 47,38 GiB und eine 4g.96gb-Instanz 95,00 GiB; planen Sie also mit diesen Werten und prüfen Sie sie mit nvidia-smi mig -lgip auf Ihrer eigenen Karte.

MIG-Unterstützung auf Server Edition, Workstation und Max-Q

Die Liste der unterstützten GPUs im Leitfaden nennt alle drei Editionen mit 96 GB, Compute Capability 12.0 und höchstens vier Instanzen und führt außerdem die RTX PRO 5000 Blackwell (48 GB) und die RTX PRO 4500 Blackwell (32 GB) mit jeweils zwei. Die Editionen unterscheiden sich darin, was geschehen muss, bevor die erste Instanz existiert.

NVIDIAs MIG-Leitfaden, „Supported GPUs“ und „Getting Started with MIG“, aktualisiert am 13. Oktober 2026; Datenblatt der Max-Q 5349650 (Juni 2026); Blackwell-vGPU-Referenz zu NVIDIA AI Enterprise 8.2 (2. September 2026); Product Brief der Server Edition SP-12355-001_v02 (27. Juni 2025) für den standardmäßigen Display-off-Modus; vGPU-Support-Matrizen wie in unserem Leitfaden zu den vGPU-Profilen.

Der Leitfaden hält fest: „Der Anzeigemodus ist standardmäßig auf Grafik gesetzt, er muss auf Compute gesetzt werden, bevor MIG für GPUs der Workstation Edition und der Max-Q Workstation Edition aktiviert werden kann“, mit DisplayModeSelector 1.72.0 oder neuer; danach steuert die Karte keinen Monitor mehr an. Das Datenblatt der Max-Q nennt dieselbe Aufteilung wie der Leitfaden, „Up to 4x 24 GB“, „Up to 2x 48 GB“ oder „Up to 1x 96 GB“. Die Prüfung des Treibers, die Umstellung des Anzeigemodus und die Befehle mit nvidia-smi stehen in unserer MIG-Anleitung für RTX PRO Blackwell. Der MIG-Modus ist „nur so lange persistent, wie der Treiber resident ist“; das Layout wird also bei jedem Start neu angelegt.

Wie sich die Slices zusammensetzen: Speicher, SMs und Engines

Die RTX PRO 6000 ist in Viertel geteilt. Jede 1g.24gb-Instanz hält ein Viertel des Speichers, des L2-Cache und der SMs, eine 2g.48gb-Instanz die Hälfte und eine 4g.96gb-Instanz die ganze Karte. In der veröffentlichten Ausgabe von -lgip hat ein Viertel 46 SMs und eine Hälfte 94; vier Viertel ergeben zusammen also 184 SMs, während zwei Hälften die vollen 188 ergeben. Die Copy-Engines folgen der Größe, mit 1, 2 und 4 je Instanz.

Die Media-Engines bestimmen die Variante. Die ganze Karte hat vier Videodecoder (NVDEC), vier Encoder (NVENC), vier JPEG-Decoder und einen Optical Flow Accelerator (OFA), und ein einfaches 1g.24gb erhält von jedem einen, außer dem OFA. Das Profil 1g.24gb+me trägt den einzigen OFA der Karte und existiert deshalb nur einmal. Die Variante +me.all „weist dieser Instanz alle verfügbaren Media-Engines zu“, deshalb passt nur eine auf eine Karte. Die Variante -me „schließt alle Media-Engines für reine Compute-Workloads aus“, was zu LLM-Serving und Embedding-Modellen passt.

Welche MIG-Profile der RTX PRO 6000 sich eine Karte teilen

Mit vier Vierteln füllen vier Layouts eine Karte: vier 1g.24gb-Instanzen, zwei 2g.48gb, eine 2g.48gb mit zwei 1g.24gb oder eine 4g.96gb. Die statische Konfiguration des MIG Manager im GPU-Operator-Repository von NVIDIA, gelesen am 16. Oktober 2026, definiert das dritte Layout als „all-balanced“ für die RTX PRO 6000 mit der Device-ID 0x2BB5, mit zwei 1g.24gb und einer 2g.48gb. Eine Größe zwischen 24 und 48 GB gibt es nicht; ein Modell mit 30 GB belegt also eine Instanz mit einer halben Karte.

Der MIG-Modus wird je GPU gesetzt; ein Server kann also einige Karten aufgeteilt und andere ganz betreiben. Der Leitfaden zeigt die Platzierungen nur als Diagramm, und nvidia-smi mig -lgipp listet sie auf der Karte selbst auf; legen Sie die Instanz mit der halben Karte zuerst an, damit die Viertel die Plätze füllen, die sie frei lässt. In Kubernetes braucht ein Knoten mit mehreren Profilen oder mit ganzen Karten neben aufgeteilten die gemischte Strategie des Device-Plugins, die unser Leitfaden zum GPU-Sharing in Kubernetes erklärt.

Für jedes Layout hält NVIDIAs Leitfaden fest, dass „NCCL derzeit mit MIG nicht unterstützt wird“ und dass „CUDA IPC über GPU-Instanzen hinweg nicht unterstützt wird“, und mit Treiber R570 funktioniert Peer-to-Peer nur zwischen Instanzen auf derselben GPU. Ein Modell, das über mehrere Karten verteilt ist, läuft deshalb auf ganzen Karten mit abgeschaltetem MIG.

Grafik- und Compute-MIG auf Blackwell

NVIDIAs Deployment Considerations halten fest, dass in MIG-Instanzen „keine Grafik-APIs unterstützt werden“, mit einer Ausnahme: „RTX Pro 6000 Blackwell GPUs, bei denen bestimmte MIG-Profile Grafik unterstützen.“ Das sind die +gfx-Profile, beschrieben mit „ergänzt die Unterstützung für Grafik-APIs (neu in GB20X)“. NVIDIA nennt die Funktion Universal MIG, die es, in unserer Übersetzung, „ermöglicht, dass Compute- und Grafik-Workloads mit Hardware-Isolation auf derselben GPU laufen“.

Eine +gfx-Instanz kann Rendering- oder Visualisierungsjobs ausführen, die Grafik-APIs wie OpenGL oder Vulkan nutzen, und auf der Server Edition sitzen die Grafik-vGPU-Typen für virtuelle Desktops auf diesen Instanzen. Die H200-Tabelle im selben Leitfaden enthält keine +gfx-Profile, wie unsere Übersicht der MIG-Profile der H200 NVL zeigt. Der Leitfaden führt nicht auf, welche +gfx- und einfachen Profile sich eine Karte teilen können; prüfen Sie ein solches Layout deshalb zuerst mit nvidia-smi mig -lgipp.

Was in eine MIG-Instanz mit 24, 48 oder 96 GB passt

Eine Instanz muss die Gewichte des Modells und den KV-Cache der Gespräche halten, die sie bedient. Unsere Dimensionierungsleitfäden geben dem Cache 0,9 × den Speicher, den die GPU meldet, minus 3 GiB für CUDA Graphs und Aktivierungen, minus die Gewichte. Auf die gemeldeten Werte angewendet, bleiben damit 18,3 GiB in einer 1g.24gb-Instanz, 39,6 GiB in einer 2g.48gb-Instanz und 82,5 GiB in einer 4g.96gb-Instanz für Gewichte und Cache. In einem FP8-Cache belegt ein Gespräch mit vollem 8K-Kontext 0,625 GiB bei Qwen3-14B, 1 GiB bei Qwen3-32B und 1,25 GiB bei Llama 3.3 70B: 2 × Schichten × KV-Heads × Head-Dimension × 8.192 Token zu je einem Byte.

Unsere Schätzung mit der obigen Dimensionierungsregel, FP8-KV-Cache, voller 8K-Kontext. Gewichte: Summe der safetensors-Dateien von Qwen/Qwen3-14B-FP8, Qwen/Qwen3-32B-FP8 und nvidia/Llama-3.3-70B-Instruct-FP8 auf Hugging Face; Schichten und KV-Heads aus der jeweiligen config.json, gelesen am 16. Oktober 2026. Ganze Karte: 95,6 GiB gemeldet, wie in unseren Dimensionierungsleitfäden.

Eine 24-GB-Instanz eignet sich für Embedding- und Reranking-Modelle, Speech-to-Text und kleine Aufgabenmodelle; gpt-oss-20b, mit 13,8 GB in seinen Checkpoint-Dateien, lässt etwa 5,4 GiB Platz für den Cache. Ein 14B-Modell passt, mit vier Gesprächen bedient es aber einen Entwickler oder einen Test. Das Aufteilen kostet außerdem Kapazität, weil jede Instanz ihre eigene Kopie der Gewichte lädt. Vier 1g.24gb-Instanzen mit Qwen3-14B halten insgesamt 16 Gespräche, zwei 2g.48gb-Instanzen 78, und dasselbe Modell auf der ganzen Karte hält 108. Ein 32B-Modell in FP8 braucht eine Instanz mit einer halben Karte und lässt dort nur Platz für sieben Gespräche; ein gemeinsam genutzter 32B-Assistent gehört also auf eine ganze Karte. Llama 3.3 70B in FP8 braucht 96 GB. In einer 4g.96gb-Instanz verliert es gegenüber der Karte mit abgeschaltetem MIG ein Gespräch, weil die Instanz 95,00 GiB statt 95,6 meldet.

Wir liefern die RTX PRO 6000 in allen drei Editionen als Karten oder in auf Bestellung gebauten KI-Servern. Nennen Sie uns die Modelle und Nutzer je Instanz, und wir antworten innerhalb eines Werktages mit einer Konfiguration samt MIG-Layout je Karte und einem Angebot.

MIG-gestützte vGPU auf der RTX PRO 6000 Server Edition

Nur die Server Edition trägt MIG-gestützte vGPU, und NVIDIAs Seite zu MIG-gestützter vGPU sagt, dass auf dieser Karte „auf einer einzigen GPU bis zu vier MIG-Scheiben erstellt werden können“. Die Referenz zu AI Enterprise 8.2 führt dafür 11 MIG-gestützte Compute-Typen, von DC-4-96C bis DC-1-8C, unter „Required license edition: NVIDIA AI Enterprise“. DC-1-24C, DC-2-48C und DC-4-96C füllen jeweils eine Instanz mit 24, 48 oder 96 GB, und die kleineren Typen laufen per Time-Slicing innerhalb einer Instanz. Die vollständigen Tabellen, Grafiktypen, Lizenzen und Hypervisor-Versionen stehen in unserem Leitfaden zu den vGPU-Profilen der RTX PRO 6000 Server Edition. NVIDIAs Seite vermerkt, dass Live-Migration zwischen unterschiedlichen MIG-Profilen nicht unterstützt wird und dass „der Zielhost eine passende MIG-Konfiguration haben muss“; Hosts in einem Cluster sollten also dasselbe Layout nutzen. NVIDIAs Product Brief zur Server Edition ergänzt, dass der standardmäßige Display-off-Modus „erforderlich ist, um die NVIDIA Virtual GPU Software auszuführen“.

Beispiel: acht Karten der Server Edition für drei Abteilungen

Das Beispiel ist unsere Schätzung, kein Referenzdesign von NVIDIA. Ein Server mit acht Karten RTX PRO 6000 Server Edition bedient drei Abteilungen eines Unternehmens mit etwa 1.000 Beschäftigten. Wir nehmen bis zu acht Entwickler an, die gleichzeitig Jobs ausführen, einen Kundenservice-Assistenten mit RAG und einer Spitze von etwa 60 Gesprächen sowie eine Dokumenten-Warteschlange für Finanzen und Recht.

Die Karten 1 und 2 betreiben je vier Instanzen 1g.24gb-me, acht isolierte GPUs für die Entwickler, jede für ein Modell bis 14B in FP8 oder ein Notebook. Die Karten 3 und 4 bleiben ganz und betreiben Qwen3-32B in FP8 für den Kundenservice, 51 Gespräche mit 8K je Karte und 102 zusammen. Karte 5 nutzt das ausgewogene Layout: zwei 1g.24gb-Instanzen für ein Embedding-Modell mit 0,6B und einen Reranker mit 0,6B, je etwa 1,2 GB in BF16, und eine 2g.48gb-Instanz mit Qwen3-14B für Ticket-Zusammenfassungen, 39 Gespräche. Karte 6 betreibt zwei 2g.48gb-Instanzen mit Qwen3-32B, eine für Finanzen und eine für Recht, sodass die beiden Warteschlangen weder Speicher noch SMs teilen. Karte 7 betreibt Llama 3.3 70B in FP8 auf der ganzen Karte für anspruchsvollere Dokumente, und Karte 8 bleibt ganz als Reserve und Testumgebung.

Das ergibt 13 MIG-Instanzen auf vier Karten und vier ganze Karten, was in Kubernetes die gemischte Strategie braucht. Fällt eine Kundenservice-Karte aus, übernimmt Karte 8 eine dritte Kopie des Assistenten; wächst die Zahl der Entwickler auf zwölf, nimmt sie stattdessen vier weitere Viertel auf, und die Reserve wandert auf einen zweiten Server. Unser Artikel zur Aufteilung von acht RTX PRO 6000 in einem Server behandelt Strom, PCIe-Topologie und einen zweiten Server bei 2.000 Beschäftigten.

Wir bauen Server mit bis zu acht Karten RTX PRO 6000 Server Edition und prüfen Rack, Strom und Luftführung, bevor wir ein Angebot erstellen. Beschreiben Sie Ihre Abteilungen, ihre Modelle und die Spitzenlast im Formular unten, und wir schlagen das MIG-Layout Karte für Karte vor.

Was wir liefern

Wir liefern die NVIDIA RTX PRO 6000 Blackwell in allen drei Editionen, Server Edition, Workstation Edition und Max-Q, mit Herstellergarantie, unter einem EU-Vertrag und auf einer Rechnung, als Karten über unsere Seite zur RTX PRO 6000 oder in auf Bestellung gebauten KI-Servern. Betriebssystem, Treiber, CUDA und eine Container-Runtime installieren wir auf Wunsch. MIG auf Bare Metal braucht keine Lizenz; wo Instanzen virtuelle Maschinen tragen, stehen die Lizenzen für NVIDIA AI Enterprise oder vGPU auf derselben Rechnung. Modelle, RAG und die Plattform darüber sind unser Service Private AI/ML, umgesetzt von unserem Engineering-Partner Vixen.UNO.

FAQ