Nutanix und GPUs: Aufbau eines KI-Clusters
Eurokommerz, Wien, seit 2006: Private AI/ML · IT Managed Services · Enterprise Training · KI-Hardware & Software
- Sechs NX-Plattformen nehmen laut der NX-FAQ von Nutanix (Februar 2026) GPUs auf, verteilt auf die Generationen G9 und G10; die meisten Karten pro Knoten fasst unter ihnen der NX-9151-G9 mit vier L40S oder H100 NVL
- Ob ein Knoten GPUs unterstützt, lässt sich nicht am Modellcode ablesen: Der NX-8150G-G10 nimmt drei Karten auf, während der NX-8155-G9 im selben 2U1N-Chassis nicht auf der GPU-Liste von Nutanix steht
- Die L40S lässt sich mit MIG gar nicht teilen; die RTX PRO 6000 Server Edition teilt sich in vier 24-GB-Instanzen
- NVIDIA unterstützt AHV als generisches Linux mit KVM, und seine Seite zu Linux mit KVM, die Nutanix AHV nennt, führt MIG-gestützte vGPU für die RTX PRO 6000 und 4500 Server Edition; ob Ihr AOS-Release sie unterstützt, muss Nutanix bestätigen
- MIG-Instanzen können nicht per Peer-to-Peer über GPUs hinweg kommunizieren, und NCCL funktioniert mit MIG nicht; MIG-Scheiben eignen sich daher nicht für verteiltes Training
Welche Knoten Karten aufnehmen, und welche nicht
Ein hyperkonvergenter Knoten ist ein Server, der Storage, Rechenleistung und Netzwerk unter AOS in einem System vereint. Laufwerkskäfige und Lüfter lassen oft keinen Platz für eine Full-Size-Karte, deshalb nehmen manche NX-Modelle bis zu vier Beschleuniger auf und andere keinen.
| KNOTEN | FORMFAKTOR | GPUs |
|---|---|---|
| NX-9151-G9 | 2U1N | bis 4× L40S oder H100 NVL 94 GB |
| NX-3155-G9 | 2U1N | bis 2× L40S oder bis 4× L4 |
| NX-8150G-G10 | 2U1N | bis 3× L4, A16 oder L40S |
| NX-8155AS-G10 | 2U1N | bis 3× L4 oder A16 |
| NX-1175S-G10 | 1U1N | bis 2× L4 |
| NX-1150S-G9 | 2U1N | GPU-Option für den Edge (L4) |
| NX-8170, NX-3060, NX-3035, NX-8155, NX-8155A, NX-8173AS, NX-1120AS | 1U1N / 2U1N / 2U2N / 2U4N | nicht auf der GPU-Liste |
Plattformen nach der NX-FAQ von Nutanix (Februar 2026); Kartenzahlen nach den Spec-Sheets der Knoten, wie Händler sie wiedergeben (G10-Knoten werden seit Oktober 2025 ausgeliefert). Die Spec-Sheet-Liste von Nutanix (September 2026) zeigt außerdem einen NX-9183-G10 in 4U für KI-Workloads; prüfen Sie vor der Bestellung das Spec-Sheet des exakten Modells.
Der Modellcode verrät nicht, ob ein Knoten GPUs aufnimmt; die Tabelle oben zeigt es. Verlässlich sind zwei Prüfungen: die GPU-Zeile im Spec-Sheet des Modells und die für das Chassis validierte Kartenliste. Der NX-9151-G9 akzeptiert die H100 NVL; der NX-3155-G9 mit demselben 2U1N-Formfaktor endet bei zwei L40S; die H100 80 GB PCIe ist qualifiziert, wird von Nutanix aber nicht verkauft. Die Grenze setzen Strom und Luftstrom, nicht die Größe des Gehäuses. Wir liefern die Karten L40S und L4, die Nutanix für diese Knoten listet. Schildern Sie kurz Knoten und Workload, und unser Team hilft Ihnen weiter.
Strom- und Luftstromgrenzen für GPUs in NX-Knoten
Die Leistungsspanne der Baureihe ist groß: Ein Edge-Knoten zieht ein paar hundert Watt, während ein NX-9151-G9 mit vier 350-W-Karten ein Leistungsbudget von mehreren kVA und ein passendes Kühlbudget braucht: ein eigenes Gespräch mit Ihrem Rechenzentrum über Phase und Reihenkühlung.
Die zweite Grenze ist die Kühlung, denn Serverkarten sind passiv. L40S und RTX PRO 6000 Server Edition haben keine eigenen Lüfter und sind auf den Front-to-Back-Luftstrom des Chassis angewiesen. Ohne gerichteten Luftstrom überhitzt die Karte: In NVIDIAs Forum wurde eine L40S in einem Workstation-Gehäuse gemeldet, die im Leerlauf 100 °C erreichte. Eine passive Karte braucht ein Servergehäuse, das Luft durch sie hindurchdrückt.
Passthrough, Time-sliced vGPU und MIG-gestützte vGPU
| METHODE | WIE GETEILT WIRD | ISOLATION & LIZENZ |
|---|---|---|
| Passthrough | ganze Karte an eine VM | vollständig; keine vGPU-Lizenz für Compute (Grafik-Workstations brauchen vWS) |
| Time-sliced vGPU | Zeitteilung, Prozesse wechseln sich ab | eigener Framebuffer pro VM, geteilte Rechenleistung, keine Fehlerisolation; Lizenz Pflicht |
| MIG-gestützte vGPU | parallel arbeitende Hardware-Scheiben | Hardware-Isolation; Lizenz erforderlich |
Für Pläne mit mehreren Karten pro Knoten ist eine Grenze von MIG wichtig. Laut der MIG-Dokumentation gibt es mit aktiviertem MIG keine Peer-to-Peer-Kommunikation zwischen Instanzen auf verschiedenen GPUs, weder über PCIe noch über NVLink, und NCCL wird nicht unterstützt. Im eigenen Forum vertritt NVIDIA die Position, dass verteiltes Training über MIG theoretisch per GPUDirect RDMA über das Netzwerk laufen kann, aber langsamer als auf einer größeren Scheibe oder mit abgeschaltetem MIG. Eine Karte zu partitionieren und schneller Austausch von Karte zu Karte schließen einander daher aus.
MIG-Instanzen pro Karte
| KARTE | MAX. MIG-INSTANZEN | KLEINSTE SCHEIBE |
|---|---|---|
| RTX PRO 6000 Blackwell SE, 96 GB | 4 | 1g.24gb, 24 GB, ein Viertel der SMs |
| RTX PRO 4500 Blackwell SE, 32 GB | 2 | 1g.16gb, 16 GB |
| H100 NVL, 94 GB | 7 | 1g.12gb, 12 GB |
| H200 NVL, 141 GB | 7 | 1g.18gb, je 16,5 GB laut NVIDIAs Produktseite |
| L40S, L4, A2, A16 | kein MIG | nur Passthrough oder Time-sliced vGPU |
Die letzte Zeile ist bei der Wahl des Knotens wichtig: Die L40S ist sowohl für den NX-9151-G9 als auch für den NX-3155-G9 gelistet, und sie unterstützt kein MIG. Teams, die die L40S wegen ihrer Rechenleistung wählen, stellen manchmal erst später fest, dass sie sich nicht in Hardware partitionieren lässt; auf diesen Knoten wird sie nur per Time-Slicing geteilt. Die H100 NVL in der Tabelle ist die, die Nutanix für den NX-9151-G9 listet; laut Hinweis eines Händlers war der letzte Bestelltermin der 1. November 2025, und wir liefern sie nicht.
vGPU- und MIG-Unterstützung unter Nutanix AHV
NVIDIAs Support-Seite für Nutanix AHV (aktualisiert am 29. September 2026) unterstützt AHV als generischen Hypervisor vom Typ Linux mit KVM, und für solche Hypervisoren überlässt NVIDIA die unterstützten GPUs und Funktionen dem Hersteller des Hypervisors. Gewöhnliches Time-sliced vGPU funktioniert. NVIDIAs Seite zu den validierten Plattformen für Linux mit KVM (aktualisiert am 29. September 2026), die Nutanix AHV unter den Hypervisor-Herstellern nennt, führt 1:1- und Time-sliced-MIG-gestützte vGPU für die RTX PRO 6000 und RTX PRO 4500 Blackwell Server Edition und überlässt die unterstützten Releases dem Hersteller; fragen Sie daher Nutanix, ob Ihr AOS- und AHV-Release sie unterstützt, bevor Sie MIG-Instanzen für VMs einplanen. Prüfen Sie die Kompatibilität für Ihre AOS-Version vor der Bestellung: NVIDIA AI Enterprise 8.2 führt Nutanix AOS 6.5 bis 6.10 mit dem Vermerk „nur Einzelknoten“, und NVIDIA unterstützt AI Enterprise nur auf NVIDIA-Certified Systems, einer Liste, auf der der NX-9151-G9 mit Stand Oktober 2026 der einzige NX-Knoten ist.
Zwei weitere Punkte zeigen sich erst nach dem Deployment. Der erste ist die Live-Migration, die für eine vGPU-VM die identische physische Karte auf dem Zielhost und einen Treiber aus demselben Release-Zweig in derselben oder einer neueren Version verlangt und zwischen verschiedenen MIG-Profilen nie funktioniert. Nutanix gibt an, dass AHV vGPU-VMs per Live-Migration auf einen Host mit einem passenden freien vGPU-Profil verschiebt; NVIDIAs Support-Seite behandelt AHV als generisches Linux mit KVM, lassen Sie sich daher von Nutanix bestätigen, dass Ihr AOS- und vGPU-Release die Live-Migration unterstützt, bevor Sie Wartungen darauf aufbauen. Der zweite ist das Verhalten ohne gültige Lizenz: NVIDIAs aktueller Leitfaden zur Client-Lizenzierung (aktualisiert am 29. September 2026) gibt an, dass die Leistung einer Grafik-vGPU nachlässt, wenn die VM nach 20 Minuten keine Lizenz hat, und nach einem Tag weiter nachlässt, ohne Zahlen zu nennen; die Begrenzungen auf 15 fps und 3 fps stammen aus dem Leitfaden zu vGPU-Release 16, das die RTX PRO Blackwell nicht unterstützt. Eine Compute-vGPU (C-Profil) fällt nach einer Karenzzeit von 20 Minuten auf Leerlaufniveau, laut der Lizenzseite von NVIDIA AI Enterprise (2. September 2026). C-Compute-Profile gibt es nur mit NVIDIA AI Enterprise, lizenziert pro GPU, während Grafik-vWS pro gleichzeitigem Nutzer lizenziert wird; das sind also zwei getrennte Budgetposten.
Wir liefern die Lizenzen für NVIDIA AI Enterprise und vGPU, die ein AHV-Cluster braucht, im selben Angebot wie die GPUs. Nennen Sie uns Ihre Knoten und die geplanten vGPU-Profile, und wir antworten innerhalb eines Werktages.
Wie viele VMs pro Karte
| vGPU-TYP | SPEICHER PRO VM | VMs PRO KARTE |
|---|---|---|
| DC-96C | 96 GB | 1 |
| DC-48C | 48 GB | 2 |
| DC-24C | 24 GB | 4 |
| DC-12C | 12 GB | 8 |
| DC-8C | 8 GB | 12 |
Compute-Profile für die RTX PRO 6000 Blackwell Server Edition
Für virtuelle Desktops nennt NVIDIAs Sizing-Guide zwei bis vier schwere Nutzer pro RTX PRO 6000 (Profile DC-12Q bis DC-24Q) und sechs bis acht leichte Nutzer pro RTX PRO 4500 Server Edition (DC-4Q). Der Guide ergänzt, dass der standardmäßige Best-Effort-Scheduler oft die zwei- bis dreifache Nutzerdichte erlaubt. Beim Monitoring sollte die Videospeicher-Belegung einer VM selten über 90 Prozent steigen und im Schnitt unter 70 Prozent liegen.
| GEMESSEN WURDE | OHNE PARTITIONIERUNG | MIT MIG |
|---|---|---|
| flan-t5-base auf A100 40 GB (Red Hat) | ~4.200 Tok/s | ~9.800 Tok/s auf 7 Scheiben |
Quelle: Blog von Red Hat, „Sharing is caring: How to make the most of your GPUs part 2 – Multi-instance GPU“, 6. September 2024: eine A100 40 GB, aufgeteilt in 7 × 1g.5gb; eine Messung auf Ampere, nicht auf den oben behandelten Karten.
Jede Scheibe ist langsamer als die ganze Karte, aber ein kleines Modell sättigt eine A100 nicht, daher lieferten im Test von Red Hat sieben Scheiben zusammen etwa das 2,3-Fache des Durchsatzes der ungeteilten Karte.
Clustergröße und GPU-Pool: die Startkonfiguration
Die funktionierende Startkonfiguration besteht aus drei Knoten: RF2-Replikation läuft auf dreien, und der Cluster hält seine Daten verfügbar, wenn ein Knoten ausfällt, während die Hochverfügbarkeit die VMs dieses Knotens auf den anderen neu startet. Eine VM mit GPU startet nur auf einem Knoten mit einer freien Karte desselben Typs neu, ein weiterer Grund für den nächsten Absatz. Karten braucht nicht jeder Knoten; ein häufiges Muster sind drei Knoten für allgemeine Workloads, einer oder zwei davon mit Beschleunigern für Inferenz.
Halten Sie den GPU-Pool homogen, denn die Live-Migration braucht auf beiden Hosts dieselbe Karte. Ein zweiter Knoten mit derselben Karte gibt Reserve und einen Ort, an den VMs während der Wartung ausweichen können. Ein gemischter Cluster mit einer L40S in einem Knoten und einer RTX PRO 6000 im anderen funktioniert auch, aber jede geplante Wartung bedeutet dann, die Dienste auf dem Knoten mit der abweichenden Karte zu stoppen.
Was wir liefern
Wir liefern die Karten L40S und L4, die Nutanix für NX-Knoten listet, und die RTX PRO 6000 Server Edition, mit Herstellergarantie unter einem EU-Vertrag und auf einer Rechnung. Die Lizenzen für NVIDIA AI Enterprise und vGPU, die C-Profile und Grafik-vGPU-Profile brauchen, laufen über denselben Vertrag. Für Nutanix-NX-Knoten erstellen wir auf Anfrage ein Angebot; welche Karten ein bestimmter Knoten aufnimmt und ob sie mit dem Knoten ausgeliefert werden müssen, muss Nutanix bestätigen. Deployment und Virtualisierungs-Engineering kommen von unserem Engineering-Partner Vixen.UNO unter demselben Vertrag.
FAQ
Welche Nutanix-NX-Knoten unterstützen GPUs?
Wie viele GPUs passen in einen NX-3155-G9?
Unterstützt der NX-8155-G9 die H100?
Die L40S unterstützt kein MIG. Wie teilen wir sie?
Brauchen wir AI Enterprise, um eine MIG-Instanz an eine VM zu geben?
Eine RTX PRO 6000 Server Edition ist auf 450 W statt 600 begrenzt. Ist sie defekt?
Was bringen zwei Karten im Knoten gegenüber einer?
Können wir L40S- und RTX-PRO-6000-Knoten in einem Cluster mischen?
Wir liefern L40S, L4 und RTX PRO 6000 Server Edition sowie die Lizenzen für NVIDIA AI Enterprise und vGPU, die ein AHV-Cluster braucht. Beschreiben Sie Ihre Aufgabe in wenigen Sätzen, unser Team hilft Ihnen weiter: Wir antworten innerhalb eines Werktages. Das erste Gespräch ist kostenlos.
Mit einem Experten sprechenWir antworten innerhalb eines Werktages