BLOG · GUIDE · · AKTUALISIERT

Nutanix und GPUs: Aufbau eines KI-Clusters

Eurokommerz, Wien, seit 2006: Private AI/ML · IT Managed Services · Enterprise Training · KI-Hardware & Software

IN KÜRZE
  • Sechs NX-Plattformen nehmen laut der NX-FAQ von Nutanix (Februar 2026) GPUs auf, verteilt auf die Generationen G9 und G10; die meisten Karten pro Knoten fasst unter ihnen der NX-9151-G9 mit vier L40S oder H100 NVL
  • Ob ein Knoten GPUs unterstützt, lässt sich nicht am Modellcode ablesen: Der NX-8150G-G10 nimmt drei Karten auf, während der NX-8155-G9 im selben 2U1N-Chassis nicht auf der GPU-Liste von Nutanix steht
  • Die L40S lässt sich mit MIG gar nicht teilen; die RTX PRO 6000 Server Edition teilt sich in vier 24-GB-Instanzen
  • NVIDIA unterstützt AHV als generisches Linux mit KVM, und seine Seite zu Linux mit KVM, die Nutanix AHV nennt, führt MIG-gestützte vGPU für die RTX PRO 6000 und 4500 Server Edition; ob Ihr AOS-Release sie unterstützt, muss Nutanix bestätigen
  • MIG-Instanzen können nicht per Peer-to-Peer über GPUs hinweg kommunizieren, und NCCL funktioniert mit MIG nicht; MIG-Scheiben eignen sich daher nicht für verteiltes Training

Welche Knoten Karten aufnehmen, und welche nicht

Ein hyperkonvergenter Knoten ist ein Server, der Storage, Rechenleistung und Netzwerk unter AOS in einem System vereint. Laufwerkskäfige und Lüfter lassen oft keinen Platz für eine Full-Size-Karte, deshalb nehmen manche NX-Modelle bis zu vier Beschleuniger auf und andere keinen.

KNOTENFORMFAKTORGPUs
NX-9151-G92U1Nbis 4× L40S oder H100 NVL 94 GB
NX-3155-G92U1Nbis 2× L40S oder bis 4× L4
NX-8150G-G102U1Nbis 3× L4, A16 oder L40S
NX-8155AS-G102U1Nbis 3× L4 oder A16
NX-1175S-G101U1Nbis 2× L4
NX-1150S-G92U1NGPU-Option für den Edge (L4)
NX-8170, NX-3060, NX-3035, NX-8155, NX-8155A, NX-8173AS, NX-1120AS1U1N / 2U1N / 2U2N / 2U4Nnicht auf der GPU-Liste

Plattformen nach der NX-FAQ von Nutanix (Februar 2026); Kartenzahlen nach den Spec-Sheets der Knoten, wie Händler sie wiedergeben (G10-Knoten werden seit Oktober 2025 ausgeliefert). Die Spec-Sheet-Liste von Nutanix (September 2026) zeigt außerdem einen NX-9183-G10 in 4U für KI-Workloads; prüfen Sie vor der Bestellung das Spec-Sheet des exakten Modells.

Der Modellcode verrät nicht, ob ein Knoten GPUs aufnimmt; die Tabelle oben zeigt es. Verlässlich sind zwei Prüfungen: die GPU-Zeile im Spec-Sheet des Modells und die für das Chassis validierte Kartenliste. Der NX-9151-G9 akzeptiert die H100 NVL; der NX-3155-G9 mit demselben 2U1N-Formfaktor endet bei zwei L40S; die H100 80 GB PCIe ist qualifiziert, wird von Nutanix aber nicht verkauft. Die Grenze setzen Strom und Luftstrom, nicht die Größe des Gehäuses. Wir liefern die Karten L40S und L4, die Nutanix für diese Knoten listet. Schildern Sie kurz Knoten und Workload, und unser Team hilft Ihnen weiter.

Strom- und Luftstromgrenzen für GPUs in NX-Knoten

Die Leistungsspanne der Baureihe ist groß: Ein Edge-Knoten zieht ein paar hundert Watt, während ein NX-9151-G9 mit vier 350-W-Karten ein Leistungsbudget von mehreren kVA und ein passendes Kühlbudget braucht: ein eigenes Gespräch mit Ihrem Rechenzentrum über Phase und Reihenkühlung.

Die zweite Grenze ist die Kühlung, denn Serverkarten sind passiv. L40S und RTX PRO 6000 Server Edition haben keine eigenen Lüfter und sind auf den Front-to-Back-Luftstrom des Chassis angewiesen. Ohne gerichteten Luftstrom überhitzt die Karte: In NVIDIAs Forum wurde eine L40S in einem Workstation-Gehäuse gemeldet, die im Leerlauf 100 °C erreichte. Eine passive Karte braucht ein Servergehäuse, das Luft durch sie hindurchdrückt.

Passthrough, Time-sliced vGPU und MIG-gestützte vGPU

METHODEWIE GETEILT WIRDISOLATION & LIZENZ
Passthroughganze Karte an eine VMvollständig; keine vGPU-Lizenz für Compute (Grafik-Workstations brauchen vWS)
Time-sliced vGPUZeitteilung, Prozesse wechseln sich abeigener Framebuffer pro VM, geteilte Rechenleistung, keine Fehlerisolation; Lizenz Pflicht
MIG-gestützte vGPUparallel arbeitende Hardware-ScheibenHardware-Isolation; Lizenz erforderlich

Für Pläne mit mehreren Karten pro Knoten ist eine Grenze von MIG wichtig. Laut der MIG-Dokumentation gibt es mit aktiviertem MIG keine Peer-to-Peer-Kommunikation zwischen Instanzen auf verschiedenen GPUs, weder über PCIe noch über NVLink, und NCCL wird nicht unterstützt. Im eigenen Forum vertritt NVIDIA die Position, dass verteiltes Training über MIG theoretisch per GPUDirect RDMA über das Netzwerk laufen kann, aber langsamer als auf einer größeren Scheibe oder mit abgeschaltetem MIG. Eine Karte zu partitionieren und schneller Austausch von Karte zu Karte schließen einander daher aus.

MIG-Instanzen pro Karte

KARTEMAX. MIG-INSTANZENKLEINSTE SCHEIBE
RTX PRO 6000 Blackwell SE, 96 GB41g.24gb, 24 GB, ein Viertel der SMs
RTX PRO 4500 Blackwell SE, 32 GB21g.16gb, 16 GB
H100 NVL, 94 GB71g.12gb, 12 GB
H200 NVL, 141 GB71g.18gb, je 16,5 GB laut NVIDIAs Produktseite
L40S, L4, A2, A16kein MIGnur Passthrough oder Time-sliced vGPU

Die letzte Zeile ist bei der Wahl des Knotens wichtig: Die L40S ist sowohl für den NX-9151-G9 als auch für den NX-3155-G9 gelistet, und sie unterstützt kein MIG. Teams, die die L40S wegen ihrer Rechenleistung wählen, stellen manchmal erst später fest, dass sie sich nicht in Hardware partitionieren lässt; auf diesen Knoten wird sie nur per Time-Slicing geteilt. Die H100 NVL in der Tabelle ist die, die Nutanix für den NX-9151-G9 listet; laut Hinweis eines Händlers war der letzte Bestelltermin der 1. November 2025, und wir liefern sie nicht.

vGPU- und MIG-Unterstützung unter Nutanix AHV

NVIDIAs Support-Seite für Nutanix AHV (aktualisiert am 29. September 2026) unterstützt AHV als generischen Hypervisor vom Typ Linux mit KVM, und für solche Hypervisoren überlässt NVIDIA die unterstützten GPUs und Funktionen dem Hersteller des Hypervisors. Gewöhnliches Time-sliced vGPU funktioniert. NVIDIAs Seite zu den validierten Plattformen für Linux mit KVM (aktualisiert am 29. September 2026), die Nutanix AHV unter den Hypervisor-Herstellern nennt, führt 1:1- und Time-sliced-MIG-gestützte vGPU für die RTX PRO 6000 und RTX PRO 4500 Blackwell Server Edition und überlässt die unterstützten Releases dem Hersteller; fragen Sie daher Nutanix, ob Ihr AOS- und AHV-Release sie unterstützt, bevor Sie MIG-Instanzen für VMs einplanen. Prüfen Sie die Kompatibilität für Ihre AOS-Version vor der Bestellung: NVIDIA AI Enterprise 8.2 führt Nutanix AOS 6.5 bis 6.10 mit dem Vermerk „nur Einzelknoten“, und NVIDIA unterstützt AI Enterprise nur auf NVIDIA-Certified Systems, einer Liste, auf der der NX-9151-G9 mit Stand Oktober 2026 der einzige NX-Knoten ist.

Zwei weitere Punkte zeigen sich erst nach dem Deployment. Der erste ist die Live-Migration, die für eine vGPU-VM die identische physische Karte auf dem Zielhost und einen Treiber aus demselben Release-Zweig in derselben oder einer neueren Version verlangt und zwischen verschiedenen MIG-Profilen nie funktioniert. Nutanix gibt an, dass AHV vGPU-VMs per Live-Migration auf einen Host mit einem passenden freien vGPU-Profil verschiebt; NVIDIAs Support-Seite behandelt AHV als generisches Linux mit KVM, lassen Sie sich daher von Nutanix bestätigen, dass Ihr AOS- und vGPU-Release die Live-Migration unterstützt, bevor Sie Wartungen darauf aufbauen. Der zweite ist das Verhalten ohne gültige Lizenz: NVIDIAs aktueller Leitfaden zur Client-Lizenzierung (aktualisiert am 29. September 2026) gibt an, dass die Leistung einer Grafik-vGPU nachlässt, wenn die VM nach 20 Minuten keine Lizenz hat, und nach einem Tag weiter nachlässt, ohne Zahlen zu nennen; die Begrenzungen auf 15 fps und 3 fps stammen aus dem Leitfaden zu vGPU-Release 16, das die RTX PRO Blackwell nicht unterstützt. Eine Compute-vGPU (C-Profil) fällt nach einer Karenzzeit von 20 Minuten auf Leerlaufniveau, laut der Lizenzseite von NVIDIA AI Enterprise (2. September 2026). C-Compute-Profile gibt es nur mit NVIDIA AI Enterprise, lizenziert pro GPU, während Grafik-vWS pro gleichzeitigem Nutzer lizenziert wird; das sind also zwei getrennte Budgetposten.

Wir liefern die Lizenzen für NVIDIA AI Enterprise und vGPU, die ein AHV-Cluster braucht, im selben Angebot wie die GPUs. Nennen Sie uns Ihre Knoten und die geplanten vGPU-Profile, und wir antworten innerhalb eines Werktages.

Wie viele VMs pro Karte

vGPU-TYPSPEICHER PRO VMVMs PRO KARTE
DC-96C96 GB1
DC-48C48 GB2
DC-24C24 GB4
DC-12C12 GB8
DC-8C8 GB12

Compute-Profile für die RTX PRO 6000 Blackwell Server Edition

Für virtuelle Desktops nennt NVIDIAs Sizing-Guide zwei bis vier schwere Nutzer pro RTX PRO 6000 (Profile DC-12Q bis DC-24Q) und sechs bis acht leichte Nutzer pro RTX PRO 4500 Server Edition (DC-4Q). Der Guide ergänzt, dass der standardmäßige Best-Effort-Scheduler oft die zwei- bis dreifache Nutzerdichte erlaubt. Beim Monitoring sollte die Videospeicher-Belegung einer VM selten über 90 Prozent steigen und im Schnitt unter 70 Prozent liegen.

GEMESSEN WURDEOHNE PARTITIONIERUNGMIT MIG
flan-t5-base auf A100 40 GB (Red Hat)~4.200 Tok/s~9.800 Tok/s auf 7 Scheiben

Quelle: Blog von Red Hat, „Sharing is caring: How to make the most of your GPUs part 2 – Multi-instance GPU“, 6. September 2024: eine A100 40 GB, aufgeteilt in 7 × 1g.5gb; eine Messung auf Ampere, nicht auf den oben behandelten Karten.

Jede Scheibe ist langsamer als die ganze Karte, aber ein kleines Modell sättigt eine A100 nicht, daher lieferten im Test von Red Hat sieben Scheiben zusammen etwa das 2,3-Fache des Durchsatzes der ungeteilten Karte.

Clustergröße und GPU-Pool: die Startkonfiguration

Die funktionierende Startkonfiguration besteht aus drei Knoten: RF2-Replikation läuft auf dreien, und der Cluster hält seine Daten verfügbar, wenn ein Knoten ausfällt, während die Hochverfügbarkeit die VMs dieses Knotens auf den anderen neu startet. Eine VM mit GPU startet nur auf einem Knoten mit einer freien Karte desselben Typs neu, ein weiterer Grund für den nächsten Absatz. Karten braucht nicht jeder Knoten; ein häufiges Muster sind drei Knoten für allgemeine Workloads, einer oder zwei davon mit Beschleunigern für Inferenz.

Halten Sie den GPU-Pool homogen, denn die Live-Migration braucht auf beiden Hosts dieselbe Karte. Ein zweiter Knoten mit derselben Karte gibt Reserve und einen Ort, an den VMs während der Wartung ausweichen können. Ein gemischter Cluster mit einer L40S in einem Knoten und einer RTX PRO 6000 im anderen funktioniert auch, aber jede geplante Wartung bedeutet dann, die Dienste auf dem Knoten mit der abweichenden Karte zu stoppen.

Was wir liefern

Wir liefern die Karten L40S und L4, die Nutanix für NX-Knoten listet, und die RTX PRO 6000 Server Edition, mit Herstellergarantie unter einem EU-Vertrag und auf einer Rechnung. Die Lizenzen für NVIDIA AI Enterprise und vGPU, die C-Profile und Grafik-vGPU-Profile brauchen, laufen über denselben Vertrag. Für Nutanix-NX-Knoten erstellen wir auf Anfrage ein Angebot; welche Karten ein bestimmter Knoten aufnimmt und ob sie mit dem Knoten ausgeliefert werden müssen, muss Nutanix bestätigen. Deployment und Virtualisierungs-Engineering kommen von unserem Engineering-Partner Vixen.UNO unter demselben Vertrag.

FAQ

Welche Nutanix-NX-Knoten unterstützen GPUs?
Sechs Plattformen aus den Generationen G9 und G10, laut der NX-FAQ von Nutanix vom Februar 2026: NX-9151-G9 (bis zu vier L40S oder H100 NVL), NX-3155-G9 (bis zu zwei L40S oder vier L4), NX-8150G-G10 (bis zu drei L4, A16 oder L40S), NX-8155AS-G10 (bis zu drei L4 oder A16), NX-1175S-G10 (bis zu zwei L4) und der Edge-Knoten NX-1150S-G9. Die Spec-Sheet-Liste von Nutanix (September 2026) zeigt außerdem den neueren NX-9183-G10 in 4U für KI-Workloads; prüfen Sie dessen Spec-Sheet.
Wie viele GPUs passen in einen NX-3155-G9?
Bis zu zwei L40S oder bis zu vier L4, in einem 2U-Gehäuse mit einem Knoten; die H100 80 GB ist qualifiziert, wird von Nutanix aber nicht verkauft. Strom und Luftstrom setzen die Grenze, nicht das Gehäuse.
Unterstützt der NX-8155-G9 die H100?
Nein. Der NX-8155-G9 steht gar nicht auf der GPU-Liste von Nutanix; sein GPU-Pendant ist der NX-8150G-G10 mit bis zu drei L4, A16 oder L40S. Die H100 NVL bleibt dem NX-9151-G9 vorbehalten.
Die L40S unterstützt kein MIG. Wie teilen wir sie?
Time-sliced vGPU. Das Profil L40S-8Q ergibt sechs Instanzen pro Karte; NVIDIAs Layout mit gemischten Größen (vier) gilt unter AHV nicht, wo Nutanix einen Profiltyp pro GPU beibehält. Es gibt keine Hardware-Speicher- oder Fehlerisolation; die Karte wechselt zeitlich zwischen den VMs.
Brauchen wir AI Enterprise, um eine MIG-Instanz an eine VM zu geben?
Für C-Compute-Profile ja: Sie kommen nur mit AI Enterprise, lizenziert pro GPU im Server, und NVIDIA unterstützt AI Enterprise nur auf NVIDIA-Certified Systems. MIG selbst auf blankem Linux braucht keine Lizenz; Lizenzkosten entstehen, sobald eine Scheibe über einen Hypervisor an eine VM gegeben wird.
Eine RTX PRO 6000 Server Edition ist auf 450 W statt 600 begrenzt. Ist sie defekt?
Meist ist es das Kabel: Die 12V-2×6-Sense-Konfiguration setzt das Power-Limit, und manche beigelegten Serverkabel sind auf 450 W konfiguriert. Das Kabel für 600 W hat eine eigene Teilenummer; nehmen Sie es in die Stückliste auf.
Was bringen zwei Karten im Knoten gegenüber einer?
Sie bilden keinen gemeinsamen Speicherpool: Zwei 48-GB-Karten bleiben zwei getrennte Karten mit je 48 GB. Ein Modell, das für eine Karte zu groß ist, lässt sich trotzdem auf beide verteilen; für reine PCIe-Karten wie die L40S empfiehlt die Dokumentation von vLLM Pipeline- statt Tensor-Parallelismus. Ansonsten halten die beiden Karten mehrere Modelle nebeneinander resident (Reranker, Embeddings, Haupt-LLM) oder bedienen doppelt so viele Nutzer.
Können wir L40S- und RTX-PRO-6000-Knoten in einem Cluster mischen?
Es funktioniert, aber wo Live-Migration von vGPU-VMs unterstützt wird, verlangt sie identische Karten; jede geplante Wartung bedeutet also Service-Stopps auf dem Knoten ohne Gegenstück. Halten Sie den GPU-Pool homogen, wo es geht.

Wir liefern L40S, L4 und RTX PRO 6000 Server Edition sowie die Lizenzen für NVIDIA AI Enterprise und vGPU, die ein AHV-Cluster braucht. Beschreiben Sie Ihre Aufgabe in wenigen Sätzen, unser Team hilft Ihnen weiter: Wir antworten innerhalb eines Werktages. Das erste Gespräch ist kostenlos.

Mit einem Experten sprechen
Mit einem Experten sprechen

Wir antworten innerhalb eines Werktages

Mit dem Absenden stimmen Sie zu, dass wir Ihre Angaben zur Beantwortung Ihrer Anfrage verarbeiten; siehe unsere Datenschutzerklärung.

request@eurokommerz.at
Jordangasse 7, 1010 Wien