BLOG · VERGLEICH ·

Acht NVIDIA RTX PRO 6000 Blackwell mit je 300 W: Max-Q oder begrenzte Server Edition

Eurokommerz, Wien, seit 2006: Private AI/ML · IT Managed Services · Enterprise Training · KI-Hardware & Software

IN KÜRZE
  • Acht NVIDIA RTX PRO 6000 Blackwell mit je 300 W ziehen 2,4 kW für die Karten und nach unserer Schätzung rund 3,6 kW an der Steckdose, gleich ob es Max-Q-Karten sind oder Server-Edition-Karten auf ihrem Minimum von 300 W
  • Nur wenige Gehäuse für acht Karten führen die Max-Q: Supermicros 4U-Server SYS-422GA-NRT und 2CRSis 5U-Server Godì 1.8SP5-D nennen sie in ihren GPU-Listen, ohne Anzahl für die Max-Q, der Godì bei einem Betriebsbereich von nur 10 bis 25 °C; Lenovo, HPE und Dell geben sie für keinen Server mit acht Karten frei
  • Die Max-Q behält ihre Speicherbandbreite von 1.792 GB/s gegenüber 1.597 GB/s der Server Edition, rund 12 Prozent mehr für die Token-Erzeugung; einen veröffentlichten Test beider Editionen bei denselben 300 W gibt es nicht
  • Nur die Server Edition steht auf NVIDIAs vGPU-Liste (ab Release 19.0) und in der Support-Matrix von NVIDIA AI Enterprise, und sie lässt sich später auf 450 oder 600 W anheben, wo Gehäuse und Anschluss es erlauben
  • Für acht Karten im Dauerbetrieb empfehlen wir die Server Edition, auf 300 W begrenzt, wo das Strombudget es verlangt; die Max-Q passt, wo der Hersteller sie freigibt und die Arbeit unter Linux ohne Virtualisierung läuft

Geliefert von Eurokommerz: KI-Server, auf Bestellung gebaut  Konfiguration anfragen →

Max-Q oder Server Edition mit 300 W je Karte

Für einen Server mit acht Karten und einem Strombudget von 300 W je GPU wählen Sie die NVIDIA RTX PRO 6000 Blackwell Server Edition und begrenzen sie auf 300 W, außer der Gehäusehersteller gibt die RTX PRO 6000 Max-Q für genau dieses Modell frei und die Arbeit läuft unter Linux ohne Virtualisierung. Beide kommen auf dieselben 2,4 kW für die Karten und dieselben 768 GB GPU-Speicher. Die Max-Q behält bei dieser Leistung mehr Speicherbandbreite; die Server Edition behält die Unterstützung der Serverhersteller, vGPU, NVIDIA AI Enterprise und die Möglichkeit, später mit 450 oder 600 W zu laufen.

MERKMAL8 × MAX-Q8 × SERVER EDITION
KühlungRadiallüfter auf jeder Kartepassiv, Serverlüfter
Leistung je Karte300 W, fest300-W-Limit einer 600-W-Karte
GPU-Speicher768 GB GDDR7 mit ECC768 GB GDDR7 mit ECC
Bandbreite je Karte1.792 GB/s1.597 GB/s
Gehäuse für acht Kartenwenige Herstellerdie meisten GPU-Server
vGPUnicht auf NVIDIAs Listeab vGPU 19.0
NVIDIA AI Enterprisenicht in der Support-Matrixunterstützt auf zertifizierten Systemen
MIGbis zu 32 × 24 GBbis zu 32 × 24 GB
Später mit 450 oder 600 Wneinwo Gehäuse und Anschluss es erlauben

NVIDIA-Datenblatt zur Max-Q 5349650 (Juni 2026); NVIDIA Product Brief SP-12355-001_v02 zu den Leistungsmodi und dem Minimum von 300 W der Server Edition; NVIDIA-Liste der von vGPU unterstützten GPUs (2. Oktober 2026); Support-Matrix zu NVIDIA AI Enterprise 8.2 (2. September 2026), wie in unserem Vergleich für vier Karten zitiert; Gehäusezeilen nach den Herstellerseiten, gelesen am 24. Oktober 2026.

Die Frage stellt sich wegen der Leistungsaufnahme. Ein Server mit acht Karten zu 600 W braucht nach unserer Schätzung rund 6,3 kW an der Steckdose und je Seite einen Drehstromanschluss, acht Karten zu 300 W kommen mit einem einphasigen 32-A-Anschluss aus. Die halbe Kartenleistung ist der Weg, 768 GB GPU-Speicher in einen Rackplatz zu bringen, der nicht mehr Strom liefert. Dieselbe Wahl für vier Karten behandelt unser Vergleich Max-Q oder Server Edition im 4-GPU-Server.

Welche Gehäuse für acht Karten die Max-Q freigeben

NVIDIA positioniert die Max-Q als Workstation-Karte: Laut Produktseite ermöglicht sie „bis zu vier GPUs in einem einzigen System“. Acht davon in einem Server ergeben eine Konfiguration, die der Serverhersteller qualifizieren muss, und das haben wenige getan. Diese Systeme für acht Karten haben wir am 24. Oktober 2026 geprüft.

SYSTEMBAUFORMMAX-QSERVER EDITION
Supermicro SYS-422GA-NRT4U, 2 × Xeon 6900in der GPU-Liste, ohne Anzahl8 angegeben
2CRSi Godì 1.8SP5-D5U, 2 × EPYC 9005genannt, ohne Anzahlausgenommen
HPE DL380a Gen124U, 2 × Xeon 6nicht genanntbis zu 8
Lenovo SR675 V33Unicht unterstützt8, EPYC der 5. Generation
Dell PowerEdge XE77454U, 2 × EPYC 9005nicht genannt8 mit 600 W

Datenblatt Supermicro SYS-422GA-NRT; Produktseite 2CRSi Godì 1.8SP5-D; HPE QuickSpecs zum ProLiant Compute DL380a Gen12; Lenovo Press LP2364 (8. Mai 2026) und LP2263 (28. Juli 2026); Technical Guide zum Dell PowerEdge XE7745 (Rev. A09, September 2026); alle gelesen am 24. Oktober 2026.

Supermicros SYS-422GA-NRT nennt „Support up to 8 double-width 600W PCIe GPU accelerator cards at 35ºC“, verbindet die Karten über PCIe-5.0-Switches in einer Dual-Root-Anordnung und führt in seiner GPU-Liste sowohl die Max-Q als auch die Server Edition, mit vier Netzteilen zu 3.200 W in einer 3+1-Anordnung. Das Datenblatt nennt acht Karten für die Server Edition und keine Anzahl für die Max-Q; die lassen wir uns deshalb für die genaue Konfiguration von Supermicro bestätigen, bevor wir ein Angebot machen. Auch Supermicros 3U-Server SYS-322GA-NR führt die Max-Q unter seinen GPUs, ohne eine Anzahl dafür, und Supermicros Seite zu RTX-PRO-Systemen nennt für dieses Gehäuse bis zu vier RTX PRO 6000 Blackwell, ohne die Edition anzugeben. Nach den aktuellen Unterlagen bieten wir es deshalb nicht als Server mit acht RTX PRO 6000 an.

2CRSi, ein französischer Hersteller, baut den Godì 1.8SP5-D als luftgekühlten 5U-Server mit zwei AMD EPYC 9005 und acht Steckplätzen doppelter Breite. Die Seite nennt die RTX PRO 5000 Blackwell und die RTX PRO 6000 Blackwell Max-Q mit 300 W, legt die Steckplätze für GPUs bis 350 W aus und vermerkt, dass die Option RTX PRO Blackwell Server Edition die RTX PRO 6000 ausnimmt. Eine Anzahl an Max-Q nennt die Seite nicht. Den Strom liefern 4+1 Netzteile zu 2.000 W. Als Betriebstemperatur gibt 2CRSi 10 bis 25 °C an, gegenüber 10 bis 35 °C bei den Supermicro-Systemen oben.

Lenovos Optionsguide zur Max-Q, LP2364, führt sie für zwei 2U-Server mit je drei Karten und markiert jedes andere ThinkSystem-Modell als nicht unterstützt, auch den SR675 V3 für acht Karten. HPEs QuickSpecs zum DL380a Gen12 nennen die Server Edition und keine Max-Q, und Dells Technical Guide zum XE7745 nennt acht RTX Pro 6000 mit 600 W und erwähnt die Max-Q nicht. Cisco haben wir nicht geprüft und behaupten dazu nichts. Die Rack-Systeme, die die Max-Q in kleinerer Zahl aufnehmen, stehen auf unserer Seite zum Kauf eines Rack-Servers mit Max-Q.

Acht Radiallüfter im Server: Luftstrom und Zulufttemperatur

Ein GPU-Server führt die Luft von vorn nach hinten durch passive Kühlkörper. NVIDIAs Product Brief zur Server Edition nennt den Mindestluftstrom durch jede Karte: 43 CFM bei 25 °C Zuluft, 51 CFM bei 30 °C, 65 CFM bei 35 °C und 125 CFM bei 45 °C. Für acht Karten bei 35 °C sind das mindestens 520 CFM allein durch die Kühlkörper, und die Lüfter des Servers sind dafür ausgelegt.

Die Max-Q bringt ihren eigenen Radiallüfter mit, der Luft aus dem Gehäuseinneren ansaugt und durch die Slotblende hinausbläst. Acht davon sind auf die Ansaugluft angewiesen, die jede Karte von der Seite ihrer Nachbarkarte erreicht. Im Level1Techs-Forum meldet ein Aufbauprotokoll mit vier Max-Q vom Juli 2026 91 °C an den beiden inneren Karten bei 300 W, nahe an den 88 bis 92 °C, bei denen die Karten dort drosselten, und Puget Systems begrenzt seine Desktop-Systeme auf drei Max-Q mit einem freien Steckplatz dazwischen. Ein Serverhersteller, der acht Max-Q freigibt, hat Steckplätze, Luftführung und Lüfterkurven dafür ausgearbeitet. In einem Gehäuse, das nur passive Karten führt, hat das niemand getan.

Bei der Zulufttemperatur unterscheiden sich die beiden Freigaben am stärksten. Supermicro legt sein 4U-Gehäuse für acht 600-W-Karten bei 35 °C aus. 2CRSis Godì, dessen GPU-Liste auf Karten mit 300 W ausgerichtet ist, ist für 10 bis 25 °C spezifiziert. Dell begrenzt den XE7745 mit RTX-Pro-6000-Karten auf 30 °C, und Lenovos thermische Regeln für den 2U-Server SR650a V4 erlauben vier RTX PRO 6000 Server Edition mit 450-W-Begrenzung nur bis 25 °C. Ein Serverraum, der vor dem Rack 27 °C hält, die Obergrenze des von ASHRAE empfohlenen Bereichs, passt zum Supermicro-Gehäuse und zum XE7745, aber nicht zum Godì. Messen Sie die Zuluft am Rackplatz, bevor Sie wählen; unser Leitfaden zur Zulufttemperatur von GPU-Servern erklärt, wo und wie.

Wir bauen Server mit acht Karten nur auf Gehäusen, deren Hersteller die Karte für dieses Modell und diesen Steckplatz freigibt. Nennen Sie uns Rackplatz, Anschluss und Zulufttemperatur, und unser Team antwortet innerhalb eines Werktages mit der passenden Edition und dem passenden Gehäuse.

Die Server Edition auf 300 W begrenzt

NVIDIAs Product Brief SP-12355-001_v02 gibt der Server Edition zwei Leistungsmodi, festgelegt durch die Codierung ihres 16-poligen Kabels: 600 W Maximum als Standard oder 450 W Maximum, jeweils mit einem Minimum von 300 W. Ein Limit zwischen Minimum und codiertem Maximum lässt sich mit nvidia-smi setzen; laut Brief muss ein solches Limit nach jedem Laden des Treibers neu gesetzt werden, während ein über die Board-Management-Schnittstelle (SMBPBI) gesetztes Limit auch nach erneutem Laden des Treibers und nach Neustarts erhalten bleibt. Im Dauerbetrieb gehört das Limit deshalb in den Management-Controller des Servers, wo das Gehäuse es unterstützt, oder in einen Dienst, der es bei jedem Start setzt. Dells Guide zum XE7745 hält etwa fest, dass der Server „does not support user power cap“; der Weg hängt also vom Gehäuse ab. Die Befehle stehen in unserem Leitfaden zur Leistung der Server Edition mit 600, 450 und 300 W.

Das Limit kostet Rechenleistung. In einem Test im Level1Techs-Forum verarbeitete eine auf 300 W begrenzte RTX PRO 6000 Workstation Edition (600 W) in llama-bench einen Prompt von 512 Token mit Llama 3.3 70B mit 906,64 Token pro Sekunde, bei 600 W mit 1.734,59; die Token-Erzeugung fiel dabei nur von 20,54 auf 19,29 Token pro Sekunde. Die Prompt-Verarbeitung lief bei 300 W auf dieser Karte also mit rund 52 Prozent des Werts bei 600 W.

Die Max-Q ist für 300 W ausgelegt. NVIDIA nennt für sie in diesem Budget 110 TFLOPS FP32 und 3.511 AI TOPS, und die 120 TFLOPS der Server Edition gelten für deren volle Leistung. Auf dem Papier liegt die Max-Q bei 300 W in der Bandbreite vorn. Einen Rechenleistungswert der Server Edition bei 300 W veröffentlicht NVIDIA nicht, und einen veröffentlichten Test einer Max-Q gegen eine auf 300 W begrenzte Server Edition haben wir nicht gefunden; wie die beiden bei 300 W in der Rechenleistung abschneiden, ist also nicht bekannt.

Bandbreite: 1.792 GB/s gegen 1.597 GB/s

Die Token-Erzeugung eines dichten Modells liest jedes Gewicht einmal je Token, die Obergrenze je Gespräch ist also die Speicherbandbreite geteilt durch die gelesenen Bytes. Das Power Limit ändert die Bandbreite kaum. Für Llama 3.3 70B in FP8, rund 70,6 GB je Token, ergibt unsere Rechnung rund 25 Token pro Sekunde auf einer Max-Q und rund 23 auf einer Server Edition, für ein Tensor-Parallel-Paar rund 51 gegen 45, vor den Kosten des Austauschs über PCIe. Über acht Karten summiert hat der Max-Q-Server 14.336 GB/s und der Server-Edition-Server 12.776 GB/s, ein Abstand von 12 Prozent.

Für interaktiven Chat und Agenten, bei denen die Erzeugung überwiegt, antwortet die Max-Q bei denselben 300 W dank ihrer Bandbreite je Nutzer etwas schneller. Bei langen Dokumenten, RAG mit großen Prompts und Batch-Jobs überwiegt die Verarbeitung des Prompts, und dort entscheidet das Power Limit mehr als die Edition. Ein Server, der später 450 W je Karte bekommen darf, gewinnt vor allem auf dieser Seite, und diesen Schritt kann nur die Server Edition gehen: In StorageReviews Übersicht vom Oktober 2026, gemessen mit einer Karte der Workstation Edition, kostete die 450-W-Begrenzung gegenüber 600 W 2 bis 5 Prozent LLM-Durchsatz bei kurzem und 4 bis 9 Prozent bei langem Kontext.

vGPU, NVIDIA AI Enterprise und MIG auf acht Karten

NVIDIAs Liste der von vGPU unterstützten GPUs, aktualisiert am 2. Oktober 2026, nennt die RTX PRO 6000 Server Edition ab Release 19.0 und ihre flüssiggekühlte Version ab 20.0, aber keine Max-Q. Lenovos Guide zur Max-Q-Option hält fest: „vGPU software support: No support“. Auf einem Max-Q-Server erhalten virtuelle Maschinen ganze Karten per PCIe-Passthrough, und ein Thread im Proxmox-Forum mit Hosts von zwei bis acht Karten berichtet von Fehlern beim Zurücksetzen nach dem Passthrough, wobei die Max-Q zu den am häufigsten betroffenen Karten gehört. Den Stand dazu fasst unsere Seite zur Max-Q in virtuellen Maschinen zusammen.

NVIDIA AI Enterprise folgt derselben Linie. Die Support-Matrix 8.2 führt die Server Edition in Servern von der Liste der NVIDIA-Certified Systems als unterstützt, und die Max-Q steht nicht darin. Open-Source-Serving-Engines auf Bare Metal brauchen keine NVIDIA-Lizenz; die Frage stellt sich also für NIM, vGPU-Profile für Compute und den Enterprise-Support von NVIDIA. Wo die Lizenz genutzt wird, gilt sie je GPU, acht Karten brauchen also auf beiden Editionen acht Lizenzen. Die Profile je Karte stehen in unserem Leitfaden zu den vGPU-Profilen der Server Edition.

MIG funktioniert auf beiden Editionen: Jede Karte lässt sich in bis zu vier Instanzen zu 24 GB teilen, acht Karten ergeben also bis zu 32 isolierte GPUs für Container auf einem Linux-Host. Die Max-Q muss dafür zuerst mit NVIDIAs DisplayModeSelector in den Compute-Modus geschaltet werden, der ihre Displayausgänge abschaltet; die Server Edition wird mit abgeschalteten Ausgängen ausgeliefert. Einzelheiten stehen in unserem Leitfaden zu den MIG-Profilen der RTX PRO 6000.

Strom, Anschluss und Rackdichte bei 2,4 kW Kartenleistung

Die Tabelle folgt der Methode unserer anderen Leitfäden für acht Karten: Karten plus zwei AMD EPYC 9555 mit ihrer Standard-TDP von 360 W, dazu 15 Prozent für Arbeitsspeicher, Laufwerke, Netzwerkkarten, Lüfter und Wandlungsverluste. Eine Messung am gelieferten System ersetzt die 15 Prozent.

ACHT KARTENKARTENAN DER STECKDOSEANSCHLUSS JE SEITE
Max-Q, 300 W2,4 kWrund 3,6 kW32 A einphasig
Server Edition, Limit 300 W2,4 kWrund 3,6 kW32 A einphasig
Server Edition, 450 W3,6 kWrund 5,0 kW32 A einphasig
Server Edition, 600 W4,8 kWrund 6,3 kW16 A Drehstrom

Unsere Schätzung aus NVIDIAs Leistungsangaben und AMDs Seite zum EPYC 9555; Anschlüsse mit 80 Prozent geplant: 2,94 kW bei 230 V und 16 A, 5,89 kW bei 32 A, 8,87 kW bei 400 V und 16 A Drehstrom. Dell schätzt für seine Server mit acht 600-W-Karten rund 8 kW bei Volllast.

Mit 300 W je Karte liegt der Server über den 2,94 kW, die wir für einen 16-A-Anschluss an 230 V planen; er braucht also je Seite einen 32-A-Anschluss, und bei A- und B-Einspeisung trägt jede Seite den ganzen Server. Derselbe 32-A-Anschluss trägt die Server Edition auch mit 450 W, und diesen Schritt kann die Max-Q nicht gehen. Die gesamte Leistung wird zu Wärme: Rund 3,6 kW sind 12.300 BTU/h und brauchen bei 11 °C Temperaturanstieg etwa 580 CFM Luft, gegenüber rund 1.000 CFM bei 6,3 kW, nach den 160 CFM je kW aus unserem Leitfaden zu Strom und Kühlung im GPU-Rack.

Für das Rack heißt das nach unserer Schätzung: Ein luftgekühlter Rackplatz mit 10 kW nimmt zwei Server mit acht Karten zu 300 W auf, 7,2 kW, oder einen mit 600 W. Das verdoppelt den GPU-Speicher je Rack, auf Kosten des Durchsatzes je Karte, wie unser Leitfaden zum luftgekühlten KI-Server im 10-kW-Rack auch für andere Kombinationen zeigt. Anschlussarten, Kabel und A/B-Aufbau stehen in unserem Leitfaden GPU-Server Strom: 16 A, 32 A, Drehstrom, die Kartenzahlen der Max-Q an 230 V auf unserer Seite zum Stromverbrauch der Max-Q an 230 V.

Was 768 GB auf beiden Editionen aufnehmen

Beide Editionen tragen 96 GB je Karte, von denen der Treiber 95,6 GiB meldet. Nach unserer Regel für Nutzer je Karte, 0,9 × 95,6 GiB abzüglich 3 GiB je Karte, halten acht Karten auf beiden Editionen 664,3 GiB für Gewichte und KV-Cache. Llama 3.3 70B in FP8 mit 8K hält als vier Tensor-Parallel-Paare mit FP8-KV-Cache 312 gleichzeitige Gespräche, gpt-oss-120b als acht Kopien 152 Gespräche mit 32K. Das Power Limit ändert, wie schnell diese Gespräche laufen; ihre Zahl bleibt gleich. Die vollständige Modellliste und die Aufteilungen stehen in unserem Leitfaden 8× RTX PRO 6000 Server Edition: Modelle und Nutzer, und jede Zahl dort gilt auch für acht Max-Q.

Welche Edition für welchen Server mit acht Karten

  • Gemeinsamer Inferenzdienst im Dauerbetrieb: Server Edition, auf 300 W begrenzt, solange der Anschluss 32 A hat, und auf 450 W angehoben, sobald er es erlaubt.
  • Virtuelle Maschinen, vGPU-Desktops oder NIM: Server Edition, auf einem Server von der Liste der NVIDIA-Certified Systems.
  • Ein Raum, der vor dem Rack keine 25 °C hält: ein Gehäuse, das sein Hersteller für Ihre Zulufttemperatur freigibt, etwa Supermicros SYS-422GA-NRT bis 35 °C.
  • Ein Entwicklungsteam auf Bare Metal, das schon mit Max-Q-Workstations arbeitet: Max-Q, in einem Gehäuse mit Freigabe wie Supermicros SYS-422GA-NRT, sobald Supermicro die Anzahl an Max-Q bestätigt, damit Container und Treiber unverändert vom Schreibtisch ins Rack wechseln.
  • Mehr als 3,6 kW am Rackplatz verfügbar: Server Edition mit 450 oder 600 W, wie auf unserer Seite Server mit 8× RTX PRO 6000 Server Edition kaufen beschrieben.

Dieses System können Sie bei uns kaufen: Unser Team legt die Konfiguration auf Ihre Arbeitslast und Ihr Budget aus und antwortet innerhalb eines Werktages. Wir liefern beide Editionen und bauen Server mit acht Karten auf Bestellung, vor der Lieferung montiert und getestet, mit Herstellergarantie auf jede Komponente, einem EU-Vertrag und einer EU-Rechnung. Schicken Sie uns Modelle, Nutzerspitze und die verfügbare Leistung je Rackplatz, und wir antworten mit Edition, Power Limit und Gehäuse.

FAQ

Acht RTX PRO 6000 Max-Q oder acht Server Edition mit 300 W?
Für einen Rack-Server im Dauerbetrieb die auf 300 W begrenzte Server Edition: Sie ist passiv, von den meisten GPU-Serverherstellern freigegeben, für vGPU und NVIDIA AI Enterprise unterstützt und kann später mit 450 oder 600 W laufen. Die Max-Q passt, wo der Gehäusehersteller sie für dieses Modell und diese Kartenzahl freigibt und die Arbeit unter Linux ohne Virtualisierung läuft.
Welche Server unterstützen acht RTX PRO 6000 Max-Q?
Stand Oktober 2026 nennt Supermicros 4U-Server SYS-422GA-NRT, der bis zu acht Karten doppelter Breite aufnimmt, die Max-Q in seiner GPU-Liste, ebenso 2CRSis 5U-Server Godì 1.8SP5-D mit acht Steckplätzen und einem Betriebsbereich von 10 bis 25 °C; keiner der beiden nennt eine Anzahl an Max-Q, die muss also der Hersteller bestätigen. Lenovo gibt die Max-Q für keinen Server mit acht Karten frei, und HPEs DL380a Gen12 und Dells XE7745 führen sie nicht.
Kann die RTX PRO 6000 Server Edition mit 300 W laufen?
Ja. NVIDIAs Product Brief nennt in beiden Leistungsmodi ein Minimum von 300 W. Ein mit nvidia-smi gesetztes Limit muss nach jedem Laden des Treibers neu gesetzt werden; ein über die Board-Management-Schnittstelle gesetztes Limit bleibt bestehen. Eine veröffentlichte Messung der Leistung der Server Edition bei 300 W haben wir nicht gefunden.
Wie hoch ist der Stromverbrauch eines Servers mit acht RTX PRO 6000 bei 300 W?
Die Karten ziehen 2,4 kW. Mit zwei Prozessoren zu 360 W und 15 Prozent für den Rest schätzen wir auf beiden Editionen rund 3,6 kW an der Steckdose. Das ist mehr, als ein 16-A-Anschluss an 230 V bei 80 Prozent trägt; planen Sie je Seite einen 32-A-Anschluss.
Ist die Max-Q schneller als eine auf 300 W begrenzte Server Edition?
Bei der Token-Erzeugung kann sie es sein, weil ihre 1.792 GB/s 12 Prozent über den 1.597 GB/s der Server Edition liegen und das Power Limit die Bandbreite nicht ändert. Einen veröffentlichten Test beider bei 300 W haben wir nicht gefunden; bei der Prompt-Verarbeitung ist der Vergleich also offen.
Wie viele Nutzer schafft ein Server mit acht RTX PRO 6000 bei 300 W?
Nach unserer Regel für Nutzer je Karte auf beiden Editionen gleich viele: Llama 3.3 70B in FP8 mit 8K hält als vier Tensor-Parallel-Paare mit FP8-KV-Cache 312 gleichzeitige Gespräche. Das Limit von 300 W senkt das Tempo jedes Gesprächs, vor allem bei langen Prompts, nicht die Zahl, die hineinpasst.

Wir liefern die RTX PRO 6000 Max-Q und Server Edition und bauen Server mit acht Karten für Ihr Strombudget, geliefert in der ganzen EU. Beschreiben Sie Ihre Aufgabe in wenigen Sätzen, unser Team hilft Ihnen weiter. Wir antworten innerhalb eines Werktages.

Mit einem Experten sprechen
Mit einem Experten sprechen

Wir antworten innerhalb eines Werktages

Mit dem Absenden stimmen Sie zu, dass wir Ihre Angaben zur Beantwortung Ihrer Anfrage verarbeiten; siehe unsere Datenschutzerklärung.

request@eurokommerz.at
Jordangasse 7, 1010 Wien