ComfyUI auf NVIDIA RTX PRO 2000, 4000 und 4500 Blackwell: was von SD 3.5 und FLUX passt

Welche Bildmodelle in ComfyUI in 16, 24 und 32 GB passen

Auf der NVIDIA RTX PRO 2000 Blackwell mit 16 GB kann ComfyUI SDXL und Stable Diffusion 3.5 Medium mit allen Teilen im Grafikspeicher halten. Die NVIDIA RTX PRO 4000 Blackwell mit 24 GB leistet dasselbe für FLUX.2 klein 4B und, mit dem Text-Encoder in FP8, für Stable Diffusion 3.5 Large. Die NVIDIA RTX PRO 4500 Blackwell Workstation Edition mit 32 GB nimmt zusätzlich Stable Diffusion 3.5 Large mit dem 16-Bit-Text-Encoder auf und die Modelldatei von FLUX.1-dev in 16 Bit, die ein Unternehmen nur mit einer kommerziellen Lizenz einsetzen darf.

Diese Aussagen sind Rechnungen. Wir haben am 10. November 2026 die Größen der Dateien genommen, die die Herausgeber selbst auf Hugging Face veröffentlichen, und sie gegen 90 Prozent des Speichers jeder Karte gestellt. Ausgeführt haben wir nichts, und eine veröffentlichte Messung der Bildgenerierung auf diesen drei Karten haben wir nicht gefunden; Sekunden je Bild stehen in diesem Artikel deshalb nicht.

Wie gerechnet wird

Ein ComfyUI-Workflow für ein aktuelles Bildmodell lädt drei Arten von Dateien: das Diffusionsmodell, einen oder mehrere Text-Encoder und einen kleinen VAE, der aus dem Ergebnis Pixel macht. Die Einzeldatei-Checkpoints von Stable Diffusion 3.5 und FLUX enthalten nur das Diffusionsmodell. Der Text-Encoder kommt getrennt und ist oft der Teil, der neben dem Modell keinen Platz findet: Der T5-XXL-Encoder von Stable Diffusion 3.5 ist in 16 Bit eine Datei von 9,79 GB und in FP8 von 4,89 GB, und der Text-Encoder von FLUX.2-dev hat allein 48,02 GB.

Gegen diese Dateien stellen wir das 0,9-Fache des Kartenspeichers, gezählt auf die Nenngröße: 14,4 GiB bei 16 GB, 21,6 GiB bei 24 GB, 28,8 GiB bei 32 GB und 43,2 GiB bei 48 GB. Der Treiber auf der gelieferten Karte meldet etwas weniger als die Nenngröße, und dieser Wert entscheidet. Das übrige Zehntel bleibt für das, was ein Lauf über die Dateien hinaus braucht. Eine veröffentlichte Zahl für diesen Anteil haben wir nicht; „passt“ heißt hier also, dass die Dateien passen, und sagt nichts über eine bestimmte Auflösung.

Daraus ergeben sich drei Fälle, und die Tabelle nennt sie so:

• vollständig: Diffusionsmodell, Text-Encoder und VAE passen zusammen;
• nur Modell: das Diffusionsmodell passt, der Text-Encoder muss entladen oder im Arbeitsspeicher gehalten werden;
• teilweise: schon die Modelldatei überschreitet die 90 Prozent; das Modell läuft nur mit teilweisem Nachladen aus dem Arbeitsspeicher, also langsamer.

Dateigrößen und Lizenzen der Modelle

Dateilisten und Lizenzangaben der Repositorys der Herausgeber auf Hugging Face (stabilityai, black-forest-labs, Qwen), gelesen am 10. November 2026; Summen und Umrechnung in GiB sind unsere Rechnung.

unsere Rechnung aus der ersten Tabelle gegen 14,4, 21,6, 28,8 und 43,2 GiB. Die Karten sind RTX PRO 2000 Blackwell (16 GB), RTX PRO 4000 Blackwell (24 GB), RTX PRO 4500 Blackwell Workstation Edition (32 GB) und RTX PRO 5000 Blackwell (48 GB). Keine Messungen.

Black Forest Labs veröffentlicht von FLUX.2 klein 4B auch Fassungen in FP8 und NVFP4. Deren Größen haben wir nicht gelesen; sie fehlen deshalb in der Tabelle, ebenso die neuere Familie FLUX.3 image klein vom Oktober 2026.

Sie können die Workstation allein bestellen, die Einrichtung von ComfyUI mit SDXL und FLUX.2 klein 4B allein oder beides zusammen: die Workstation mit allem fertig installiert und eingerichtet; schreiben Sie uns, wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

RTX PRO 2000 Blackwell: ComfyUI mit 16 GB und 70 W

Die RTX PRO 2000 Blackwell ist die Karte für eine kompakte Büro-Workstation: 16 GB GDDR7 mit ECC bei 288 GB/s, 70 W ohne Stromkabel, halbe Bauhöhe (2,7 Zoll), das Format, das meist Low Profile genannt wird, und zwei Steckplätze breit. SDXL passt mit 6,46 GiB vollständig, und Stable Diffusion 3.5 Medium passt vollständig, wenn der T5-Encoder die FP8-Datei ist. Mit dem 16-Bit-Encoder kommt die Medium-Pipeline auf 15,40 GiB und liegt über den 14,4 GiB; der Encoder wandert dann in den Arbeitsspeicher.

Bei FLUX.2 klein 4B passt die Modelldatei, und die Pipeline mit 14,87 GiB verfehlt die Schwelle um ein halbes GiB; der Text-Encoder muss also entladen oder im Arbeitsspeicher gehalten werden. Stable Diffusion 3.5 Large läuft mit 15,33 GiB schon für das Modell nur mit teilweisem Nachladen. Zur Karte: technische Daten der RTX PRO 2000 Blackwell, RTX PRO 2000 Blackwell kaufen.

Die NVIDIA RTX 2000 Ada Generation hat dieselben 16 GB, als GDDR6 mit 224 GB/s, und dieselben 70 W. Für Dateien in FP8 und 16 Bit ist die Rechnung identisch. Der Unterschied liegt bei NVFP4: NVIDIA dokumentiert FP4 für die Tensor Cores der fünften Generation in den Blackwell-Karten; die Ada-Karten haben FP8 und keine FP4-Beschleunigung in Hardware. Auf einer RTX 2000 Ada wählt man also Dateien in FP8 oder 16 Bit. Zur Karte: technische Daten der RTX 2000 Ada, RTX 2000 Ada kaufen. Was dieselben 16 GB als Sprachmodell fassen, behandelt unser Artikel zu lokalen LLMs mit 16 GB.

RTX PRO 4000 Blackwell: FLUX.2 klein und SD 3.5 Large mit 24 GB

Mit 24 GB passen zwei weitere Modelle vollständig. FLUX.2 klein 4B, das Apache-2.0-Modell der FLUX.2-Familie, passt mit allen Teilen bei 14,87 GiB. Stable Diffusion 3.5 Large passt mit dem Text-Encoder in FP8 vollständig, mit 21,41 GiB bei 21,6 GiB. Dieser Abstand von 0,19 GiB ist auf die Nenngröße gerechnet; meldet der Treiber 23,9 GiB, wie es die Skalierung von der 96-GB-Karte auf unseren Seiten zu Sprachmodellen annimmt, liegt die Schwelle bei 21,5 GiB und der Abstand bei 0,1 GiB. Mit dem 16-Bit-Encoder ist es der Fall „nur Modell“. Auch FLUX.1-dev in NVFP4 würde vollständig passen; seine Lizenz schließt die kommerzielle Nutzung aus.

Die RTX PRO 4000 Blackwell hat 24 GB GDDR7 mit ECC bei 672 GB/s, 8.960 CUDA-Kerne und 145 W als Single-Slot-Karte voller Bauhöhe, versorgt über einen 16-poligen Anschluss. NVIDIA führt für diese Karte weder MIG noch vGPU. Weil sie einen Steckplatz belegt, passen mehrere Karten in einen Tower, wie unsere Seite zu vier RTX PRO 4000 in einer Workstation beschreibt. Zur Karte: technische Daten der RTX PRO 4000 Blackwell, RTX PRO 4000 Blackwell kaufen; den Schritt von 16 GB vergleicht RTX PRO 2000 oder RTX PRO 4000 Blackwell, Sprachmodelle auf dieser Karte der Artikel zu lokalen LLMs auf der RTX PRO 4000 Blackwell.

RTX PRO 4500 Blackwell Workstation Edition: 32 GB für die 16-Bit-Dateien

Die 32-GB-Karte nimmt die Dateien auf, die für 24 GB zu groß sind. Stable Diffusion 3.5 Large passt mit dem T5-Encoder in 16 Bit vollständig (25,97 GiB bei 28,8 GiB), und FLUX.2 klein 4B lässt nach derselben Rechnung rund 14 GiB frei. Die 16-Bit-Modelldatei von FLUX.1-dev passt mit 22,17 GiB, die ganze Pipeline mit 31,58 GiB nicht, und FLUX.2-dev in NVFP4 bleibt auf den Karten mit 24, 32 und 48 GB der Fall „nur Modell“, weil sein Text-Encoder größer ist als das Modell. Beide sind nicht kommerzielle Modelle.

Die RTX PRO 4500 Blackwell Workstation Edition hat 32 GB GDDR7 mit ECC bei 896 GB/s, 10.496 CUDA-Kerne und 200 W als Dual-Slot-Karte; laut NVIDIAs Quick Start Guide liegt ein Adapter von zwei 8-poligen PCIe-Kabeln bei. Sie ist eine andere Karte als die passiv gekühlte RTX PRO 4500 Server Edition für Rack-Server; die beiden erklärt unser Vergleich RTX PRO 4500 oder RTX PRO 4500 Server Edition. Zur Karte: RTX PRO 4500 Blackwell mit 32 GB, RTX PRO 4500 Blackwell kaufen und der Vergleich RTX PRO 4000 oder RTX PRO 4500 Blackwell.

Die nächste Stufe ist die NVIDIA RTX PRO 5000 Blackwell mit 48 GB, die erste Karte der Tabelle, auf der das Apache-2.0-Modell Qwen-Image als 16-Bit-Modelldatei passt und FLUX.1-dev in 16 Bit vollständig: RTX PRO 5000 mit 48 oder 72 GB, RTX PRO 5000 Blackwell 48 GB kaufen. Größere Modelle und Karten behandelt unser Leitfaden zu den GPU-Anforderungen von FLUX.

Lizenzen: welche Modelle ein Unternehmen einsetzen darf

Für ein Unternehmen ist der erste Filter die Lizenzangabe des Repositorys, erst danach die Größe.

• Apache 2.0: FLUX.2 klein 4B und Qwen-Image. Von FLUX.2 klein trägt nur die Variante 4B diese Angabe.
• OpenRAIL++: SDXL base 1.0; die kommerzielle Nutzung ist innerhalb der Nutzungsbeschränkungen der Lizenz erlaubt.
• Stability AI Community License: Stable Diffusion 3.5 Medium und Large. Die kommerzielle Nutzung ist an Bedingungen in der Lizenzdatei geknüpft, die wir für diesen Artikel nicht erneut gelesen haben und nicht zusammenfassen; beide Repositorys sind zugangsbeschränkt.
• Nicht kommerzielle Lizenzen: FLUX.1-dev und FLUX.2-dev in jedem Format, auch die NVFP4-Dateien. Für den produktiven Einsatz im Unternehmen braucht es eine kommerzielle Lizenz von Black Forest Labs.

Ob eine bestimmte Nutzung nach einer dieser Lizenzen als kommerziell gilt, klärt Ihre Rechtsberatung. Unser Leitfaden zu den GPU-Anforderungen von FLUX stellt die Lizenzen dieser Modellfamilien nebeneinander.

NVFP4, FP8 und was der Wert AI TOPS bedeutet

NVFP4-Dateien sind weit kleiner als die 16-Bit-Dateien der Tabelle: 8,56 gegenüber 22,17 GiB bei FLUX.1-dev, 19,59 gegenüber 60,02 GiB bei FLUX.2-dev. Nativ rechnen sie nur auf den Blackwell-Karten, deren Compute Capability NVIDIA mit 12.0 angibt; die Ada-Karten sind mit 8.9 gelistet, was FP8 abdeckt. NVIDIAs Support-Matrix für seine Microservices zur visuellen generativen KI vom 20. Oktober 2026 bindet die Formate an diesen Wert: bf16 braucht Compute Capability 8.0, fp8 braucht 8.9 und nvfp4 braucht 10.0.

NVIDIAs Datenblätter geben für die RTX PRO 2000 Blackwell 545 AI TOPS an und für die RTX PRO 4500 Blackwell Workstation Edition 1.617; für die RTX PRO 4000 Blackwell nennt NVIDIAs Datenblatt (Juni 2026) 1.178 AI TOPS, die Produktseite 1.290. Der Wert ist eine theoretische FP4-Rate mit Sparsity und keine gemessene Geschwindigkeit; in Bilder je Minute lässt er sich nicht umrechnen.

Was ComfyUI tut, wenn ein Modell nicht passt

Das README von ComfyUI, gelesen am 10. November 2026, beschreibt „smart VRAM and RAM management, model offloading, and support for quantized models“ und schreibt, die Software könne selbst die größten Open-Source-Modelle „on as low as 4GB vram + 8GB ram relatively quickly“ ausführen, mit einem Verfahren, das dort „asynchronous weight streaming“ heißt. Die Liste unterstützter Bildmodelle enthält SDXL, SD3.5, Flux.1, Flux.2 und Qwen Image. Einen Kommandozeilenschalter für den Betrieb mit wenig Speicher beschreibt das README, das wir gelesen haben, nicht; wir nennen deshalb keinen.

Auslagern verschiebt die Last in den Arbeitsspeicher. Im Fall „nur Modell“ wartet dort der Text-Encoder: 9,79 GB beim T5-Encoder in 16 Bit und rund 45 GiB bei Encoder und VAE von FLUX.2-dev, nach der Differenz der beiden Tabellenspalten. NVIDIAs Quick Start Guide für die Blackwell-Karten verlangt mindestens so viel Arbeitsspeicher wie Grafikspeicher und empfiehlt das Doppelte, also 32, 48 und 64 GB für die drei Karten. Wenn Sie die Modelle kennen, dann senden Sie uns die Liste der Modelle, die gewünschten Formate und die Zahl der Personen, die Bilder erzeugen; wir dimensionieren Karte und Arbeitsspeicher gemeinsam.

NVIDIAs Speicherwerte für dieselben Modelle als NIM-Microservices

NVIDIA veröffentlicht für dieselben Modelle Speicheranforderungen als NIM-Microservices; das ist eine andere Zählung als die Dateirechnung oben. Die Support-Matrix vom 20. Oktober 2026 nennt für FLUX.1-dev und für Stable Diffusion 3.5 Large 16 GB als Minimum und 32 GB als Empfehlung, für FLUX.2 klein 48 GB und für Qwen-Image 80 GB. Ihre vorgefertigten Engines sind für eine Reihe benannter GPUs gelistet, und keine der Karten dieses Artikels ist darunter. Ein Team, das diese Modelle als NIM-Container bereitstellen will, dimensioniert nach NVIDIAs Matrix; die Tabellen oben beschreiben ComfyUI mit den Dateien der Herausgeber.

Zur Geschwindigkeit gibt es eine Aussage von NVIDIA: Der Blog vom 11. August 2025 spricht für die RTX PRO 2000 Blackwell von einem „1.4x boost in image generation“ gegenüber der Vorgängergeneration, ohne die Vergleichskarte zu nennen und ohne Testbedingungen zu veröffentlichen. Messungen der Ada-Karten in anderen KI-Aufgaben sammelt unser Artikel zu KI auf RTX 5000 Ada und RTX 4500 Ada, und was die Karten mit 4 und 8 GB können, steht in KI auf RTX A1000 und RTX A400. Teams, die von Standbildern zu Clips wechseln, finden die größere Workstation in unserem Artikel zur KI-Video-Workstation für Marketing.

FAQ