Vibe-Coding-Workstation: vier Pakete mit NVIDIA RTX PRO Blackwell von 32 GB bis 2 × 96 GB

Welche Workstation für Vibe Coding mit lokalem Modell

Für eine Person, die Apps baut, indem sie sie einem lokalen Modell beschreibt, ist eine Workstation mit einer NVIDIA RTX PRO 4500 Blackwell (32 GB) die kleinste sinnvolle Wahl: Nach unserer Regel für Nutzer je Karte hält sie Qwen3.8-27B in 4 Bit mit einer Agenten-Sitzung von 128K Token. Eine RTX PRO 5000 mit 48 oder 72 GB betreibt dasselbe Modell in 8 Bit mit längeren oder mehr Sitzungen, eine RTX PRO 6000 Max-Q oder Workstation Edition mit 96 GB in 16 Bit oder ein größeres Modell, und zwei davon versorgen ein kleines Studio. Darüber gehört das Modell auf einen Server.

Vibe Coding heißt hier, eine App, ein internes Werkzeug oder einen Prototyp zu bauen, indem man einem KI-Werkzeug sagt, was man will, das Ergebnis prüft und in Worten korrigiert. Das Werkzeug, etwa Dyad, OpenHands oder ein Terminal-Agent, schickt dem Modell bei jedem Schritt lange Prompts mit Anweisungen, Dateien und Fehlerausgaben. Unser Vergleich selbst gehosteter Lovable-Alternativen behandelt die Werkzeuge, unser Artikel Reicht ein lokales Modell fürs Vibe Coding? die Qualität im Vergleich mit Claude. Dieser Leitfaden macht aus beidem vier Pakete. Den allgemeinen GPU-Vergleich für jede Art von KI-Arbeit bietet unser Leitfaden zur besten Workstation-GPU für KI.

Was die Größe bestimmt: Gewichte, Kontext und Personen

Drei Dinge entscheiden, wie viel GPU-Speicher eine Workstation für Vibe Coding braucht.

Die Gewichte. Die Parameter eines Modells werden mit je 16, 8 oder rund 4 Bit gespeichert. Qwen3.8-27B, ein dichtes Modell unter Apache 2.0, das Qwen im August 2026 veröffentlicht hat, umfasst in Ollamas 16-Bit-Datei (BF16) 56 GB, in der 8-Bit-Datei q8_0 30 GB und in der 4-Bit-Datei q4_K_M 18 GB.

Der Kontext. Jede offene Sitzung hält einen Key-Value-Cache, den Speicher, in dem das Modell alles festhält, was es in dieser Sitzung gelesen hat. Coding-Tools füllen ihn schnell: Ollama verlangt für sie „at least 64000 tokens“ Kontext, der OpenHands-Leitfaden setzt 22.000 als Minimum, und Qwens Karte zu Qwen3.6-27B empfiehlt, mindestens 128K Token zu behalten, um die Denkfähigkeit des Modells zu erhalten. Qwen3.8-27B führt einen vollen Cache in 16 seiner 64 Schichten, mit 4 Key-Value-Heads der Dimension 256: Nach unserer Rechnung aus der config.json sind das 64 KiB je Token in 16 Bit, 8 GiB für 128K Token, dazu rund 0,14 GiB fester Zustand je Sitzung für die Schichten mit linearer Attention.

Die Personen. Eine Person, die gerade arbeitet, belegt eine Sitzung. Ein zweites Builder-Fenster, ein Agent im Hintergrund oder eine Kollegin belegt eine weitere. Das Tempo teilen sich die Sitzungen, die gleichzeitig Text erzeugen.

Tags in Ollamas Bibliothek und Dateilisten auf Hugging Face, gelesen am 30. Oktober 2026, in GiB umgerechnet; Qwen3-Coder-Next und gpt-oss aus unserem Leitfaden zum Coding-Assistenten. Cache je Sitzung von 128K Token in 16 Bit nach unserer Rechnung aus der jeweiligen config.json, einschließlich festem Zustand; ein FP8-Cache in vLLM halbiert den Anteil je Token.

Den Speicher, den eine Karte bietet, liefert unsere Regel für Nutzer je Karte: 90 Prozent des vom Treiber gemeldeten Speichers, abzüglich 3 GiB je Karte für CUDA-Kontext und Aktivierungen, wie unser Leitfaden Wie viele Nutzer schafft eine RTX PRO 6000? erklärt. Das ergibt 25,7 GiB auf einer 32-GB-Karte, 40,0 GiB auf 48 GB, 61,5 GiB auf 72 GB und 83,0 GiB auf 96 GB.

Vier Pakete von 32 GB bis zu zwei 96-GB-Karten

Die Tabelle ordnet jedem Paket das Modell zu, das es betreibt, und die Zahl der Sitzungen von 128K, die daneben Platz finden.

Unsere Schätzungen nach der Regel für Nutzer je Karte mit Gewichten und Ollamas Standard-Cache in 16 Bit aus der Tabelle oben; keine Messungen. Treiberspeicher von RTX PRO 4500 und 5000 aus den 95,6 GiB einer 96-GB-Karte skaliert. Die RTX PRO 6000 Workstation Edition (600 W) hat dieselben 96 GB und ergibt dieselben Werte wie die Max-Q (300 W).

Paket 1, RTX PRO 4500 Blackwell (32 GB, 896 GB/s, 200 W). Qwen3.8-27B in 4 Bit lässt 8,9 GiB frei: eine Sitzung von 128K oder zwei von 64K. Für schnelle Layout-Änderungen lässt Qwen3.6-35B-A3B, ein Mixture-of-Experts-Modell (MoE), das je Token rund 3B seiner 35B Parameter rechnet, in 4 Bit 3,3 GiB frei, zwei Sitzungen von 64K, und antwortet weit schneller. Auch GLM-4.7-Flash passt, mit „~23 GB VRAM“ bei 64.000 Token nach Ollamas Angabe. Die 8-Bit-Datei des 27B-Modells (27,9 GiB) passt nicht, ein Kontext von 256K ebenso wenig. Die RTX PRO 4000 mit 24 GB darunter behält nach unserer Regel 18,5 GiB, zu wenig für eine Sitzung von 64K neben einem 27B-Modell in 4 Bit; sie betreibt gpt-oss-20b mit drei Sitzungen von 64K, wie unsere Seite zu 30B-Modellen auf 24-GB-Karten für diese Klasse erklärt. Unsere Seite RTX PRO 4500 Workstation kaufen nennt die Ausbauten mit mehreren Karten.

Paket 2, RTX PRO 5000 Blackwell (48 oder 72 GB, 1.344 GB/s, 300 W). Auf 48 GB lässt Qwen3.8-27B in 8 Bit 12,1 GiB frei, eine Sitzung von 128K oder zwei von 64K, und Qwen3.6-35B-A3B in FP8 lässt Platz für drei von 64K. Auf 72 GB hält das 8-Bit-Modell vier Sitzungen von 128K oder zwei von 256K, und selbst die BF16-Datei passt mit einer Sitzung von 128K. gpt-oss-120b lässt auf 72 GB nur rund 0,7 GiB frei, zu wenig für eine Sitzung von 64K. Unser Vergleich der RTX PRO 5000 mit 48 oder 72 GB behandelt den übrigen Unterschied.

Paket 3, eine RTX PRO 6000 Blackwell Max-Q oder Workstation Edition (96 GB, 1.792 GB/s). Die Workstation Edition nimmt bis zu 600 W auf, die Max-Q 300 W, bei gleichem Speicher und gleicher Bandbreite. Qwen3.8-27B in BF16 hält drei Sitzungen von 128K; Qwens FP8-Checkpoint (28,7 GiB) in vLLM hält sechs, mit FP8-Cache 13; bei 32K sind das 47 Sitzungen, der Wert unserer übrigen Seiten zu Qwen3.8-27B. Dies ist auch das Paket für ein MoE-Modell der 80B-Klasse: Qwen3-Coder-Next in FP8 hält fünf Sitzungen von 64K, und laut seiner Modellkarte unterstützt es nur den Modus ohne Denkphase, es beginnt also sofort mit dem Code. gpt-oss-120b hält neun Sitzungen von 64K.

Paket 4, zwei RTX PRO 6000 Max-Q oder Workstation Edition (192 GB). Am einfachsten läuft je Karte eine Kopie von Qwen3.8-27B mit je sechs Sitzungen von 128K. Ein Modell kann auch beide Karten als Tensor-Parallel-Paar in vLLM nutzen: Qwen3-Coder-Next in FP8 hält dann nach unserer Regel rund 57 Sitzungen von 64K, wie unser Leitfaden zum Coding-Assistenten berechnet. Die Karten haben kein NVLink, ein Paar tauscht also Daten über PCIe aus, wie unser Artikel zur RTX PRO 6000 ohne NVLink erklärt. Unser Leitfaden Was eine Workstation mit zwei Max-Q leistet behandelt weitere Modelle.

Bei jedem dieser Pakete können Sie die Workstation allein bestellen, die Einrichtung von Ollama, dem Modell und dem Kontext allein oder beides zusammen: die Workstation mit allem fertig installiert und eingerichtet; schreiben Sie uns, wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

Veröffentlichte Geschwindigkeiten für eine Person

Für diese Modelle auf RTX-PRO-Blackwell-Karten ist eine Messung veröffentlicht: StorageReview testete Qwen3.8-27B in NVFP4, in einer Version, die der Test nicht benennt, mit vLLM 0.27.1 (NGC-Container 26.08) in einem am 14. Oktober 2026 veröffentlichten Test. Bei einer Anfrage mit Prompts und Antworten von 512 Token lagen alle Karten zwischen 17 und 22 Token pro Sekunde. Bei 32 gleichzeitigen Anfragen lieferte eine RTX PRO 6000 Workstation Edition in einem Dell Pro Max Tower T2 bei 600 W insgesamt 616 Token pro Sekunde, mit Prompts von 8K Token und Antworten von 1K 425; die RTX PRO 4500 Blackwell Server Edition, die Serverkarte mit 165 W und 800 GB/s, lieferte 320 und 153. Für die Workstation-Version der RTX PRO 4500 und für die RTX PRO 5000 haben wir kein veröffentlichtes Ergebnis mit diesen Modellen gefunden.

Für eine eigene Schätzung gilt: Die Obergrenze für eine Anfrage ist die Speicherbandbreite geteilt durch die je Token gelesenen Bytes, also die Gewichte ohne die Embedding-Tabelle, von der jedes Token nur eine Zeile liest. Das 8-Bit-Modell liest je Token etwa 28 GB, das ergibt rund 63 Token pro Sekunde auf einer RTX PRO 6000 Workstation Edition oder Max-Q und rund 47 auf einer RTX PRO 5000; die 4-Bit-Datei mit 18 GB ergibt auf einer RTX PRO 4500 rund 50 oder etwas mehr. Das sind nach unserer Schätzung Obergrenzen (für die Server Edition in einem Rack-Server etwa 56 Token pro Sekunde), reale Werte liegen darunter, wie die 17 bis 22 Token pro Sekunde zeigen, die StorageReview für eine Anfrage gemessen hat. Ein MoE-Modell mit 3B aktiven Parametern liest je Token weit weniger und ist um ein Mehrfaches schneller. Auch das Denken kostet Zeit: Qwen3.8-27B denkt standardmäßig mit der höchsten Stufe, und die Modellkarte nennt die Stufen medium und low. Unser Artikel zum Speculative Decoding erklärt, wie Multi-Token-Prediction (MTP) und Entwurfsmodelle das Tempo einer Anfrage erhöhen.

Was mehr Speicher an Qualität bringt

Mehr Speicher bringt zuerst ein besseres Modell, erst danach mehr Genauigkeit. In Qwens eigener Tabelle zu Qwen3.6 erreicht das dichte 27B-Modell 77,2 Punkte im SWE-bench Verified gegenüber 73,4 für das MoE-Modell 35B-A3B, und Qwen3.8-27B erreicht in der Tabelle zu Qwen3.8 61,7 im SWE-bench Pro gegenüber 53,5 für Qwen3.6-27B. Der Schritt von 4 auf 16 Bit ist kleiner: NVIDIAs Karte zur NVFP4-Version von Qwen3.8-27B nennt 74,02 im Terminal-Bench gegenüber 75,56 für BF16. Dieser Wert gilt für NVIDIAs Format NVFP4; die q4_K_M-Dateien in Ollama nutzen ein anderes 4-Bit-Verfahren, für das wir keinen vergleichbaren veröffentlichten Wert gefunden haben. Es sind Herstellerangaben, und unser Artikel zu lokalen Modellen im Vergleich mit Claude ordnet sie ein. Die sinnvolle Reihenfolge für den Speicher: zuerst ein Modell der 27B-Klasse mit 64K bis 128K Kontext, dann 8- oder 16-Bit-Gewichte, dann mehr Sitzungen.

Software auf dem Paket

GitHub-Releases und Blog von Ollama vom 23. Januar 2026, Modellkarten auf Hugging Face und GitHub-Seiten der Projekte, gelesen am 30. Oktober 2026; Cline und Continue aus unserem Leitfaden zum Coding-Assistenten, OpenCode und Codex CLI aus unserem Leitfaden zu Claude Code mit lokalem Modell.

Ollama 0.35.0 oder neuer ist wichtig, weil ältere Versionen von CVE-2026-103663 betroffen sind, wie unser Leitfaden zum Coding-Assistenten festhält. Die Kontextlänge wird in den Einstellungen von Ollama oder mit OLLAMA_CONTEXT_LENGTH gesetzt; laut Dokumentation hängt die Vorgabe vom GPU-Speicher ab, 4K unter 24 GiB, 32K bis 48 GiB und 256K darüber, setzen Sie die geplanten 64K oder 128K also ausdrücklich. Außerdem beantwortet Ollama je Modell nur eine Anfrage zugleich, solange OLLAMA_NUM_PARALLEL nicht erhöht ist, und jeder parallele Slot reserviert den vollen Kontext; die Sitzungszahlen oben setzen beide Einstellungen voraus. ollama launch, seit Ollama v0.15 verfügbar, startet Claude Code, OpenCode, Codex oder Droid mit einem lokalen Modell, und unser Leitfaden Claude Code mit lokalem Modell beschreibt diesen Weg. Claude Code ist proprietär und wird unter den Bedingungen von Anthropic genutzt; es gehört deshalb nicht zum Paket, sein Nutzer installiert es selbst. bolt.diy fehlt aus einem ähnlichen Grund: Die zugrunde liegende WebContainers-Laufzeit braucht für den produktiven Einsatz in einem gewinnorientierten Unternehmen eine kommerzielle Lizenz, wie unser Vergleich selbst gehosteter Lovable-Alternativen erklärt. Ollama bindet standardmäßig an 127.0.0.1; erreichen andere das Paket über das Netz, gehört der Modellserver hinter eine Zugriffskontrolle, wie unser Leitfaden zum Absichern eines GPU-Servers beschreibt. Was vor dem Livegang einer auf dem Paket gebauten App zu prüfen ist, zeigt unsere Sicherheits-Checkliste für Vibe-Coding-Apps.

Nennen Sie uns die Werkzeuge, die Ihr Team schon nutzt, und unser Team antwortet mit einer Konfiguration für Ihre Aufgaben und Ihr Budget.

Schreibtisch oder Rack: Strom, Lautstärke und Max-Q

Nach unserer Schätzung, mit einem Prozessor der 350-W-Klasse und 15 Prozent für Arbeitsspeicher, Laufwerke, Lüfter und Netzteilverluste, nimmt ein Paket mit einer RTX PRO 4500 rund 0,6 kW an der Steckdose auf, mit einer RTX PRO 5000 rund 0,75 kW, mit einer RTX PRO 6000 Workstation Edition rund 1,1 kW, mit zwei Max-Q rund 1,1 kW und mit zwei Workstation Editions rund 1,8 kW. Jedes passt an einen 230-V-Stromkreis mit 16 A, der bei 80 Prozent Auslastung 2,94 kW trägt, wenn kein großer Verbraucher an derselben Sicherung hängt; eine Messung am gelieferten System bestätigt den Wert.

NVIDIA nennt bis zu vier Max-Q in einer Workstation. Puget Systems stellte im Juli 2025 fest, dass direkt benachbarte Max-Q-Karten kaum Platz zum Ansaugen von Luft haben, und empfiehlt einen freien Steckplatz dazwischen; Exxact berichtet in einem im März 2026 aktualisierten Artikel, dass alle vier benachbarten Karten ohne seinen eigenen Luftstrom drosselten und mit ihm 300 W bei bis zu 85 °C hielten. Drei oder vier Max-Q gehören deshalb nur in ein Gehäuse, das dafür gebaut ist, mit starkem, gerichtetem Luftstrom. Zwei RTX PRO 6000 Workstation Editions mit je 600 W und Flow-Through-Kühlern sind für diese Edition das realistische Maximum, wie unser Leitfaden zu zwei Workstation Editions, Wärme und Strom zeigt. Unser Vergleich der drei Editionen der RTX PRO 6000 stellt ihre Kühler und ihre Leistungsaufnahme nebeneinander. Ob Schreibtisch, Nebenraum oder Rack zu Ihrem Büro passt, behandelt unser Leitfaden Rack-Server, Tower oder Workstation für KI.

Wann die Workstation endet und der Server beginnt

Eine Workstation reicht für eine Person bis zu einer Handvoll Personen. Arbeitet ein Entwicklungsteam von 20 oder mehr Personen den ganzen Tag mit Agenten, wechselt das Modell auf einen Rack-Server mit RTX PRO 6000 Server Edition, der Edition, die wir für den Dauerbetrieb im Rack empfehlen, wie unser Leitfaden zum Server für Coding-Agenten für 20 bis 100 Entwickler auslegt. Auch Modelle der 1T-Klasse brauchen einen Server: Kimi K2.7-Code umfasst in INT4 595,2 GB und läuft auf acht RTX PRO 6000 Server Edition, wie unser Leitfaden zu Kimi K2.7-Code auf acht Karten der Server Edition zeigt.

Nennen Sie uns, wie viele Personen Apps bauen und welche Werkzeuge sie nutzen: Beschreiben Sie Ihr Vorhaben in ein paar Zeilen, und wir schlagen das Paket für Ihre Aufgaben und Ihr Budget vor.

FAQ