Offene LLMs für Deutsch, Polnisch und Rumänisch: europäische Modelle, Lizenzen und GPU-Speicher im Vergleich

Offene LLMs für Deutsch, Polnisch und Rumänisch: was die Model Cards nennen

Zu den offenen Modellen, deren Model Cards Deutsch, Polnisch und Rumänisch nennen, gehören EuroLLM (1,7B, 9B und 22B), Teuken-7B, die Bielik-v3-Modelle mit 7B und 11B sowie Mistral Small 3.1, 3.2 und 4, und der Ankündigungsbeitrag zu Qwen3 führt alle drei unter 119 Sprachen auf. Bielik und PLLuM sind mit Schwerpunkt auf Polnisch trainiert, und das Projekt OpenLLM-Ro veröffentlicht für Rumänisch feinabgestimmte Modelle für die Forschung. EuroLLM, Bielik v3 und diese Versionen von Mistral Small stehen unter Apache 2.0, während die aktuelle Version von Teuken und die Instruct-Modelle von OpenLLM-Ro die kommerzielle Nutzung ausschließen und zwei Größen von PLLuM unter Metas Llama-3.1-Lizenz fallen. „Offen“ bedeutet hier herunterladbare Gewichte unter der Lizenz auf der Model Card, die nicht immer eine Open-Source-Lizenz ist: Die Open Source Definition erlaubt keiner Lizenz, die Nutzung „in einem Unternehmen“ einzuschränken.

Model Cards und Sprachmetadaten auf Hugging Face, abgerufen am 6. Oktober 2026. DE, PL, RO: ob die Model Card oder ihre Metadaten Deutsch, Polnisch und Rumänisch nennen.

EuroLLM, Teuken und OpenEuroLLM: Modelle für alle 24 EU-Sprachen

EuroLLM wird von zehn Universitäten, Forschungszentren und Unternehmen mit EU-Förderung entwickelt, und seine Model Cards führen die 24 Amtssprachen der EU und 11 weitere auf. EuroLLM-22B hat 22,6 Milliarden Parameter und einen Kontext von 32.768 Token. Laut seiner Model Card liegt es beim Übersetzen gleichauf mit Gemma-3-27B, Qwen-3-32B und Apertus-70B oder übertrifft sie. Die Model Cards der Instruct-Versionen mit 9B und 22B halten fest, dass das Modell „nicht auf menschliche Präferenzen ausgerichtet wurde“ und Halluzinationen oder falsche Aussagen erzeugen kann.

Teuken-7B wurde im Forschungsprojekt OpenGPT-X von Fraunhofer, dem Forschungszentrum Jülich, der TU Dresden und dem DFKI entwickelt. Es deckt die 24 Amtssprachen der EU mit einem Kontext von 4.096 Token ab, der in einem RAG-Prompt wenig Platz für abgerufene Passagen lässt. Teuken-7B-instruct-commercial-v0.4 steht unter Apache 2.0 und ist „für die kommerzielle Nutzung und die Forschung vorgesehen“, während die neuere v0.6 unter CC BY-NC 4.0 steht und „für die private, nichtkommerzielle, Forschungs- und Bildungsnutzung konzipiert“ ist. Beide Model Cards halten fest, das Modell sei „nicht für den Einsatz bei Mathematik- und Programmieraufgaben vorgesehen“.

OpenEuroLLM startete am 1. Februar 2025 mit 20 Organisationen und Mitteln aus dem Programm „Digitales Europa“, um offene Modelle für die „Amtssprachen der EU und darüber hinaus“ zu entwickeln. Stand 6. Oktober 2026 enthält seine Organisation auf Hugging Face Forschungs-Checkpoints, und auf der Model Card seines per Instruction Tuning angepassten 9B-Modells heißt es: „Experimenteller Forschungs-Checkpoint aus der SFT-Phase; kein fertiger Assistent für den Produktivbetrieb“. Im März 2026 schrieb das Projekt, es wolle „bis zum nächsten Sommer ein 8B-Modell veröffentlichen“.

Salamandra, ALIA und Apertus: was Vortraining und Tuning abdecken

Salamandra vom BSC, dem Supercomputing-Zentrum in Barcelona, gibt es in den Größen 2B und 7B, vortrainiert auf 35 europäischen Sprachen und Code, darunter Deutsch, Polnisch und Rumänisch. ALIA-40b wurde auf 9,83 Billionen Token in 35 europäischen Sprachen vortrainiert, und alle diese Modelle stehen unter Apache 2.0. Die Model Card von ALIA-40b-instruct-2606 hält fest: „Der Post-Training-Prozess konzentrierte sich vor allem auf Spanisch, Katalanisch, Baskisch, Galicisch und Englisch“, und die Metadaten des Modells führen wie die von salamandra-7b-instruct-2606 nur diese fünf Sprachen auf. Testen Sie diese Instruct-Modelle auf Deutsch, Polnisch oder Rumänisch, bevor Sie sich auf sie verlassen.

Die Swiss AI Initiative beschreibt Apertus als „vollständig offenes Modell“ mit offenen Gewichten und offenen Trainingsdaten, und laut seiner Model Card der Version 2509 unterstützt es „über 1.000 Sprachen“. Version 1.5 in den Größen 8B und 70B steht unter Apache 2.0, doch wer sie herunterlädt, muss eine Nutzungsrichtlinie akzeptieren und Kontaktdaten angeben; Version 1.1 ergänzt Modelle mit 0,5B, 1,5B und 4B. Die Model Card rät, alle sechs Monate neue Gewichte herunterzuladen, da das Projekt datenschutzrechtliche Löschanfragen über neue Releases umsetzt.

Polnische LLMs: Bielik und PLLuM

Bielik wird von SpeakLeash und ACK Cyfronet AGH entwickelt. In der Generation v3 sind die Modelle mit 1,5B und 4,5B nur für Polnisch gekennzeichnet, während die Modelle mit 7B und 11B als „mehrsprachig (32 europäische Sprachen, für Polnisch optimiert)“ ausgewiesen sind, mit Deutsch und Rumänisch in ihren Metadaten. Alle stehen unter Apache 2.0, und die Downloadseite verlangt Ihre Zustimmung, Kontaktdaten zu teilen. Die Model Card des 11B-Instruct-Modells vermerkt, dass das Modell „über keinerlei Moderationsmechanismen verfügt“. Bielik-PL-11B-v3.0-Instruct nutzt den Tokenizer APT4, „speziell für die polnische Sprache optimiert“, und Bielik-Minitron-7B ist ein Instruct-Modell auf Basis einer per Pruning verkleinerten Version des 11B-Basismodells. SpeakLeash veröffentlicht vom 11B-Instruct-Modell außerdem Versionen in FP8, AWQ und GGUF.

PLLuM ist nach den Worten seiner Model Card „eine Familie großer Sprachmodelle (LLMs), spezialisiert auf Polnisch, mit zusätzlich einbezogenen englischen Daten für eine breitere Generalisierung“. Entwickelt wurde PLLuM 2024 vom PLLuM-Konsortium und seit 2025 unter HIVE AI, einer Initiative für den polnischen öffentlichen Sektor, die der polnische Minister für Digitalisierung finanziert. Die Generation vom Dezember 2025 mit der Kennung 2512 gibt es als Base-, Instruct- und Chat-Varianten. PLLuM-4B basiert auf Googles gemma-3-4b-pt und PLLuM-12B auf Mistral-Nemo-Base-2407, beide laut ihren Model Cards unter Apache 2.0. Llama-PLLuM-8B und Llama-PLLuM-70B basieren auf Llama 3.1 und fallen unter Metas Llama-3.1-Lizenz und deren Nutzungsrichtlinie; die Lizenz verlangt von allen, die sie oder ein Produkt oder einen Dienst mit ihnen weitergeben, den Hinweis „Built with Llama“ anzuzeigen. Googles Gemma Terms of Use zählen „auf Gemma basierende Werke“ zu den Modellderivaten und reichen ihre Nutzungsbeschränkungen weiter; wie sie mit der Angabe Apache 2.0 auf der Model Card von PLLuM-4B zusammenwirken, ist deshalb eine Frage für Ihre Rechtsabteilung.

Rumänische LLMs und Rumänisch in mehrsprachigen Modellen

Von den Modellen oben nennen EuroLLM, Teuken, die Basismodelle von Salamandra, die Bielik-Modelle mit 7B und 11B, Mistral Small 3.1, 3.2 und 4, Mistral Medium 3.5 und Qwen3 Rumänisch, Llama 3.1, 3.3 und 4 dagegen nicht. Das Projekt OpenLLM-Ro passt Llama-, Mistral-, Gemma- und Qwen-Modelle per Fine-Tuning an Rumänisch an und veröffentlicht seine Instruct-Modelle unter CC BY-NC 4.0, was die kommerzielle Nutzung ausschließt. Die Model Card von RoLlama3.1-8b-Instruct in der Version vom 23. April 2025 beschreibt das Modell als für die Forschung auf Rumänisch bestimmt. Sie gibt für RoMT-Bench 6,43 an, gegenüber 5,69 für das Llama 3.1 8B Instruct, auf dem es aufbaut.

Open-Weight-Modelle von Mistral: eine Lizenz je Modell

Mistral AI veröffentlicht die meisten seiner Modelle mit offenen Gewichten unter Apache 2.0, darunter Mistral NeMo, Mistral Small 3.1 und 3.2 (24B), Mistral Small 4 (119B), die Ministral-3-Modelle (3B, 8B und 14B) und Mistral Large 3 (675B). Die Model Card von Mistral Small 3.1 nennt 25 Sprachen, darunter Deutsch, Polnisch und Rumänisch, und die Model Card von 3.2 bezeichnet das Modell als „ein kleines Update“ von 3.1. Die neueren Model Cards nennen Deutsch unter „Dutzenden Sprachen“; Polnisch und Rumänisch erscheinen nur in den Metadaten von Mistral Small 4 und Mistral Medium 3.5, nicht in denen von Ministral 3 oder Mistral Large 3.

Mistral Medium 3.5, ein dichtes 128B-Modell, steht unter einer „Modified MIT License“, die überhaupt keine Rechte gewährt, wenn der „weltweite konsolidierte Monatsumsatz“ Ihres Unternehmens eine in der Lizenz festgelegte Schwelle überschreitet, und die Bedingung erstreckt sich auch auf Derivate. Ältere Modelle wie Mistral Large 2411 und Ministral 8B 2410 nutzen die „Mistral Research License“, die die nichtkommerzielle Nutzung erlaubt; eine kommerzielle Lizenz bietet Mistral auf Anfrage an.

Qwen3, Gemma 4, Llama und gpt-oss: Sprachen auf den Model Cards

Model Cards; Ankündigungsbeitrag zu Qwen3 (29. April 2025); Metas Nutzungsrichtlinie für Llama 4; OpenAIs Model Card zu gpt-oss (5. August 2025); alle abgerufen am 6. Oktober 2026.

OpenAIs Model Card zu gpt-oss vom 5. August 2025 berichtet Werte für MMMLU, eine professionell übersetzte Fassung von MMLU in 14 Sprachen ohne Polnisch oder Rumänisch, in der gpt-oss-120b auf Deutsch mit hohem Reasoning-Aufwand 83,0 erreicht. Unser Leitfaden zu einer privaten ChatGPT-Alternative vergleicht ihre Lizenzbedingungen, einschließlich der Klausel von Llama 4 zu Unternehmen mit Hauptgeschäftssitz in der EU.

GPU-Speicher je Modellgröße

Unsere Dimensionierungsregel setzt 0,9 des Speichers an, den der Treiber meldet, und zieht davon etwa 3 GiB Overhead und die Gewichte ab, in BF16 zwei Byte je Parameter; der Rest nimmt den KV-Cache auf, wie unser Leitfaden dazu erklärt, wie viel VRAM ein LLM braucht.

Platz für den Cache je Karte nach dieser Regel, mit 95,6 GiB (RTX PRO 6000) und 140,4 GiB (H200 NVL), wie der Treiber sie meldet, und nominellen 48 GB; Parameterzahlen von Hugging Face, 6. Oktober 2026. „Passt nicht“ heißt: kein Platz mehr für den Cache.

EuroLLM-22B speichert in BF16 216 KiB Cache je Token, berechnet aus den 54 Schichten und den 8 KV-Heads mit je 128 Dimensionen in seiner config.json; die Tabelle der Model Card nennt 56 Schichten, was nicht zur Parameterzahl passt. Die 40,9 GiB, die auf einer RTX PRO 6000 übrig bleiben, fassen deshalb etwa 24 Gespräche mit 8.192 Token oder 6 mit den vollen 32.768, und ein FP8-Cache verdoppelt beide Werte. Llama-PLLuM-70B braucht in BF16 zwei RTX PRO 6000, die je Karte etwa 17 GiB für den Cache übrig lassen, oder eine quantisierte Version; unser Leitfaden zu FP8, NVFP4, INT4 und GGUF zeigt, was jedes Format spart und was es an Genauigkeit kostet.

KI-Server bauen wir auf Bestellung mit der RTX PRO 5000, der RTX PRO 6000 oder der H200 NVL und schicken Konfiguration und Angebot innerhalb eines Werktages. Schicken Sie uns über das Formular unten die Modelle auf Ihrer Auswahlliste und die Zahl der Personen, die sie gleichzeitig nutzen werden.

Ein Modell in Ihrer Sprache mit Ihren Dokumenten evaluieren

Öffentliche Benchmarks enthalten keinen Ihrer Verträge und keines Ihrer Support-Tickets, deshalb entscheidet ein eigener Test zwischen zwei oder drei Kandidaten.

1. Nehmen Sie Modelle in die engere Wahl, deren Lizenz Ihre geplante Nutzung abdeckt und deren Gewichte in der geplanten Präzision auf Ihre GPUs passen.
2. Bauen Sie den Testsatz, den unser Artikel zu RAG auf Unternehmensdaten beschreibt, für jede Sprache auf, in der Ihre Nutzer schreiben, mit Fragen in einer Sprache zu Dokumenten in einer anderen.
3. Stellen Sie jeden Kandidaten mit derselben Engine, demselben Prompt, denselben abgerufenen Passagen und derselben maximalen Kontextlänge bereit, zum Beispiel über die OpenAI-kompatible API von vLLM; unser Vergleich der Serving-Engines behandelt die Optionen.
4. Lassen Sie Muttersprachler die Antworten verblindet bewerten: Richtigkeit gegenüber der Quelle, Sprache der Antwort, Grammatik, Terminologie und Quellenangabe.
5. Zählen Sie die Token, die jeder Tokenizer für eine Stichprobe Ihrer Dokumente erzeugt, denn die Zahlen unterscheiden sich zwischen den Modellen, und messen Sie die Zeit bis zum ersten Token auf Ihrer Hardware.
6. Lassen Sie den Testsatz mit jeder neuen Version erneut laufen; EuroLLM, Bielik und PLLuM haben jeweils mehrere Generationen veröffentlicht.

Das technische Assessment unserer Leistung Private AI/ML umfasst die Modell- und GPU-Auswahl und einen Pilotplan mit Metriken; der Preis steht vor Beginn fest. Nennen Sie uns im Formular unten die Sprachen und Dokumenttypen, die Ihr Assistent bewältigen muss.

Was wir tun

Unsere Leistung Private AI/ML stellt offene und kommerzielle Modelle mit vLLM, Ollama oder NVIDIA AI Enterprise bereit: on-premise, sodass die Daten Ihr Netz nicht verlassen und der Zugriff kontrolliert ist, oder auf dedizierter Hardware in einem Tier-3-Rechenzentrum in Litauen, wo die Daten in der EU bleiben. Das erste Gespräch ist kostenlos, und danach haben Sie zwei oder drei mögliche Lösungsszenarien. Wir starten mit einem Pilotprojekt auf einem Prozess mit klaren Metriken und skalieren nur, was seinen Wert bewiesen hat. Eurokommerz hält den Vertrag und liefert die KI-Server, mit Engineering von unserem Engineering-Partner Vixen.UNO und Support unter SLA.

FAQ