EU AI Act und Fine-Tuning: wann ein angepasstes offenes Modell Sie zum GPAI-Anbieter macht

Wann Fine-Tuning Ihr Unternehmen zum Anbieter eines GPAI-Modells macht

Wer ein offenes Modell auf dem eigenen Server feintunt, wird dadurch im Regelfall nicht Anbieter eines KI-Modells mit allgemeinem Verwendungszweck (GPAI-Modell) im Sinne der EU-KI-Verordnung, des AI Act. Die Leitlinien der Europäischen Kommission für GPAI-Anbieter behandeln ein nachgelagertes Unternehmen, das ein Modell verändert, nur dann als Anbieter eines neuen Modells, wenn die Änderung mehr als ein Drittel der Rechenleistung verbraucht, mit der das ursprüngliche Modell trainiert wurde, und auch dann betreffen die Pflichten nur die Änderung. Ein LoRA- oder Voll-Fine-Tuning mit Millionen oder einigen Milliarden Tokens bleibt weit unter dieser Grenze; Continued Pretraining mit Billionen Tokens kann sie erreichen.

Dieser Artikel zeigt, was der Text der KI-Verordnung und die Seiten der Kommission zu veränderten Modellen sagen und wie Sie die Rechenleistung eines Fine-Tuning-Laufs schätzen, damit Ihre Rechtsabteilung mit einer Zahl arbeiten kann. Die Pflichten von Unternehmen, die ein KI-System verwenden, behandelt unser Leitfaden zu den Betreiberpflichten des AI Act für interne LLMs, die Lizenz des Basismodells unser Vergleich der Lizenzen offener LLMs für Unternehmen. Die Quellen wurden am 24. Oktober 2026 gelesen: die Verordnung (EU) 2024/1689 in der Darstellung des AI Act Service Desk der Kommission, der die Änderungen durch den Digital-Omnibus zur KI, die Verordnung (EU) 2026/1744, kennzeichnet; die Seite der Kommission zu den Leitlinien (zuletzt aktualisiert am 28. April 2026) und ihre Fragen und Antworten dazu (zuletzt aktualisiert am 11. November 2025). Die Leitlinien vom 18. Juli 2025 sind rechtlich nicht bindend; laut Seite der Kommission geben sie ihre Auslegung wieder und leiten ihre Durchsetzung. Zitate aus den Seiten der Kommission stammen aus der englischen Fassung, weil die deutsche Fassung der Fragen und Antworten als maschinelle Übersetzung gekennzeichnet ist; die KI-Verordnung zitieren wir nach dem deutschen Wortlaut.

Wer als Anbieter eines KI-Modells mit allgemeinem Verwendungszweck gilt

Artikel 3 Nummer 3 definiert als Anbieter eine Person oder Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt, entgeltlich oder unentgeltlich. Inverkehrbringen ist die erstmalige Bereitstellung eines KI-Systems oder GPAI-Modells auf dem Unionsmarkt (Artikel 3 Nummer 9). Bei KI-Systemen umfasst die Definition auch die Inbetriebnahme, einschließlich der Bereitstellung für den Eigengebrauch in der Union; bei Modellen spricht sie nur vom Inverkehrbringen.

Ein GPAI-Modell zeigt nach Artikel 3 Nummer 63 eine erhebliche allgemeine Verwendbarkeit, kann ein breites Spektrum unterschiedlicher Aufgaben kompetent erfüllen und lässt sich in viele nachgelagerte Systeme integrieren. Dieselbe Definition nimmt Modelle aus, die vor ihrem Inverkehrbringen für Forschung, Entwicklung oder Prototyping verwendet werden. Die Fragen und Antworten der Kommission nennen das Richtkriterium: eine Trainings­rechen­leistung über 10²³ FLOP und die Fähigkeit, Sprache (Text oder Audio), Bilder aus Text oder Videos aus Text zu erzeugen. Diese Rechenleistung entspreche dem, was typischerweise für Modelle mit einer Milliarde Parametern auf großen Datensätzen verwendet wird, und das Kriterium gelte in keiner Richtung absolut.

Artikel 51 Absatz 2 vermutet Fähigkeiten mit hoher Wirkung und damit ein systemisches Risiko, wenn die kumulierte Trainings­rechen­leistung 10²⁵ FLOP übersteigt. Die Kommission kann ein Modell auch von Amts wegen oder nach einer Warnung des wissenschaftlichen Gremiums einstufen. Die offenen Modelle, die Unternehmen auf einem GPU-Server feintunen, sind nach diesen Kriterien GPAI-Modelle, und ihre Entwickler sind die Anbieter. Für Ihr Unternehmen stellt sich die Frage, ob Ihre Änderungen Sie zum Anbieter eines neuen Modells machen.

Das Drittel-Kriterium für nachgelagerte Modifizierer

Die Leitlinien beantworten das mit einem Rechenleistungskriterium. Nach den Fragen und Antworten der Kommission wird ein nachgelagerter Modifizierer („downstream modifier“) nur in Ausnahmefällen Anbieter, nämlich wenn die Änderung oder das Fine-Tuning mehr als ein Drittel der Trainings­rechen­leistung des ursprünglichen Modells verbraucht. Daraus folgt laut Kommission, dass die meisten Fine-Tunings, Anpassungen und kleineren Änderungen außerhalb der Anbieterpflichten liegen; die Seite zu den Leitlinien formuliert, nur wer Modelle erheblich verändert, müsse die Pflichten erfüllen („only those making significant modifications to AI models need to comply“).

Wird die Grenze überschritten, erstrecken sich die Pflichten nicht auf das ganze Modell. Die Kommission beschränkt sie laut ihren Fragen und Antworten auf die Dokumentation der Änderung selbst („the modification itself“), also der vorgenommenen Änderungen und der neuen Trainingsdaten. Das entspricht Erwägungs­grund 109 der KI-Verordnung: Bei einer Änderung oder einem Fine-Tuning sollen sich die Pflichten der GPAI-Anbieter auf diese Änderung beschränken, etwa indem die vorhandene technische Dokumentation um Angaben zu den Änderungen ergänzt wird, einschließlich neuer Trainingsdatenquellen.

Zwei Fälle verlangen den Text der Leitlinien selbst. Der erste ist ein Basismodell, dessen Entwickler weder die Trainings­rechen­leistung noch die Trainingsdaten veröffentlicht hat, sodass der Nenner des Drittel-Tests fehlt. Der zweite ist die Änderung eines Modells mit systemischem Risiko oder eine Änderung, die ein Modell in diese Klasse bringt. Die Fragen und Antworten der Kommission behandeln keinen der beiden Fälle; lesen Sie für ein solches Modell das Dokument der Leitlinien mit Ihrer Rechtsabteilung, bevor Sie sich auf eine Schätzung stützen.

Die Rechenleistung eines Fine-Tuning-Laufs schätzen

Eine verbreitete Näherung für das Training eines dichten Transformers sind rund 6 Gleitkommaoperationen je Parameter und Trainingstoken: Das Scaling-Laws-Paper von OpenAI und der Johns Hopkins University (arXiv 2001.08361, Januar 2020) definiert die Trainings­rechen­leistung als „C ≈ 6N floating point operators per training token“, wobei der Faktor 6 Vorwärts- und Rückwärtsdurchlauf abdeckt. Für ein Basismodell ist N die Parameterzahl, und die Tokens sind die Vortrainingstokens aus seiner Modellkarte. Für ein Fine-Tuning sind es die im Training verarbeiteten Tokens, also Datensatzgröße mal Anzahl der Epochen.

Nehmen wir Llama 3.3 70B. Hugging Face nennt 70,55 Milliarden Parameter, und die Modellkarte von Meta gibt an, das Modell sei mit rund 15 Billionen Tokens vortrainiert worden („was pretrained on ~15 trillion tokens“). Nach unserer Schätzung sind das 6 × 70,55 × 10⁹ × 15 × 10¹² ≈ 6,3 × 10²⁴ FLOP, unter der Vermutung für systemisches Risiko, und ein Drittel davon sind rund 2,1 × 10²⁴ FLOP.

Unsere Rechnung mit C ≈ 6 × N × Tokens (arXiv 2001.08361), N = 70,55 Milliarden (Hugging Face) und rund 15 Billionen Vortrainingstokens (Modellkarte Llama 3.3 70B), gelesen am 24. Oktober 2026. Der Basiswert enthält das Post-Training nicht, das die Karte gesondert beschreibt. Für LoRA überzeichnen die vollen 6 FLOP je Parameter und Token den Aufwand, weil für die eingefrorenen Gewichte keine Gewichtsgradienten berechnet werden.

Die Hardware setzt diese Zahlen ins Verhältnis. NVIDIA nennt für die H200 NVL 1.671 BF16-Tensor-TFLOPS „with sparsity“, also 835,5 dicht. Auf einem Server mit acht H200 NVL bei angenommen 40 Prozent dieser dichten Spitzenleistung, rund 2,7 × 10¹⁵ FLOP pro Sekunde, dauert der Lauf mit 100 Millionen Tokens etwa viereinhalb Stunden. Die Drittel-Grenze für Llama 3.3 70B bräuchte auf demselben Server rund 25 Jahre und selbst 10²³ FLOP, das Richtkriterium für ein GPAI-Modell, mehr als ein Jahr. Beides sind unsere Schätzungen; die 40 Prozent Auslastung sind eine Annahme für das Beispiel, kein gemessener Wert.

Die Rechnung ist kurz, hängt aber an zwei Eingaben, die Ihr Team dokumentieren muss: an den veröffentlichten Trainingsdaten oder der Rechenleistung des Basismodells und an der Zahl der in Ihrem Lauf verarbeiteten Tokens. Wir liefern Fine-Tuning-Server von vier RTX PRO 6000 Server Edition bis zu acht H200 NVL mit NVLink-Brücken; schicken Sie uns Basismodell, Methode und Datensatzgröße, und unser Team antwortet mit einer Konfiguration.

Interne Nutzung, Forschung und Inverkehrbringen

Erwägungs­grund 97 behandelt Modelle, die ein Unternehmen selbst nutzt. Integriert ein Modellanbieter sein eigenes Modell in ein eigenes KI-System, das auf dem Markt bereitgestellt oder in Betrieb genommen wird, „sollte jenes Modell als in Verkehr gebracht gelten“. Weiter heißt es: „Die für Modelle festgelegten Pflichten sollten in jedem Fall nicht gelten, wenn ein eigenes Modell für rein interne Verfahren verwendet wird, die für die Bereitstellung eines Produkts oder einer Dienstleistung an Dritte nicht wesentlich sind, und die Rechte natürlicher Personen nicht beeinträchtigt werden.“

Die Fragen und Antworten der Kommission fassen das Inverkehrbringen weit: Es umfasst die Bereitstellung über APIs, Downloads, Cloud-Dienste und die Integration in Anwendungen, ebenso Modelle für interne Prozesse, die für ein Produkt oder eine Dienstleistung an Dritte wesentlich sind oder die Rechte natürlicher Personen in der Union berühren. Ein interner Assistent, der Dokumente für Mitarbeitende entwirft, und ein feingetuntes Modell, das Kundenansprüche bewertet, sind daher verschiedene Fälle, auch auf demselben Server.

Die Forschungsausnahme in Artikel 3 Nummer 63 ist enger, als sie klingt. Sie nimmt Modelle aus, die für Forschung, Entwicklung oder Prototyping verwendet werden, bevor sie in Verkehr gebracht werden. Experimente auf einem Trainingsserver fallen darunter; das Modell, das das Labor verlässt, als Download, API oder Teil eines Produkts, ist von da an in Verkehr gebracht.

Auch wenn Ihr Unternehmen kein Modellanbieter ist, kann es Anbieter oder Betreiber eines KI-Systems auf Basis des Modells sein, mit Pflichten nach Artikel 50 oder, bei Verwendungen nach Anhang III, nach den Hochrisiko-Regeln. Wer die Zweckbestimmung eines KI-Systems mit allgemeinem Verwendungszweck so ändert, dass es zum Hochrisiko-System wird, gilt nach Artikel 25 Absatz 1 Buchstabe c als Anbieter eines Hochrisiko-KI-Systems. Unser Leitfaden zu den Betreiberpflichten behandelt diese Rollen.

Was der Anbieter eines veränderten Modells tun muss

Ist das Rechenleistungskriterium erfüllt, legt Artikel 53 Absatz 1 vier Pflichten für GPAI-Anbieter fest, die die Leitlinien auf die Änderung beschränken:

1. Technische Dokumentation des Modells, einschließlich Trainings- und Testverfahren und Bewertungsergebnissen, mit dem Mindestinhalt nach Anhang XI, auf Anfrage für das Büro für Künstliche Intelligenz und die nationalen Behörden (Buchstabe a).
2. Informationen für nachgelagerte Anbieter, die das Modell in ihre KI-Systeme integrieren, mit mindestens den Angaben nach Anhang XII (Buchstabe b).
3. Eine Strategie zur Einhaltung des Urheberrechts der Union und verwandter Schutzrechte, einschließlich der Ermittlung von Rechtevorbehalten nach Artikel 4 Absatz 3 der Richtlinie (EU) 2019/790 (Buchstabe c).
4. Eine öffentliche Zusammenfassung der Trainingsinhalte nach der Vorlage des Büros für Künstliche Intelligenz (Buchstabe d); die Seite der Kommission verlinkt eine Erläuterung und die Vorlage.

Artikel 53 Absatz 2 nimmt Modelle unter einer freien und quelloffenen Lizenz, die Zugang, Nutzung, Änderung und Weitergabe erlaubt und deren Gewichte, Architektur und Nutzungsinformationen öffentlich sind, von den Buchstaben a und b aus. Die Fragen und Antworten ergänzen, dass die Lizenz dies ohne Monetarisierung erlauben muss („without monetisation“). Die Ausnahme erfasst weder die Urheberrechtsstrategie noch die Zusammenfassung der Trainingsinhalte, und sie gilt nicht für Modelle mit systemischem Risiko. Artikel 54 Absatz 6 befreit dieselben Open-Source-Anbieter davon, schriftlich einen Vertreter in der Union zu benennen, was Artikel 54 Absatz 1 von Anbietern mit Sitz außerhalb der EU verlangt.

Für ein Unternehmen, das ein stark verändertes Modell unter Apache 2.0 auf Hugging Face veröffentlicht, bleiben also Urheberrechtsstrategie und Zusammenfassung der Trainingsinhalte, bezogen auf die neuen Trainingsdaten. Nach Artikel 53 Absatz 4 können Anbieter die Einhaltung über einen Praxisleitfaden nach Artikel 56 nachweisen, bis eine harmonisierte Norm veröffentlicht ist; die Seite der Kommission verlinkt den General-Purpose AI Code of Practice.

Fristen des AI Act für KI-Modelle mit allgemeinem Verwendungszweck

Verordnung (EU) 2024/1689 im AI Act Service Desk der Kommission, der Artikel 53, 101, 111 Absatz 3 und 113 Buchstabe b nicht als durch die Verordnung (EU) 2026/1744 geändert kennzeichnet; Seite der Kommission zu den GPAI-Leitlinien (28. April 2026) und Fragen und Antworten (11. November 2025), gelesen am 24. Oktober 2026.

Artikel 113 Buchstabe b lässt Kapitel V ab dem 2. August 2025 gelten, zusammen mit dem Kapitel über Sanktionen, aber „mit Ausnahme des Artikels 101“. Nach Artikel 101 Absatz 1 kann die Kommission gegen Anbieter von GPAI-Modellen Geldbußen von bis zu 3 Prozent ihres gesamten weltweiten Jahresumsatzes im vorangegangenen Geschäftsjahr oder einem in diesem Artikel festgelegten Festbetrag verhängen, je nachdem, welcher Betrag höher ist, wenn sie feststellt, dass ein Anbieter vorsätzlich oder fahrlässig gegen die Verordnung verstoßen, eine Anfrage nach Dokumenten oder Informationen nicht beantwortet, eine nach Artikel 93 verlangte Maßnahme nicht umgesetzt oder den Zugang zu einem Modell für eine Bewertung verweigert hat. Laut den Fragen und Antworten arbeitete das Büro für Künstliche Intelligenz bis zum 2. August 2026 eng mit den Anbietern zusammen, besonders mit den Unterzeichnern des Praxisleitfadens, und ab dann setzt die Kommission die Einhaltung aller Pflichten vollständig durch.

Was Sie zu jedem Fine-Tuning-Lauf festhalten

Den Drittel-Test besteht man meist mit großem Abstand, aber nur, wenn später jemand die Zahlen belegen kann. Ein kurzer Eintrag je Lauf erlaubt Ihrer Rechtsabteilung die Bewertung und beantwortet eine Anfrage des Büros für Künstliche Intelligenz oder eines Kunden ohne Rekonstruktion.

• Basismodell. Repository, genaue Revision oder Commit, Lizenzdatei und die vom Entwickler veröffentlichten Trainingsdaten oder Rechenleistung.
• Methode. Voll-Fine-Tuning, LoRA oder QLoRA, Distillation oder Continued Pretraining, mit Framework und Version.
• Daten. Quellen, ihr Rechtestatus, die Zahl der Tokens und der Epochen.
• Rechenleistung. Ihre Schätzung nach 6 × Parameter × Trainingstokens und die GPU-Stunden aus dem Scheduler oder Job-Log zur Gegenprobe.
• Verwendung. Ob das Ergebnis intern bleibt, in ein Produkt oder eine Dienstleistung für Dritte eingeht oder veröffentlicht wird.
• Bewertung. Testdatensatz und Ergebnisse, die die Dokumentation eines Anbieters ohnehin bräuchte.

Viele Teams legen diesen Eintrag neben der Trainingskonfiguration in die Versionsverwaltung. Derselbe Eintrag dient einem KI-Managementsystem nach ISO/IEC 42001, das unser Artikel zur KI-Governance für ein privates LLM auf Plattformkontrollen abbildet. Zu Verfahren, die weit mehr Tokens verarbeiten, lesen Sie unsere Artikel zu Continued Pretraining mit Firmendaten und zur LLM-Distillation on-premise.

Unser Service Private AI/ML betreibt Fine-Tuning und Inferenz auf Ihrer eigenen Hardware, gemeinsam mit unserem Engineering-Partner Vixen.UNO. Beschreiben Sie das Modell, das Sie anpassen wollen, und seine Verwendung, und wir schlagen Server und Trainingsaufbau vor.

Fine-Tuning auf dem eigenen Server

Ob ein Lauf zwei oder acht Karten braucht, hängt mehr von der Methode ab als vom AI Act. Unser Leitfaden zum GPU-Speicher für Fine-Tuning mit LoRA und QLoRA nennt den Speicherbedarf je Methode, und unser Artikel zum Fine-Tuning-Server mit 2, 4 oder 8 GPUs macht daraus Konfigurationen. Unser Trainingsknoten auf der Seite KI-Server hat acht H200 NVL mit NVLink-Brücken, zwei AMD-EPYC-Prozessoren, 2,3 TB DDR5-ECC-Speicher, acht NVMe-Laufwerke und 400G-Netzwerk; vier RTX PRO 6000 Server Edition eignen sich für LoRA- und QLoRA-Läufe bis 70B. Jeder Server wird vor der Lieferung montiert und getestet, die Herstellergarantie auf jede Komponente wickeln wir ab, und Mengen und Lieferzeit werden mit dem Angebot schriftlich bestätigt.

Allgemeine Information zum EU-Recht mit Stand Oktober 2026, keine Rechtsberatung im Einzelfall; die Durchsetzung durch nationale Behörden und das Büro für Künstliche Intelligenz kann in der Praxis abweichen, und Ihre Rechtsabteilung bestätigt, wie die Regeln für Ihr Unternehmen gelten.

FAQ