KI-Einführungsplan: einen privaten KI-Assistenten in Wellen bei 1.000 Mitarbeitern einführen

So führen Sie einen privaten KI-Assistenten bei 1.000 Mitarbeitern ein

Ein KI-Einführungsplan bringt einen privaten KI-Assistenten in Wellen nach Abteilungen zu den Mitarbeitern: zuerst eine Pilotgruppe, dann Abteilungen in einer Reihenfolge, die sich danach richtet, wie weit ihre Anwendungsfälle vorbereitet sind, und jede erst dann, wenn die vorherige Welle ein vereinbartes Freigabekriterium erfüllt hat. Jede Welle bringt ihre eigenen Anwendungsfälle und Dokumentensammlungen mit, erhält den Zugang über eine Verzeichnisgruppe im Verzeichnisdienst, akzeptiert die Nutzungsrichtlinie und schließt vor ihrer ersten Anmeldung die Schulung ab. Ein Support-Kanal und ein Feedback-Kreislauf laufen ab dem ersten Tag, und eine Kapazitätsprüfung auf Basis der gemessenen Last entscheidet, ob die Server die nächste Welle tragen. Für eine KI-Einführung im Unternehmen mit 1.000 Mitarbeitern ergeben vier Wellen wachsender Größe einen praktikablen Plan, wie in diesem Beispiel.

Ein Beispielplan für 1.000 Mitarbeiter; Gruppengrößen und Schwellwerte sind unsere und werden durch Ihre eigenen ersetzt.

Wellen nach Abteilung und Anwendungsfall planen

Eine Abteilung ist bereit für eine Welle, wenn sie zwei oder drei wiederkehrende Aufgaben für den Assistenten nennen, auf die Dokumentensammlungen verweisen kann, die sie beantworten, und einen Dateneigentümer benennt, der entscheidet, wer welche Sammlung lesen darf. Kundenservice mit einer Produktwissensdatenbank, IT-Betrieb mit Runbooks und die Rechtsabteilung mit einer Vorlagenbibliothek sind typische frühe Kandidaten, weil ihre Dokumente bereits in gemeinsamen Ablagen liegen.

Halten Sie Nutzungen, die die Zwecke in Anhang III Nummer 4 des AI Act berühren, aus den allgemeinen Wellen heraus. Diese Nummer betrifft Beschäftigung und Personalmanagement, darunter KI-Systeme, die dazu bestimmt sind, „Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten“, und Systeme, die zur Beobachtung und Bewertung der Leistung und des Verhaltens von Beschäftigten verwendet werden. Eine solche Nutzung braucht eine eigene Entscheidung, und ihre Einstufung ist eine rechtliche Bewertung für die Rechtsabteilung des Unternehmens.

Welle 0 hat zwei Aufgaben: einen Prozess mit gemessenen Ergebnissen zu belegen und die Lastwerte zu liefern, nach denen die Server für das ganze Unternehmen ausgelegt werden. Unser Artikel dazu, was in einem privaten KI-Piloten zu messen ist, behandelt beides.

Unsere Leistung Private AI/ML startet mit einem Pilotprojekt auf einem Prozess mit klaren Metriken und skaliert nur, was seinen Wert bewiesen hat. Nennen Sie uns die Abteilungen, die Sie in die ersten zwei Wellen nehmen würden, und die Aufgaben, die sie mitbringen.

Zugangsgruppen aus dem Verzeichnisdienst

Der Zugang folgt Gruppen im Verzeichnisdienst: Eine Welle geht live, wenn ihre Abteilungsgruppen der Verzeichnisgruppe hinzugefügt werden, die der Identity Provider zum Assistenten zulässt, und kein Konto wird von Hand angelegt. Eine klare Struktur hat je Abteilung oder Welle eine Anmeldegruppe, je Anwendungsfall, der eine eingeschränkte Sammlung oder ein eingeschränktes Modell braucht, eine Anwendungsfallgruppe und eine Administratorgruppe für die Plattform.

Der Identity Provider übermittelt die Mitgliedschaften als Claim im Anmeldetoken. Ist ENABLE_OAUTH_GROUP_MANAGEMENT gesetzt, gleicht Open WebUI seine Gruppen bei jeder Anmeldung mit diesem Claim ab und entfernt Nutzer aus Gruppen, die der Claim nicht aufführt, auch aus von Hand zugewiesenen, ohne Ausnahme für Administratoren. ENABLE_OAUTH_GROUP_CREATION legt Gruppen an, die noch nicht existieren. Ein angemeldeter Nutzer sieht eine geänderte Mitgliedschaft erst, nachdem er sich ab- und wieder angemeldet hat. Modelle und Wissensdatenbanken, die auf privat oder eingeschränkt gesetzt sind, werden für ausgewählte Gruppen oder Nutzer freigegeben, mit Lesezugriff, um sie zu nutzen, und Schreibzugriff, um sie zu ändern. Laut Dokumentation sind Berechtigungen additiv und Verweigerungsregeln gibt es nicht, sodass ein Mitglied mehrerer Gruppen alle ihre Freigaben erhält. Halten Sie die Standardberechtigungen minimal und vergeben Sie Funktionen gruppenweise.

Unser Leitfaden zur privaten ChatGPT-Alternative behandelt die Anmeldeseite im Detail, von OpenID Connect und SAML bis zur Laufzeit der Token und zum Deprovisioning per SCIM.

Bestätigung der Nutzungsrichtlinie und Schulung vor dem Zugang

Knüpfen Sie die Gruppenmitgliedschaft an zwei Nachweise: Die Person hat die aktuelle Version der Nutzungsrichtlinie akzeptiert und das Schulungsmodul für ihre Rolle abgeschlossen. Die Richtlinie nennt die zulässigen Datenklassen, die ausgeschlossenen Aufgaben und was das Query-Log enthält. Unser Leitfaden zu Schatten-KI, Richtlinie und Kontrollen enthält eine Beispielmatrix der Datenklassen. Bestätigt die Lernplattform oder das HR-System beide Nachweise, bevor der Verzeichnisdienst die Person der Zugangsgruppe hinzufügt, stimmen die Liste der geschulten Personen und die Liste der Nutzer überein.

Artikel 4 des AI Act in der durch die Verordnung (EU) 2026/1744, die Digital-Omnibus-Verordnung zur KI, geänderten Fassung, in Kraft seit dem 27. Juli 2026, verlangt, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, „um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen“, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind. Laut den Fragen und Antworten der Kommission zur KI-Kompetenz, zuletzt aktualisiert am 27. Juli 2026, ist „kein Zertifikat nötig“, und Organisationen „können einen internen Nachweis über Schulungen und/oder andere anleitende Initiativen führen“. Sie warnen außerdem, dass es in vielen Fällen „unwirksam sein könnte“, sich auf die Betriebsanleitung zu verlassen oder das Personal zu bitten, sie zu lesen.

Unser Leitfaden zur KI-Kompetenz-Schulung nach Artikel 4 legt die Inhalte je Rolle dar. Für eine Einführung planen Sie je Abteilung eine Live-Schulung am produktiven Assistenten mit den eigenen Anwendungsfällen der Abteilung, eine Aufzeichnung für Beschäftigte, die später hinzukommen, und eine Wiederholung, wenn sich das Modell oder eine Sammlung ändert.

Support-Kanal und Feedback-Kreislauf

Legen Sie vor Welle 1 im Service Desk eine Kategorie für den KI-Assistenten an und leiten Sie Tickets nach ihrer Art weiter. Zugangsprobleme, etwa eine fehlende Gruppenzugehörigkeit oder eine fehlgeschlagene Anmeldung, bleiben beim Service Desk. Plattformprobleme wie Fehler oder langsame Antworten gehen an das Plattformteam. Inhaltliche Probleme, also falsche, veraltete oder fehlende Antworten, gehen an den Dateneigentümer der Sammlung, der das Quelldokument oder die Sammlung korrigiert. Das Plattformteam nimmt danach die Frage und die korrigierte Antwort in das Evaluierungsset auf, damit ein späterer Modellwechsel daran getestet wird.

Ein Multiplikator in jedem Team beantwortet die ersten Fragen der Kollegen und sammelt Beispiele guter und schlechter Antworten. In Open WebUI bewerten Nutzer Antworten mit „Daumen hoch oder Daumen runter“ und können Themen-Tags hinzufügen, und wo mehrere Modelle angeboten werden, sehen Administratoren ein Leaderboard, in dem die Modelle „mit einem Elo-Bewertungssystem eingestuft“ werden. Jede Bewertung speichert einen Schnappschuss des Gesprächs, sodass die inhaltliche Prüfung bei der Liste der negativen Bewertungen beginnt.

Das AI Risk Management Framework 1.0 des NIST (NIST AI 100-1, Januar 2023) beschreibt denselben Kreislauf. Seine Subkategorie MEASURE 3.3 fordert „Feedback-Prozesse, über die Endnutzer und betroffene Gemeinschaften Probleme melden und Ergebnisse des Systems anfechten können“, und MANAGE 4.3 hält fest: „Vorfälle und Fehler werden den relevanten KI-Akteuren mitgeteilt“. Teilen Sie den Nutzern mit, was sich nach ihren Meldungen geändert hat: Open WebUI lässt Administratoren Banner „auf dem Bildschirm für einen neuen Chat“ anzeigen, die erscheinen, solange kein Chat geöffnet ist, und im Admin-Bereich oder über WEBUI_BANNERS gesetzt werden.

Metriken: aktive Nutzer, Anfragen je Nutzer und erledigte Anwendungsfälle

Messen Sie die Nutzung je Abteilung, bezogen auf die Zahl der Personen mit Zugang, und prüfen Sie die Werte bei jedem Freigabekriterium.

Unsere Zusammenfassung; Analytics-Felder wie in der Dokumentation von Open WebUI beschrieben, abgerufen am 10. Oktober 2026.

Das Analytics-Dashboard von Open WebUI, nur für Administratoren unter Settings, Admin, Analytics zugänglich, zeigt Nachrichten, Token, Chats und Nutzer, aufgeschlüsselt nach Modell und nach Nutzer, und filtert nach Zeitraum und Nutzergruppe. Es zählt Antworten des Assistenten, und das Löschen eines Chats oder eines Nutzers entfernt dessen Nachrichten aus den Zahlen. Die Nutzertabelle zeigt die 50 Nutzer mit den meisten Nachrichten im Zeitraum, sodass der aktive Anteil einer Abteilung mit mehreren hundert Nutzern die Analytics-API mit einem höheren limit braucht. Aktiver Anteil und Anfragen zeigen die Nutzung; erledigte Anwendungsfälle zeigen, ob die Abteilung die zugesagten Aufgaben erhalten hat, und hohe Nutzung ohne erledigten Anwendungsfall ist Anlass, die Sammlungen zu prüfen.

Das Dashboard zeigt die Aktivität je Nutzer, also personenbezogene Daten. Berichten Sie nach Abteilung und stimmen Sie die Detailtiefe vor dem ersten Bericht mit Ihrem Datenschutzbeauftragten ab. Wird entschieden, das Dashboard abzuschalten, setzen Sie ENABLE_ADMIN_ANALYTICS auf False; nach einem Neustart ist es ausgeblendet.

Kapazitätsprüfung vor der nächsten Welle

Entnehmen Sie die Spitzenstunde der laufenden Wellen den Metriken der Serving-Engine. In vLLM sind das die Anfragen in Bearbeitung (vllm:num_requests_running), die Warteschlange (vllm:num_requests_waiting) und der Anteil belegter KV-Cache-Blöcke (vllm:kv_cache_usage_perc), alle als Gauges, sowie die Zeit bis zum ersten Token, ein Histogramm (vllm:time_to_first_token_seconds), abgelesen am 95. Perzentil. Rechnen Sie den Spitzenwert der Spitzenstunde auf die Nutzerzahl hoch, die die Plattform nach der nächsten Welle hat. Erzeugen beispielsweise 190 Nutzer eine Spitze von 12 Anfragen in Bearbeitung, sagt dasselbe Verhältnis für die 540 Nutzer nach Welle 2 etwa 34 voraus.

Korrigieren Sie das Verhältnis für die Anwendungsfälle der nächsten Welle, denn eine Abteilung, die mit langen Verträgen arbeitet, sendet längere Prompts als eine, die kurze Fragen stellt. Die Welle wird geöffnet, wenn die prognostizierte Spitze mit der festgelegten Reserve in den KV-Cache passt und die Zeit bis zum ersten Token im Zielbereich bleibt. Passt sie nicht, wartet die Welle auf den nächsten Server, und diese Entscheidung muss deshalb früh fallen. Unser Leitfaden zur GPU-Kapazitätsplanung für eine LLM-Plattform legt Schwellwerte, Reserve und das Review-Verfahren dar.

Unsere Leistung Private AI/ML umfasst Auswahl und Lieferung von GPU-Servern, vom Einzelserver bis zum Cluster. Schicken Sie uns die Werte der Spitzenstunde Ihrer letzten Welle und die Nutzerzahl der nächsten über das Formular unten.

Kommunikation, Change Management und Arbeitnehmervertretung

Kündigen Sie jede Welle der Abteilung vor dem Schulungstermin an, gemeinsam durch die Abteilungsleitung und die IT. Die Nachricht sagt, was der Assistent für die Abteilung leistet, welche Daten eingegeben werden dürfen, was das Query-Log aufzeichnet und wo es Hilfe gibt. Veröffentlichen Sie nach jeder Welle die erledigten Anwendungsfälle und die Korrekturen, die aus den Meldungen der Nutzer entstanden sind.

Hat das Unternehmen einen Betriebsrat oder eine andere Arbeitnehmervertretung, kann nationales Recht eine Unterrichtung oder Anhörung verlangen, bevor ein Assistent mit Query-Log live geht; die Richtlinie 2002/14/EG setzt den Rahmen der EU und nennt unter ihren Gegenständen Entscheidungen, die wesentliche Veränderungen der Arbeitsorganisation mit sich bringen können, und ob sie greift, ist eine rechtliche Bewertung für die Rechtsabteilung des Unternehmens.

Einführungsschritte vom Piloten bis zum ganzen Unternehmen

1. Vereinbaren Sie Anwendungsfälle, Metriken und Freigabekriterium des Piloten und führen Sie Welle 0 mit einem Prozess durch.
2. Schreiben Sie die Nutzungsrichtlinie und das Schulungsmodul je Rolle und richten Sie den Nachweis für beides ein.
3. Legen Sie die Verzeichnisgruppen je Abteilung und Anwendungsfall an und ordnen Sie sie im Frontend Modellen und Sammlungen zu.
4. Eröffnen Sie die Support-Kategorie mit ihren drei Wegen und benennen Sie in jedem Team einen Multiplikator.
5. Schulen Sie die Abteilung, bestätigen Sie beide Nachweise und fügen Sie ihre Verzeichnisgruppe der Zugangsgruppe des Assistenten hinzu.
6. Prüfen Sie Nutzungsmetriken, Bewertungen und Tickets je Abteilung an jedem Checkpoint.
7. Führen Sie die Kapazitätsprüfung gegen die Nutzerzahl nach der nächsten Welle und deren Anwendungsfälle durch.
8. Öffnen Sie die nächste Welle, wenn ihr Freigabekriterium erfüllt ist, und ergänzen Sie den zweiten Server, bevor das ganze Unternehmen vom Assistenten abhängt.

Was wir tun

Unsere Leistung Private AI/ML baut eine KI-Plattform unter Ihrer Kontrolle, auf Ihren Servern oder auf dedizierter Hardware in einem Tier-3-Rechenzentrum in Litauen, mit Query-Log sowie Daten- und Berechtigungsverwaltung und mit Assistenten, die die Zugriffsrechte jedes Nutzers beachten. Wir starten mit einem Pilotprojekt auf einem Prozess mit klaren Metriken, skalieren nur, was seinen Wert bewiesen hat, und schulen Ihr Team, damit es die Plattform betreiben und weiterentwickeln kann. Eurokommerz hält den Vertrag und liefert die GPU-Server, vom Einzelserver bis zum Cluster, das Engineering kommt von unserem Engineering-Partner Vixen.UNO, und der laufende Support erfolgt unter einem vereinbarten SLA. Das erste Gespräch ist kostenlos, und der Preis des technischen Assessments steht vor Beginn fest. Wie wir während des Projekts mit Ihren Daten umgehen, beschreibt unsere Seite Sicherheit & Compliance.

FAQ