Eigene KI im Unternehmen einführen: die Schritte von der Anfrage bis zur ersten Nutzung

Wie die Einführung eigener KI abläuft

Ein Projekt mit eigenem KI-Server läuft in vier Abschnitten, vom ersten Gespräch über Ihre Aufgaben bis zur täglichen Nutzung des Assistenten durch Ihre Beschäftigten: die Prüfungen vor dem Angebot, Bestellung und Lieferung der Maschine, die Einrichtung der Modelle mit Ihren Dokumenten sowie ein Pilotbetrieb mit anschließender Übergabe. Die 14 Schritte unten nennen jeweils, was geschieht und was Sie als Kunde vorbereiten oder entscheiden, damit eine Geschäftsführung ohne IT-Abteilung den ganzen Weg vor dem ersten Anruf überblickt.

Die Seite beschreibt die Reihenfolge der Schritte und wer was übernimmt. Dauern nennt sie keine: Wie lange ein Schritt dauert, hängt von Ihren Räumen, Ihren Dokumenten und den Komponenten ab, und die Lieferzeit der Hardware wird mit dem Angebot schriftlich bestätigt. Wo ein Schritt einen eigenen ausführlichen Leitfaden auf unserer Website hat, verlinken wir ihn. Wenn Sie noch prüfen, ob ein Server überhaupt zu Ihrer Firmengröße passt, beginnen Sie mit unserem Leitfaden Eigene KI für Firmen mit 10 bis 100 Mitarbeitern.

Ablauf des KI-Projekts im Überblick

Schritte nach unseren Seiten zu KI-Servern und Private AI/ML und unseren unten verlinkten Leitfäden; die Spalte „Ihr Beitrag“ ist unsere Zusammenfassung.

Die Schritte folgen nicht immer genau dieser Reihenfolge. Eine Firma, die nur die Maschine kauft und die Software selbst betreibt, endet nach Schritt 9. Eine Firma, die auch die Plattform von uns will, führt die technische Analyse vor der Bestellung durch, weil die Wahl des Modells die Zahl der Karten ändern kann.

Vor dem Angebot: Gespräch, Raum und Daten

Schritt 1, das Erstgespräch. Es ist kostenlos. Sie beschreiben, was der Assistent tun soll, etwa Fragen aus den Servicehandbüchern beantworten, Angebote entwerfen oder Besprechungs­protokolle schreiben, wie viele Personen ihn nutzen würden und welche Dokumente er kennen soll. Unsere Seite zu Private AI/ML beschreibt als Ergebnis zwei bis drei mögliche Lösungsszenarien. Benennen Sie eine Person auf Ihrer Seite, die später für den Assistenten verantwortlich ist; das muss keine IT-Fachkraft sein, wie unser Artikel zum KI-Server ohne IT-Abteilung erklärt.

Schritt 2, der Raum- und Datencheck. Wir prüfen Rack, Strom und Luftführung, bevor wir ein Angebot machen. Für eine Firma ohne Serverraum sind das einige einfache Fragen: wo die Maschine stehen würde, mit welcher Sicherung der Stromkreis abgesichert ist und was sonst daran hängt, ob der Raum ganzjährig gekühlt wird und ob es einen Netzwerkanschluss per Kabel gibt. Unsere Checkliste zur Vorbereitung eines Serverraums führt alles im Detail auf. Auf der Datenseite halten Sie fest, wo die Dokumente heute liegen (ein Dateiserver, ein Dokumentenmanagementsystem, Postfächer, ein Wiki), in welchen Formaten und Sprachen und wer für welchen Bestand zuständig ist. Unser Leitfaden zu Dokumenten für den KI-Assistenten zeigt, wie Sie diese Liste anlegen.

Angebot, Analyse und Bestellung

Schritt 3, Konfiguration und Angebot. Aus Aufgaben, Nutzerzahl und Raum wird die Maschine ausgelegt: Zahl und Ausführung der Karten, Prozessoren, Arbeitsspeicher, Speicher und Netzwerk. Das schriftliche Angebot nennt Preis, Lieferzeit und Garantiebedingungen; Konfiguration und Angebot schicken wir innerhalb eines Werktages. Für eine Firma mit 10 bis 100 Personen ist das meist eine Workstation mit zwei RTX PRO 6000 Max-Q oder ein Rack-Server mit zwei RTX PRO 6000 Server Edition.

Schritt 4, die technische Analyse. Bauen wir auch die Plattform, beginnt unser Service Private AI/ML mit einer kostenpflichtigen technischen Analyse, deren Preis feststeht, bevor die Arbeit beginnt. Sie umfasst die Lösungsarchitektur, die Wahl von Modell und GPU und einen Pilotplan mit Kennzahlen. Ihre Entscheidung hier ist der Pilotprozess: eine Aufgabe mit einem zählbaren Ergebnis, etwa aus den Handbüchern beantwortete Fragen oder geschriebene Protokolle. Unser Leitfaden dazu, was ein Private-AI-Pilot messen sollte, erklärt, welche Werte Sie sammeln.

Schritt 5, die Bestellung. Sie bestellen auf Basis des Angebots. Der Vertrag besteht mit Eurokommerz in Österreich, mit EU-Rechnungsstellung, und eine Projektleitung von Eurokommerz bleibt Ihre Ansprechperson für Hardware und Engineering. Bevor technische Details ausgetauscht werden, wird ein NDA unterzeichnet, und ein Auftrags­verarbeitungs­vertrag ist auf Wunsch möglich. Ob Sie einen brauchen, etwa weil unser Engineering-Partner Vixen.UNO an Systemen mit personenbezogenen Daten arbeiten wird, bestätigt Ihr Datenschutz­beauftragter.

Wir liefern die Maschine und über Private AI/ML die Plattform darauf in einem Vertrag; schicken Sie uns Aufgaben und Personenzahl, und wir antworten innerhalb eines Werktages mit einem ersten Szenario und einer Konfiguration.

Montage, Lieferung und Abnahme

Schritt 6, Montage und Test. Die Maschine wird vor der Lieferung montiert und getestet, mit einem Einschalt- und Lasttest. Von Ihnen ist hier nichts nötig, aber heben Sie den Lieferschein und die Seriennummern auf, die mit der Maschine kommen: Genau diese Angaben braucht später ein Garantiefall.

Schritt 7, Lieferung und Aufstellung. Wir liefern in die gesamte EU, andere Ziele auf Anfrage über unseren Logistikpartner. Die Inbetriebnahme vor Ort ist auf Wunsch möglich. Ihr Beitrag ist praktisch: ein freier Weg zum Raum, jemand, der die Lieferung annimmt, die in Schritt 2 geprüfte Steckdose oder Rack-Position und ein Netzwerkanschluss. Ein Rack-Server ist schwer und tief; die Serverraum-Checkliste behandelt Schienen und Rack-Tiefe.

Schritt 8, Ihr Abnahmetest. Bevor die Maschine in Betrieb geht, prüfen Sie sie gegen die Bestellung: jede Karte erkannt, Diagnose ohne Fehler, Temperaturen und Leistung unter Last innerhalb der Grenzen. Unser Leitfaden zum Abnahmetest von GPU-Servern beschreibt die Tests. Die Abnahme fällt leichter, wenn beide Seiten Tests und Kriterien vor der Bestellung vereinbaren.

Software einrichten und Dokumente anbinden

Schritt 9, die Basissoftware. Auf Wunsch kommt die Maschine mit Betriebssystem, NVIDIA-Treiber, CUDA (der Softwareschicht von NVIDIA, mit der Programme die GPU nutzen) und einer Container-Runtime (dem Werkzeug, das jede KI-Software in einem eigenen abgeschlossenen Paket ausführt). Ihr IT-Dienstleister, falls Sie einen haben, gibt der Maschine eine Netzwerkadresse und eine Adresse für ihre Fernverwaltung. Für IT-Fachleute behandelt unser Leitfaden zur Einrichtung eines neuen GPU-Servers vom BIOS bis zum ersten Modell diesen Schritt technisch.

Schritt 10, Modelle und Plattform. Dann folgen das Modell selbst, die Serving-Engine, die es betreibt (etwa vLLM), die Weboberfläche, in die die Beschäftigten schreiben, und ein Gateway, das Schlüssel vergibt und ein Abfrageprotokoll führt, also aufzeichnet, wer wann was gefragt hat. Die Fachleute arbeiten in Ihrer Umgebung unter Ihren Zugriffskontrollen und nehmen keine Kopien von Produktivdaten heraus. Zwei Entscheidungen liegen bei Ihnen: welches Modell aus der Auswahlliste der Analyse genutzt wird und wie lange das Abfrageprotokoll aufbewahrt wird. Unser Leitfaden zur Auswahl eines offenen LLM für Unternehmen behandelt Lizenzen und Sprachen.

Schritt 11, die Dokumente anbinden. Die Dokumentenbestände aus Schritt 2 werden so angebunden, dass der Assistent sie durchsuchen und zu jeder Antwort die Quelle nennen kann. Jeder Nutzer sieht nur, was seine Zugriffsrechte erlauben. Hier entscheiden Ihre Abteilungsleitungen: welche Bestände hineinkommen, welche Fassung eines Dokuments gilt, wer was sehen darf und wer den Bestand aktuell hält. Die Qualität der Antworten hängt stärker von diesen Entscheidungen ab als von der Hardware. Unser Artikel zu RAG auf Firmendaten erklärt, warum.

Nutzer, Regeln und Schulung

Schritt 12, Konten und Regeln. Die Beschäftigten melden sich mit Konten aus Ihrem Verzeichnisdienst an, falls Sie einen haben, oder mit Konten, die für die Plattform angelegt werden. Vor dem Zugang sollten drei Dinge geklärt sein. Eine schriftliche Nutzungsrichtlinie sagt den Beschäftigten, was in den Assistenten darf und was von öffentlichen Chatbots dorthin wechselt, wie unser Leitfaden zur KI-Richtlinie beschreibt. Nach Artikel 35 Absatz 1 DSGVO ist vor einer Verarbeitung, die voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, eine Datenschutz-Folgenabschätzung durchzuführen; ob das zutrifft, entscheidet Ihr Datenschutz­beauftragter, und unser Leitfaden zur DSFA zeigt das Vorgehen. Wo Ihr Unternehmen eine Beschäftigten­vertretung hat, beziehen Sie sie früh ein; unser Artikel zu Betriebsrat und interner KI behandelt das aus Sicht des EU-Rechts.

Eine kurze Schulung der Nutzer gehört in denselben Schritt. Die KI-Verordnung bezeichnet als Betreiber eine Person oder Stelle, die ein KI-System in eigener Verantwortung verwendet, außer bei persönlicher, nicht beruflicher Nutzung; ein Unternehmen mit eigenem Assistenten ist also Betreiber. Artikel 4 in der durch den Digital Omnibus zur KI geänderten Fassung, im konsolidierten Text vom 27. Juli 2026, verlangt sinngemäß, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu fördern, die in ihrem Auftrag mit Betrieb und Nutzung von KI-Systemen befasst sind. Die Kapitel I und II der KI-Verordnung, zu denen Artikel 4 gehört, gelten ab dem 2. Februar 2025. Das sind allgemeine Informationen, keine Rechtsberatung; Ihre Rechtsberatung bestätigt, was das für Ihr Unternehmen bedeutet. Eine erste Schulung behandelt meist, wofür der Assistent gut ist, dass seine Antworten falsch sein können, wie man die genannte Quelle prüft und was nicht eingegeben werden darf. Unser Leitfaden zur KI-Kompetenz-Schulung nach Artikel 4 und unser Artikel zur Frage nach einem KI-Beauftragten im KMU gehen weiter.

Pilotbetrieb und Übergabe in den Alltag

Schritt 13, der Pilotbetrieb. Einige Nutzer arbeiten mit dem Assistenten an dem in Schritt 4 gewählten Prozess. Sie bewerten die Antworten anhand eines Satzes echter Fragen mit bekannten richtigen Antworten, und das Gateway protokolliert, wie viele Anfragen in der Spitzenstunde eingehen und wie lange die Antworten dauern. Am Ende entscheiden Sie mit diesen Zahlen: auf alle Beschäftigten ausweiten, das Modell wechseln, Dokumente ergänzen oder aufhören. Unser Service Private AI/ML skaliert nur, was sich im Pilotbetrieb bewährt hat.

Schritt 14, Übergabe und Support. Das Team, das die Plattform betreiben wird, wird für Betrieb und Weiterentwicklung geschult. Danach haben Sie die Wahl: eigenes Personal oder unser Support nach vereinbartem SLA. Die Herstellergarantie auf jede Komponente wird über uns abgewickelt, bei Ankunft defekte Teile werden ersetzt, und für die Montage stehen wir selbst ein. Für größere Einführungen in Wellen setzt unser Leitfaden zur KI-Einführung für 1.000 Beschäftigte hier an.

Unser Service Private AI/ML beginnt mit dem kostenlosen Erstgespräch und einem Piloten in einem Prozess mit klaren Kennzahlen; beschreiben Sie den Prozess, mit dem Sie beginnen würden, und wir schlagen einen Piloten und die Maschine dafür vor.

Mit wem Sie es zu tun haben

Sie unterschreiben einen Vertrag, mit Eurokommerz, und arbeiten vom ersten Anruf bis zum Support mit einer Projektleitung von Eurokommerz. Eurokommerz liefert die Hardware mit EU-Rechnungsstellung und den Herstellergarantien. Das Engineering für Modelle, Dokumente und Plattform kommt von unserem Partner Vixen.UNO, innerhalb dieses Vertrags. Wenn Sie lieber kein Gerät im eigenen Haus betreiben, läuft das Hosting auf dedizierter Hardware in einem Tier-3-Rechenzentrum in Litauen; dann ändern sich die Schritte 2, 7 und 8, der Rest bleibt gleich.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team legt die Konfiguration nach Ihrer Arbeitslast und Ihrem Budget aus und antwortet innerhalb eines Werktages. Wir bauen KI-Workstations und -Server mit zwei, vier oder acht GPUs auf Bestellung, vor der Lieferung montiert und getestet, mit einem EU-Vertrag und einer Rechnung in die gesamte EU geliefert, mit Herstellergarantie auf jede Komponente, abgewickelt über uns; Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt. Betriebssystem, Treiber, CUDA und Container-Runtime installieren wir auf Wunsch, und Modelle, Dokumente und Pilot sind unser Service Private AI/ML.

FAQ