Lastenheft für eigene KI: Vorlage in Alltagssprache und was sie für den Server bedeutet

Anforderungen an ein KI-Projekt definieren, bevor Sie einen Server anfragen

Ein Lastenheft für eigene KI in Alltagssprache beantwortet zwölf Fragen zu Ihrem Unternehmen in Ihren eigenen Worten: wer die KI nutzt, für welche Aufgaben, mit welchen Dokumenten und Sprachen, wie vertraulich das Material ist, wann die Spitzenzeiten liegen, wo das System stehen darf und wer sich darum kümmert. Ein Anbieter leitet aus diesen Antworten Grafikkarten, Speicher, Ablage, Strom und Software ab, Sie brauchen zum Ausfüllen also kein technisches Wissen. Zwei Seiten Schätzungen in Ihren eigenen Worten helfen einem Anbieter mehr als eine Liste technischer Begriffe aus einem Prospekt.

Die Vorlage richtet sich an Inhaber, Geschäftsführer und Abteilungsleiter in Unternehmen ohne großes IT-Team. Sie ist der Schritt vor einer technischen Anfrage. Ist sie ausgefüllt, schreibt Ihr Anbieter oder Ihre IT daraus die technische Fassung, wie unser Leitfaden KI-Server kaufen: was Sie festlegen beschreibt; eine öffentliche Stelle, die ausschreiben muss, nutzt unsere Leistungs­beschreibung für GPU-Server.

Wo Sie eine Zahl nicht kennen, schreiben Sie eine Schätzung und kennzeichnen sie. Mit „etwa 40 Personen, nächstes Jahr vielleicht 80“ kann ein Anbieter viel mehr anfangen als mit einem leeren Feld.

Die Vorlage: Checkliste mit zwölf Fragen in Alltagssprache

Übernehmen Sie die zwölf Überschriften in ein Dokument und beantworten Sie jede in wenigen Zeilen. Die Beispiele in Klammern zeigen, welcher Detailgrad hilft.

1. Wer nutzt die KI. Abteilungen und Zahl der Personen in jeder, heute und in zwei Jahren (Vertrieb 12, Qualität 6, Konstruktion 20, Büro 8).
2. Aufgaben mit je einem echten Beispiel. Was die Beschäftigten fragen oder an die KI übergeben werden (eine Antwort auf eine Kundenreklamation entwerfen; den Prüfgrenzwert in einer Kundenspezifikation finden; einen Liefervertrag von 40 Seiten zusammenfassen; eine Betriebsanleitung ins Polnische übersetzen).
3. Dokumente. Aus welchen die KI antworten soll, ungefähr wie viele und wo sie liegen (etwa 30.000 Dateien auf dem Fileserver, das QM-Handbuch im Dokumentensystem, Kunden­spezifikationen als PDF in E-Mails).
4. Wer was sehen darf. Ob jeder Nutzer jedes Dokument sehen darf oder Abteilungen getrennt sind (Konstruktionszeichnungen nur für Konstruktion und Vertrieb).
5. Sprachen. In welchen Sprachen Beschäftigte schreiben und Dokumente vorliegen (Deutsch und Englisch; Lieferantenunterlagen auf Italienisch; Beschäftigte in der Fertigung schreiben Rumänisch).
6. Vertraulichkeit. Welches Material das Unternehmen nie verlassen darf, welches personenbezogene Daten enthält und ob Gesundheits- oder andere besondere Daten dabei sind (Rezepturen und Zeichnungen; Personalakten; Krankmeldungen).
7. Spitzenzeiten und Stapelarbeit. Wann die meisten die KI nutzen werden und was nachts laufen kann (vormittags 8 bis 10 Uhr; einmal im Quartal alle Anleitungen übersetzen).
8. Anzubindende Systeme. Woher Antworten kommen oder wohin sie gehen (ERP für den Auftragsstatus, das E-Mail-System, das Dokumentensystem).
9. Wo das System stehen darf. Ein Serverraum mit Rack, eine Büroecke oder gar kein Platz im Haus (Rack mit 16 A, ohne Klimaanlage; oder ein Rechenzentrum in der EU).
10. Ausfall. Was passiert, wenn die KI einen Tag nicht verfügbar ist (lästig; oder die Auftragsannahme steht).
11. Wer sich kümmert. Ihre eigene IT, ein externer IT-Dienstleister oder ein Betriebsservice des Anbieters.
12. Woran Sie den Erfolg messen. Ein oder zwei messbare Ergebnisse (die Zeit für eine Reklamationsantwort sinkt von 30 auf 10 Minuten; 9 von 10 Testfragen werden mit Quelle richtig beantwortet).

Die Reihenfolge zählt weniger als die Vollständigkeit. Die Fragen 1, 2, 3 und 9 bestimmen die Größe der Hardware, die Fragen 4, 6 und 11 die Einrichtung und den Betrieb.

Von Ihren Antworten zum Server: die Übersetzungstabelle

Die Tabelle zeigt, was ein Anbieter aus jeder Antwort ableitet. Die Begriffe in der mittleren Spalte sind darunter erklärt.

Unsere Zusammenfassung, wie unsere Leitfäden zur Bemessung jede Angabe nutzen; Zahlen zu jeder Zeile in den Abschnitten unten.

Eine laufende Anfrage ist eine Frage, die die KI gerade in diesem Moment beantwortet. Ein Gespräch auf der Karte ist der Speicher, den eine solche Anfrage braucht. Die Kontextlänge ist die Textmenge, die eine Anfrage tragen darf: Frage, gefundene Dokumentstellen und Antwort. Der Suchindex ist die aufbereitete Kopie Ihrer Dokumente, die die KI vor der Antwort durchsucht.

Personen und Spitzenzeiten: wie viele Karten

Die Kopfzahl allein bestimmt nicht die Größe des Servers. Die meisten Beschäftigten mit geöffnetem Assistenten im Browser lesen oder tippen gerade, und nur ein Teil der Anfragen wird in einem bestimmten Moment beantwortet. Unser Leitfaden nach Firmengröße arbeitet mit Beispielwerten: 40 Prozent der Beschäftigten in der Spitzenstunde aktiv, sechs Anfragen je Person und Stunde, 30 Sekunden je Anfrage und eine Spitze vom Doppelten des Stundenmittels. Das ergibt etwa vier laufende Anfragen je 100 Beschäftigte. Ein Pilot ersetzt diese Beispielwerte durch Ihre eigenen, und deshalb fragt Punkt 7 nach Ihren Spitzenzeiten.

Unsere Regel für Nutzer je Karte nimmt 90 Prozent der 95,6 GiB, die der Treiber auf einer 96-GB-Karte RTX PRO 6000 meldet, zieht 3 GiB je Karte und die Gewichte des Modells ab und teilt den Rest durch den Speicher eines Gesprächs. Mit gpt-oss-120b bei 32K Kontext und 16-Bit-Cache hält eine Karte etwa 19 Gespräche, wie unser Leitfaden zu Nutzern je RTX PRO 6000 herleitet. Mit den Beispielwerten deckt eine Karte damit die Spitzenstunde von etwa 475 Beschäftigten.

Stapelarbeit ändert das Bild. Die Quartalsübersetzung aller Anleitungen kann nachts laufen, wenn der Assistent ruht, und braucht keine zusätzliche Karte, wenn Sie das unter Punkt 7 angeben. Unser Leitfaden zur LLM-Batch-Inferenz on-premise behandelt solche Nachtläufe.

Aufgaben und Dokumente: welche Modelle, wie viel Ablage

Jede Art von Aufgabe bringt ein Modell mit. Chat und Entwürfe nutzen ein Sprachmodell wie gpt-oss-120b. Antworten aus Ihren Dokumenten brauchen zusätzlich ein Embedding-Modell, das Textstellen in vergleichbare Zahlen übersetzt, und meist einen Reranker, der die Treffer sortiert; Qwen3 Embedding 0.6B unter Apache 2.0 erzeugt Vektoren mit bis zu 1.024 Zahlen, und seine Modellkarte nennt mehr als 100 Sprachen. Besprechungs­protokolle bringen ein Sprach­erkennungs­modell mit, gescannte Formulare ein Modell, das Bilder liest. Die kleinen Suchmodelle passen neben das Hauptmodell: Eine 96-GB-Karte lässt sich mit NVIDIAs MIG-Funktion in bis zu vier getrennte Teile aufteilen, und deshalb hat unser Einstiegsserver zwei Karten, eine für den Assistenten und eine mit MIG aufgeteilte für Suche und Spracherkennung.

Die Länge eines typischen Dokuments legt die Kontextlänge fest und damit die Zahl der Gespräche je Karte. Nach derselben Regel hält gpt-oss-120b auf einer Karte 79 Gespräche bei 8K Token, 19 bei 32K und 4 bei 128K. Eine Antwort aus wenigen kurzen Arbeitsanweisungen braucht viel weniger Kontext als die Zusammenfassung eines ganzen Vertrags; das Beispiel unter Punkt 2 ist deshalb die nützlichste Zeile der Vorlage.

Die Menge der Dokumente bestimmt den Index. Bei vier Byte je Zahl belegen eine Million Textstellen mit je 1.024 Zahlen etwa 4,1 GB, vor Indexstrukturen und dem Text selbst, nach der Rechnung in unserem Leitfaden nach Firmengröße. 30.000 Dateien mit je zehn Textstellen ergeben 300.000 Textstellen und nach unserer Schätzung etwa 1,2 GB Vektoren; Quelldateien, jedes vorgehaltene Modell und die Protokolle brauchen mehr Platz als das. Bevor der Index entsteht, muss jemand entscheiden, welche Dokumente hineinkommen und welche Fassung gilt, wie unser Beitrag zur Vorbereitung von Dokumenten für den KI-Assistenten erklärt. Wir bemessen Server genau aus diesen Antworten; schicken Sie uns die ausgefüllte Vorlage, Schätzungen eingeschlossen, und unser Team antwortet mit einer Konfiguration.

Sprachen und Vertraulichkeit

Die Sprache ist eine Modellfrage. Die Modellkarte von Llama 3.3, gelesen am 25. Oktober 2026, nennt acht unterstützte Sprachen: Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Ein Team, das Rumänisch oder Polnisch schreibt, braucht ein anderes Modell, getestet an seinen eigenen Texten; unser Vergleich offener LLMs für europäische Sprachen zeigt Kandidaten.

Die Vertraulichkeit bestimmt eher die Einrichtung als die Größe. Material, das das Unternehmen nicht verlassen darf, etwa Rezepturen, Zeichnungen und Kalkulationen, läuft nur auf dem eigenen Server. Personen­bezogene Daten sind nach Artikel 4 Nummer 1 DSGVO „alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person“ beziehen, und Artikel 9 Absatz 1 nennt besondere Kategorien, darunter Gesundheitsdaten, deren Verarbeitung untersagt ist, sofern keine Ausnahme greift. Nennt Punkt 6 solche Daten, bestätigt Ihr Datenschutz­beauftragter die Rechtsgrundlage, und unser Leitfaden zur DSFA für ein internes LLM zeigt die Prüfung, die nötig sein kann. Unternehmen, die für allgemeine Arbeit einen Cloud-Assistenten behalten und Vertrauliches lokal bearbeiten, brauchen eine Regel, der die Beschäftigten folgen können; sie steht in unserem Leitfaden zur hybriden KI mit vertraulichen Daten lokal.

Raum, Ausfall und wer sich kümmert

Die Antwort auf Punkt 9 bestimmt den Aufbau. Ein Rack-Server mit zwei Karten der RTX PRO 6000 Server Edition nimmt nach unserer Schätzung etwa 1,8 kW aus der Steckdose auf und läuft an einem Stromkreis mit 230 V und 16 A. Vier Karten bei 600 W nehmen etwa 3,4 kW auf, mehr als die 2,94 kW, die wir je 16-A-Stromkreis planen; sie brauchen 32 A, Drehstrom oder eine Begrenzung auf 450 W je Karte. Ein Rack-Server ist laut und braucht Kühlung für seine volle Last; unser Leitfaden zum GPU-Server im Büro erklärt, wann eine Workstation in einen Raum mit Arbeitsplätzen passt. Ohne geeigneten Raum betreibt unser Service Private AI/ML die Plattform auf dedizierter Hardware in einem Tier-3-Rechenzentrum in Litauen, innerhalb der EU.

Unsere Schätzungen: Karten, Prozessoren und 15 Prozent für den Rest eines Servers, wie in unseren Leitfäden zu zwei und vier Karten; Workstation nach unserem Leitfaden zum GPU-Server im Büro. Eine Messung am gelieferten System bestätigt den Wert.

Der Ausfall entscheidet, ob ein Server reicht. Steht die Auftragsannahme, wenn die KI steht, planen Sie einen zweiten Server, sodass jeder allein die Spitze trägt; ist ein Tag ohne Assistenten nur lästig, reicht ein Server mit guten Ersatzteilbedingungen. Unser Leitfaden zur hochverfügbaren LLM-Inferenz auf zwei Knoten beschreibt den Aufbau mit zwei Servern.

Punkt 11 bleibt in Unternehmen ohne IT-Personal am häufigsten offen. Jemand spielt Updates ein, erneuert Zertifikate, überwacht die Laufwerke und legt Nutzer an. Kann das niemand im Haus, deckt es eine Support­vereinbarung ab: Nach dem Projekt bietet unser Service Private AI/ML laufenden Support im Rahmen eines vereinbarten SLA oder schult Ihr Team für die Übernahme. Unser Leitfaden KI-Server ohne IT-Abteilung zeigt, wer was macht.

Erfolgskriterien und ein ausgefülltes Beispiel

Punkt 12 macht das Projekt überprüfbar. Wählen Sie ein oder zwei Aufgaben und messen Sie sie, bevor die KI kommt: die Zeit je Reklamation, je Angebot oder je übersetzter Seite, dazu ein Testsatz von 20 bis 50 echten Fragen mit bekannten Antworten. Dieselbe Messung nach einem Piloten zeigt, ob es funktioniert. Unser Leitfaden, was ein Private-AI-Pilot messen sollte, ergänzt die technischen Werte, die Ihr Anbieter zur selben Zeit erhebt.

Ein ausgefülltes Beispiel, ein Hersteller mit 120 Beschäftigten, alle Angaben zur Veranschaulichung erfunden:

Beispielwerte; Spitze nach den Beispielwerten unseres Leitfadens nach Firmengröße (120 × 40 % × 6 je Stunde × 30 s × 2 ≈ 5), unsere Schätzung.

Fünf Anfragen in der Spitze liegen weit unter den 19 Gesprächen, die eine Karte bei 32K hält; Karte eins betreibt also gpt-oss-120b, und Karte zwei, mit MIG aufgeteilt, die Suchmodelle und Platz für ein späteres Sprachmodell. Das Unternehmen kann mit einer Aufgabe beginnen und die anderen später auf demselben Server ergänzen; unser Leitfaden zu ersten KI-Anwendungen im produzierenden Mittelstand hilft bei der Wahl dieser Aufgabe.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team dimensioniert die Konfiguration nach Ihrer Last und Ihrem Budget und antwortet innerhalb eines Werktages. Wir bauen KI-Server auf Bestellung mit zwei, vier oder acht Karten der RTX PRO 6000 Server Edition, vor der Lieferung montiert und getestet, mit einem EU-Vertrag und einer Rechnung und mit Herstellergarantie auf jede Komponente, abgewickelt über uns; Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt. Die Bemessung ist kostenlos. Modelle, Dokumentensuche, Anmeldung und die Anbindung an Ihre Systeme sind unser Service Private AI/ML mit unserem Engineering-Partner Vixen.UNO; fällt Ihnen eine Frage der Vorlage schwer, beschreiben Sie, was Sie wissen, und wir klären den Rest mit Ihnen im ersten Gespräch.

FAQ