KI-Server für HR und Recruiting: Hochrisiko nach KI-Verordnung, DSGVO und die Hardware

Was ein KI-Server für die Personalabteilung leistet

Ein KI-Server für HR betreibt die Sprach- und Suchmodelle der Personalabteilung lokal, auf Hardware, die das Unternehmen selbst kontrolliert; Bewerbungen, Personalakten und HR-Fragen bleiben damit innerhalb der eigenen Zugriffsregeln. Für die meisten Unternehmen trägt ein Server mit zwei Karten der NVIDIA RTX PRO 6000 Blackwell Server Edition die üblichen HR-Aufgaben; die größere Frage ist, welche dieser Anwendungen die KI-Verordnung der EU als Hochrisiko einstuft und was das an Protokollierung, Aufsicht und Datentrennung ändert.

Typische Aufgaben für ein solches lokales KI-System sind ein Assistent, der Fragen der Beschäftigten zu Richtlinien, Urlaub und Zusatzleistungen aus dem HR-Handbuch beantwortet, Entwürfe von Stellenanzeigen und Schreiben, das Übertragen von Bewerbungen in eine feste Struktur und die Suche in einem Bewerberpool. Wir schreiben für die HR-Leitung, die entscheiden muss, mit welchen KI-Anwendungen sie beginnt, und für das IT-Team, das die Plattform aufbaut. Der rechtliche Teil ist eine allgemeine Information zum EU-Recht mit Stand Oktober 2026, keine Rechtsberatung; nationales Arbeits- und Datenschutzrecht kann weitere Anforderungen stellen, und Ihr Datenschutz­beauftragter und Ihre Rechtsberatung bestätigen die Einordnung für Ihr Unternehmen.

Welche HR-Anwendungen die KI-Verordnung als Hochrisiko listet

Artikel 6 Absatz 2 macht die in Anhang III gelisteten KI-Systeme zu Hochrisiko-Systemen, und Nummer 4 des Anhangs betrifft Beschäftigung. Wir haben ihn am 24. Oktober 2026 im AI Act Service Desk der Europäischen Kommission gelesen, in der konsolidierten Fassung mit Stand 27. Juli 2026. Buchstabe a nennt Systeme, die für die Einstellung oder Auswahl natürlicher Personen bestimmt sind, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten. Buchstabe b nennt Systeme für Entscheidungen, die die Bedingungen von Arbeitsverhältnissen, Beförderungen und Kündigungen beeinflussen, für die Zuweisung von Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften und für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen.

Verordnung (EU) 2024/1689, Artikel 5 Absatz 1 Buchstabe f, 6 Absätze 2 und 3, 26 und 113 sowie Anhang III Nummer 4, im AI Act Service Desk der Kommission (konsolidierte Fassung mit Stand 27. Juli 2026, deutsche und englische Sprachfassung), gelesen am 24. und 25. Oktober 2026. Die Zuordnung der Anwendungen zu den Zeilen ist unsere Lesart der gelisteten Zwecke, keine rechtliche Bewertung.

Die Daten folgen aus Artikel 113 in der durch den Digital Omnibus zur KI geänderten Fassung: Die Kapitel I und II, zu denen die Verbote gehören, gelten seit dem 2. Februar 2025, und die Regeln für Systeme, die nach Artikel 6 Absatz 2 und Anhang III Hochrisiko-Systeme sind, gelten ab dem 2. Dezember 2027. Artikel 5 Absatz 1 Buchstabe f verbietet KI-Systeme, die Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen ableiten, außer aus medizinischen oder Sicherheitsgründen. Ein Werkzeug für Videointerviews, das die Emotionen eines Bewerbers bewertet, scheidet damit für jede Konfiguration aus.

Artikel 6 Absatz 3 nimmt ein System aus Anhang III von der Hochrisiko-Einstufung aus, wenn es kein erhebliches Risiko einer Beeinträchtigung birgt, etwa weil es eine eng gefasste Verfahrensaufgabe erfüllt oder eine vorbereitende Aufgabe für eine Bewertung. Derselbe Absatz schließt diese Tür für Profiling: Ein System aus Anhang III gilt immer als Hochrisiko-System, wenn es ein Profiling natürlicher Personen vornimmt. Ein Werkzeug, das Bewerber nach einer aus ihren Lebensläufen abgeleiteten Punktzahl ordnet, lässt sich kaum unter die Ausnahme bringen. Unser Artikel zum EU AI Act für Unternehmen, die LLMs einsetzen behandelt den Zeitplan, die Rollen von Anbieter und Betreiber und den Fall, dass ein allgemeiner Assistent zum Hochrisiko-System wird, weil eine Abteilung seinen Zweck ändert.

Was die Regeln an der Plattform ändern

Artikel 26 regelt die Pflichten der Betreiber von Hochrisiko-Systemen, und ein Arbeitgeber, der ein Recruiting-Werkzeug einsetzt, ist der Betreiber. Mehrere dieser Pflichten landen im IT-Design.

• Menschliche Aufsicht. Artikel 26 Absatz 2 überträgt die Aufsicht natürlichen Personen mit der nötigen Kompetenz, Schulung und Befugnis. In der Plattform heißt das: ein Prüfschritt im Recruiting-Ablauf vor jeder Absage, durch namentlich benannte Recruiter, deren Entscheidungen aufgezeichnet werden.
• Protokolle. Nach Artikel 26 Absatz 6 bewahren Betreiber die automatisch erzeugten Protokolle für einen dem Zweck angemessenen Zeitraum auf, mindestens sechs Monate, sofern nicht anderes Unions- oder nationales Recht, insbesondere zum Datenschutz, etwas anderes vorsieht. Prompts, abgerufene Passagen, Ausgaben, Modellversion und die Aktionen der Prüfer kommen in einen Protokollspeicher mit eigener Aufbewahrung und eigenen Zugriffsregeln.
• Information. Bevor ein Hochrisiko-System am Arbeitsplatz in Betrieb genommen oder verwendet wird, verlangt Artikel 26 Absatz 7 von Arbeitgebern, die Arbeitnehmervertreter und die betroffenen Beschäftigten zu informieren. Artikel 26 Absatz 11 verlangt von Betreibern von Systemen aus Anhang III, die Entscheidungen über Menschen treffen oder dabei unterstützen, diese Menschen zu informieren; im Recruiting sind das die Bewerber.
• Bestimmungsgemäße Verwendung und Überwachung. Artikel 26 Absätze 1 und 5 binden den Einsatz an die Gebrauchsanweisung des Anbieters und verlangen eine Überwachung und die Möglichkeit, das System auszusetzen. Eine fest eingestellte Modellversion und ein Änderungsprotokoll auf dem Server machen das nachvollziehbar.

Wo ein Betriebsrat oder eine andere Arbeitnehmer­vertretung besteht, planen Sie den Schritt der Information oder Beteiligung vor dem Pilotprojekt in das Projekt ein. Nationales Arbeitsrecht kann über Artikel 26 Absatz 7 hinaus Anhörungs- oder Mitbestimmungsrechte vorsehen; dieser Artikel beschreibt sie nicht, und Ihre Rechtsberatung bestätigt, was gilt.

Die DSGVO gilt für jede HR-Anwendung, ob Hochrisiko oder nicht. Artikel 22 Absatz 1 gibt der betroffenen Person das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung, einschließlich Profiling, beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt; greift eine Ausnahme, verlangt Absatz 3 mindestens das Recht auf Eingreifen einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung. Eine Absage, die eine Software verschickt, ohne dass ein Mensch die Bewerbung angesehen hat, kann unter diesen Artikel fallen. Erwägungs­grund 155 fügt hinzu, dass das Recht der Mitgliedstaaten oder Kollektiv­vereinbarungen, einschließlich Betriebsvereinbarungen, spezifische Vorschriften für die Verarbeitung von Beschäftigtendaten vorsehen können; eine Betriebsvereinbarung kann also Bedingungen für die Plattform festlegen. Unser Leitfaden zur Datenschutz-Folgenabschätzung für ein internes LLM listet die Angaben, die die IT für die Folgenabschätzung liefert, die eine HR-Anwendung mit Bewertung oft brauchen wird.

Wir liefern den Server und richten über unseren Private-AI/ML-Service Modell, Suche und Abfrageprotokoll mit der von Ihnen gewählten Aufbewahrung ein; nennen Sie uns die geplanten HR-Anwendungen und die Herkunft der Daten, und unser Team antwortet mit einer Konfiguration.

Drei Wege, HR-Aufgaben zu betreiben

Die Optionen folgen den Referenz­konfigurationen auf unserer Seite zu KI-Servern und NVIDIAs Leitfaden für zertifizierte Systeme: zwei Prozessoren, mindestens sechs Kerne je GPU und Arbeitsspeicher in doppelter Größe des GPU-Speichers. Das Sprachmodell in den Beispielen ist gpt-oss-120b, veröffentlicht unter Apache 2.0, dessen Checkpoint von 60,8 GiB auf eine Karte mit 96 GB passt.

Referenz­konfigurationen auf unserer Seite zu KI-Servern; Anfragen nach unserer Regel für Nutzer je Karte mit gpt-oss-120b und 16-Bit-Cache; der Stapel von 5.000 Bewerbungen nach unserer Rechnung aus MLPerf® v6.1, Eintrag 6.1-0050, bei halber veröffentlichter Rate (siehe Abschnitt zur Dimensionierung); Strom nach unserer Schätzung mit Karten bei 600 W, Prozessoren und 15 Prozent für den Rest des Servers.

Ein HR-Anteil am KI-Server des Unternehmens. Viele Unternehmen betreiben bereits einen Assistenten für alle Beschäftigten. HR-Anwendungen mit geringem Risiko, etwa der Richtlinien-Assistent und Entwürfe, können dort als eigener Mandant laufen: ein Index, der nur HR-Dokumente enthält, eine Zugriffsrolle, die nur HR-Beschäftigte und das Dienstkonto des Assistenten tragen, und ein Protokollstrom mit eigener Aufbewahrung. Auf einem Server mit vier oder acht Karten lässt sich eine Karte für HR reservieren, oder eine der vier MIG-Instanzen mit 24 GB einer RTX PRO 6000 für die Suchmodelle der Personalabteilung. MIG gibt jeder Instanz eigenen Speicher und eigene Fehlerisolation und trennt die Lasten damit in Hardware; Kapazität für ein Modell von der Größe von gpt-oss-120b, das eine ganze Karte braucht, schafft MIG nicht.

Zwei Karten nur für HR. Der Einstiegsserver hat zwei RTX PRO 6000 Server Edition, zwei AMD-EPYC-Prozessoren, 384 GB DDR5-ECC und zwei NVMe-Laufwerke. Karte 1 betreibt gpt-oss-120b für den Richtlinien-Assistenten, Entwürfe und das Übertragen von Bewerbungen in JSON. Karte 2 wird per MIG in vier Instanzen geteilt: für Embedding-Modell und Reranker, ein OCR-Modell für gescannte Zeugnisse und zwei Instanzen für Staging und für die Bewertung eines Recruiting-Modells, bevor es in den Produktivbetrieb geht. Ein eigener Server lohnt sich dort, wo die Hochrisiko-Anwendungen beginnen: Administratoren, Backups und Protokollspeicher gehören dann allein HR, und die allgemeine Plattform des Unternehmens hält nie Bewerbungsdaten.

Vier Karten für einen großen Arbeitgeber oder ein HR-Shared-Service-Center. Der Inferenzknoten mit 768 GB und vier NVMe-Laufwerken betreibt den Assistenten als eine Kopie, per Tensor-Parallelität auf die Karten 1 und 2 verteilt; das lässt 105,3 GiB Cache und 187 laufende Anfragen bei 16K. Karte 3 trägt Batch-Jobs wie das Übertragen der Bewerbungen einer Absolventenkampagne, Karte 4 die Suchmodelle in MIG-Instanzen. Diese Größe passt zu einem Shared-Service-Center, das Beschäftigte in mehreren Ländern betreut.

Die RTX PRO 6000 Max-Q ist die Workstation-Karte, eine Radiallüfter-Karte mit 300 W; ins Rack gehört sie nur in ein Gehäuse, für das der Hersteller sie listet, und für den Dauerbetrieb empfehlen wir die Server Edition.

Die HR-Lasten dimensionieren

HR-Lasten sind für diese Karten klein. Der Richtlinien-Assistent ist eine Chat-Last und wird nach laufenden Anfragen in der Spitzenstunde bemessen. Nach unserer Regel für Nutzer je Karte, die 90 Prozent der 95,6 GiB nimmt, die der Treiber meldet, abzüglich 3 GiB je Karte und der Gewichte, lässt gpt-oss-120b auf einer Karte 22,2 GiB für den Cache. Bei einem konfigurierten Kontext von 16.384 Token belegt eine Anfrage 0,5625 GiB 16-Bit-Cache; eine Karte hält damit 39 laufende Anfragen und ein Tensor-Parallel-Paar 187. Mit dem Beispielwert unseres Leitfadens zum privaten ChatGPT-Server nach Unternehmens­größe, etwa 4 laufende Anfragen je 100 Beschäftigte in der Spitze, deckt eine Karte etwa 975 Beschäftigte und ein Paar etwa 4.675, sofern die Beschäftigten den HR-Assistenten so oft nutzen wie einen allgemeinen. Ihr Gateway-Protokoll nach einem Pilotprojekt ersetzt den Beispielwert.

Bewerbungen kommen in Wellen. Nehmen Sie eine Kampagne mit 5.000 Bewerbungen, deren Lebensläufe und Anschreiben mit den Structured Outputs von vLLM in einen JSON-Datensatz von etwa 300 Token übertragen werden: 1,5 Millionen Ausgabe-Token. In MLPerf® Inference v6.1 erreichte ein HPE-Server mit acht Karten der RTX PRO 6000 Server Edition 15.256 Token pro Sekunde mit gpt-oss-120b im Offline-Szenario (Eintrag 6.1-0050), nach unserer Division 1.907 je Karte. Mit dieser Rate schreibt eine Karte die Datensätze in etwa 13 Minuten; mit der halben veröffentlichten Rate als unserer Planungsreserve in etwa 26 Minuten. Ein Lebenslauf ist länger als die Prompts des Benchmarks, und das Einlesen kostet zusätzlich Zeit; messen Sie daher eine Stichprobe Ihrer eigenen Bewerbungen, bevor Sie ein Zeitfenster für eine Kampagne planen.

MLPerf® Inference: Datacenter v6.1, Closed Division, Kategorie Available, gpt-oss-120b, Offline-Szenario, Eintrag 6.1-0050 (HPE ProLiant Compute DL380a Gen12, acht RTX PRO 6000 Blackwell Server Edition), 15.256 Token pro Sekunde, abgerufen von mlcommons.org am 24. Oktober 2026. Result verified by MLCommons Association. 1.907 je Karte ist unsere Division des Systemergebnisses, keine MLPerf-Kennzahl. Embedding-Rate von 144,3 Chunks zu 512 Token pro Sekunde für NVIDIAs 1B-Embedding-Modell auf einer L40S aus NVIDIAs Leistungsseite zu NIM 1.14.0, wie in unserem Embedding-Leitfaden zitiert. Die Beispielmengen sind unsere. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use strictly prohibited. See www.mlcommons.org for more information.

Ein Bewerberpool für die semantische Suche ist die Suchseite des Recruitings. 50.000 Lebensläufe mit je vier Chunks zu 512 Token ergeben 200.000 Chunks; nach NVIDIAs veröffentlichter Rate für sein 1B-Embedding-Modell dauert das nach unserer Rechnung etwa 23 Minuten auf einer L40S. Für eine MIG-Instanz einer RTX PRO 6000 veröffentlicht NVIDIA keine Rate, messen Sie dort selbst. Wer diesen Pool durchsucht, um Bewerber in die engere Wahl zu nehmen, ist nahe am Filtern von Bewerbungen nach Buchstabe a; behandeln Sie den Suchindex dann als Teil des Hochrisiko-Systems. Unser Leitfaden zu Embedding- und Reranker-Servern für RAG vergleicht die Suchmodelle.

Der Durchsatz ist selten der Grund, für HR mehr Karten zu kaufen. Die üblichen Gründe sind die Trennung, ein zweiter Server für die Ausfallsicherheit und die Bewertung eines neuen Modells neben dem produktiven.

Hinweise für das IT-Team

1. Daten trennen. HR-Dokumente kommen in einen eigenen Index, und jeder Chunk trägt die Zugriffsliste seines Quelldokuments, sodass die Suche vor dem Ranking filtert. Eine Rolle im Verzeichnisdienst gewährt den Zugriff; der Prompt kann daran nichts ändern. Unser Leitfaden zu RAG auf Unternehmensdaten beschreibt den Filter.
2. Konnektoren geschlossen halten. Konnektoren zum Bewerbermanagementsystem oder zu Leistungsbeurteilungen bleiben aus, bis die Rechtsabteilung die Anwendung eingeordnet hat, wie unser Artikel zur KI-Verordnung empfiehlt. Anwendungen mit geringem Risiko können ohne sie starten.
3. Bewerbungen enthalten eingeschleusten Text. Ein Lebenslauf kann weiße Schrift auf weißem Grund oder Anweisungen in seinen Metadaten enthalten, geschrieben für ein KI-Auswahlwerkzeug. Behandeln Sie jede Bewerbung als nicht vertrauenswürdige Eingabe, übertragen Sie sie in ein festes Schema und halten Sie das Modell von Aktionen fern, wie unser Leitfaden zu Prompt Injection und LLM-Sicherheit erklärt.
4. Für die Akte protokollieren. Setzen Sie ein LLM-Gateway mit Schlüsseln und Abfrage-Log vor die Engines. Protokollieren Sie Prompts, abgerufene Quellen, Ausgaben, Modellversion und die Entscheidung des Prüfers, bewahren Sie sie bei einer Hochrisiko-Anwendung mindestens sechs Monate auf und stimmen Sie die Aufbewahrung mit Ihrem Datenschutz­beauftragten ab.
5. Das Modell festschreiben. Legen Sie Modell, Version und Einstellungen fest, und lassen Sie eine neue Version über einen Bewertungsdatensatz anonymisierter früherer Bewerbungen laufen, bevor sie die alte ersetzt; unser Leitfaden zur LLM-Evaluierung vor Modell-Upgrades beschreibt den Datensatz.
6. Die Nutzer schulen. Artikel 4 zur KI-Kompetenz gilt seit dem 2. Februar 2025 für alle KI-Systeme; unser Leitfaden zur KI-Kompetenz-Schulung nach Artikel 4 beschreibt Schulungen nach Rolle, auch für Recruiter.
7. Netzwerk und Versionen. --api-key schützt in vLLM nur Pfade unter /v1, /v2, /inference und /cohere; Routen wie /invocations und /metrics antworten auch ohne Schlüssel (Sicherheitsleitfaden von vLLM 0.32.0). Halten Sie die Engines deshalb in einem internen Netz hinter dem Gateway. Betreiben Sie vLLM 0.31.0 oder neuer, das NVIDIA Container Toolkit ab 1.17.8 und einen Treiber, den NVIDIA in seinem Bulletin vom 30. September 2026 als behoben nennt.

Unser Private-AI/ML-Service baut den HR-Mandanten oder den HR-Server mit diesen Kontrollen; beschreiben Sie die erste HR-Anwendung, mit der Sie beginnen würden, und wir schlagen ein Pilotprojekt und die Hardware dafür vor.

Stromversorgung und Aufstellung

Nach unserer Schätzung nimmt der Server mit zwei Karten und zwei EPYC 9135 etwa 1,8 kW am Netz auf und passt an einen 16-A-Anschluss mit 230 V, der bei 80 Prozent Auslastung 2,94 kW trägt. Der Server mit vier Karten zieht mit Karten bei 600 W etwa 3,4 kW und braucht 32 A oder Drehstrom, mit auf 450 W begrenzten Karten etwa 2,7 kW. Eine Messung am gelieferten System bestätigt diese Werte. Beide gehören in einen Serverraum oder ein Rechenzentrum; unser Leitfaden zum Stromanschluss von GPU-Servern mit 16 A, 32 A und Drehstrom rechnet die Anschlüsse durch. Ohne eigenen Serverraum betreibt unser Private-AI/ML-Service die Plattform auf dedizierter Hardware in einem Tier-3-Rechenzentrum in Litauen, innerhalb der EU.

Was wir liefern

Sie können dieses System bei uns kaufen: Unser Team dimensioniert die Konfiguration nach Ihrer Last und Ihrem Budget und antwortet innerhalb eines Werktages. Wir bauen die Server auf Bestellung mit zwei, vier oder acht Karten der RTX PRO 6000 Server Edition, vor der Lieferung montiert und getestet, geliefert in die gesamte EU mit einem EU-Vertrag und einer Rechnung, mit Herstellergarantie auf jede Komponente, abgewickelt über uns; Stückzahlen und Lieferzeit werden mit dem Angebot schriftlich bestätigt. Unser Service Private AI/ML, umgesetzt von unserem Engineering-Partner Vixen.UNO, richtet die Modelle, den HR-Index, die Zugriffsregeln und das Abfrageprotokoll ein. Zur KI-Verordnung liefern wir den technischen Teil; die rechtliche Einordnung bleibt bei Ihrer Rechtsberatung. Unsere Seite zum Kauf eines GPU-Servers für LLMs listet alle Konfigurationen.

FAQ