Der EU AI Act tritt stufenweise in Kraft. Für HR-Teams besonders relevant: Anforderungen an Bewerber-Screening, Performance-Tools und automatisierte Entscheidungen.
Die EU-Verordnung über künstliche Intelligenz (EU AI Act, Verordnung 2024/1689) ist am 1. August 2024 in Kraft getreten und wird stufenweise anwendbar. Für den HR-Bereich ist sie von erheblicher Bedeutung: Mehrere typische HR-Anwendungen fallen unter den Regelungsbereich – mit teils strengen Anforderungen.
Welche HR-Anwendungen sind betroffen?
Der EU AI Act klassifiziert KI-Systeme nach ihrem Risiko. Im HR-Bereich sind besonders relevant:
- Hochrisiko-KI (Anhang III): KI-Systeme, die für die Einstellung und Auswahl von Bewerbern eingesetzt werden (insbesondere automatisiertes Bewerbungsscreening, CV-Analyse-Tools, Bewerbungsranking), gelten als Hochrisiko-KI. Gleiches gilt für KI zur Leistungsbewertung und Beförderungsentscheidungen.
- Verbotene KI: Systeme zur biometrischen Echtzeit-Überwachung am Arbeitsplatz oder zur Ableitung sensibler Merkmale (politische Meinungen, Gesundheitszustand) aus Verhaltensdaten sind grundsätzlich verboten.
Anforderungen an Hochrisiko-KI im HR
Wer Hochrisiko-KI-Systeme im HR einsetzt, muss folgende Pflichten erfüllen:
- Risikomanagementsystem: Identifikation, Analyse und Minderung von Risiken für betroffene Personen.
- Datenqualität: Trainingsdaten müssen frei von diskriminierenden Verzerrungen (Bias) sein.
- Transparenz und Dokumentation: Technische Dokumentation, Konformitätserklärung, EU-Datenbank-Registrierung.
- Menschliche Aufsicht: Automatisierte Entscheidungen müssen von Menschen überprüft und ggf. korrigiert werden können.
- Information der Betroffenen: Bewerber und Mitarbeiter müssen über den Einsatz von KI informiert werden.
Zeitplan: Wann wird was anwendbar?
- Februar 2025: Verbote für inakzeptable Risiken in Kraft
- August 2025: Pflichten für GPAI-Modelle (General Purpose AI)
- August 2026: Pflichten für Hochrisiko-KI vollständig anwendbar
Was müssen HR-Teams jetzt tun?
- Bestandsaufnahme aller eingesetzten KI-Tools im HR (Bewerbermanagement, Performance, Zeiterfassung, Lohnabrechnung)
- Klassifizierung nach EU-AI-Act-Risikokategorien
- Anfragen an Softwareanbieter: Werden die Anforderungen des EU AI Acts erfüllt? Gibt es eine Konformitätserklärung?
- Betriebsrat einbinden (§87 BetrVG, da KI-Systeme technische Überwachung ermöglichen können)
- DSGVO-Datenschutz-Folgenabschätzung für Hochrisiko-KI (Art. 35 DSGVO)
Compyl-Tipp
Compyl überwacht alle Entwicklungen rund um den EU AI Act – von Leitlinien der Aufsichtsbehörden bis zu Durchführungsrechtsakten – und informiert Sie mit konkreten Handlungsempfehlungen für Ihre HR-Prozesse.