KI im HR-Management: AI-Act bringt neue „Spielregeln“

Künstliche Intelligenz (KI) ist längst in vielen Personalprozessen angekommen. Das Spektrum reicht von Recruiting-Tools zum Schalten von Stellenanzeigen und CV-Screening, um den Auswahlprozess der Bewerber zu beschleunigen, über KI-gestützte Chatbots bis hin zu Onboarding-Unterlagen, die automatisiert bereitgestellt werden, und Anwendungen zur Personalentwicklung.

Rechtlichen Grenzen?

KI-Systeme mit geringem Risiko erfordern lediglich Transparenzpflichten, Hochrisiko-KI-Systeme unterliegen strengen technischen sowie organisatorischen Anforderungen. Der AI-Act stuft KI-Systeme in Risikoklassen ein: inakzeptable, verbotene KI, hochriskante KI-Anwendungen sowie KI-Systeme mit geringem bzw. minimalem Risiko. Seit Februar 2025 ist es verboten, KI zu nutzen, um Emotionen am Arbeitsplatz zu erkennen, geschützte Informationen wie z. B. politische und religiöse Überzeugungen oder die sexuelle Orientierung herauszufinden bzw. um Menschen zu manipulieren oder ihr soziales und persönliches Verhalten zu bewerten (sog. „Social Scoring“).

Hochrisiko-Systeme in der HR

Künstliche Intelligenz ist dann hochriskant, wenn sie über Menschen entscheidet oder deren Leben und Rechte erheblich beeinflusst. Kritisch wird’s, wenn die KI Bewerbungen sichtet und mitentscheidet, wer eingestellt, befördert, gekündigt wird oder die Arbeitsverhältnisse mitgestaltet, die Körpersprache, die Stimme oder das Verhalten analysiert. Denn wie genau sie zu ihrem Urteil kommt, bleibt oft undurchsichtig. All das kann den Berufsweg eines Menschen stark beeinflussen. Einige KI-Systeme im Personalmanagement sind daher als „Hochrisikosysteme“ einzustufen.

Anforderungen an HR-Abteilungen

Ab Februar 2027 gelten für Hochrisiko-KI-Systeme strenge Regeln. Wer solche Systeme nutzt, muss einige wichtige Punkte beachten: 

• Die KI braucht ein offizielles AI-Act-Zertifikat.
• Vor dem Start ist zu prüfen, welche Risiken das System mit sich bringt.
• Bewerber und Mitarbeitende müssen wissen, dass KI im Spiel ist.
• Das System darf nur wie vorgesehen verwendet werden – laut Anleitung.
• Die Daten, die man eingibt, müssen zum Einsatzzweck passen und dürfen nicht verzerren.
• Entscheidungen der KI dürfen nie völlig automatisch laufen – ein Mensch muss mitentscheiden.
• Es muss regelmäßig geprüft werden, ob alle Regeln eingehalten werden.
• Die HR-Teams müssen im Umgang mit KI geschult sein. 

Wer sich nicht an die Regeln hält, muss mit saftigen Strafen rechnen. Wird etwa ein verbotenes KI-System nachgewiesen, können bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes fällig werden. Auch bei anderen Verstößen kann es teuer werden – bis zu 15 Millionen Euro oder drei Prozent Umsatz. Für Start-ups und kleine Unternehmen gelten zwar niedrigere Strafgrenzen, die Vorgaben selbst bleiben aber gleich streng.

Rechtssicher mit KI umgehen

Seit 2. Februar 2025 verlangt der AI-Act KI-Kompetenz: Wer im Unternehmen mit KI arbeitet – ob angestellt oder im Auftrag – muss dafür geschult sein. HR-Abteilungen müssen dafür passende Qualifizierungsmaßnahmen entwickeln – auch für die eigenen Mitarbeiter, Führungskräfte und Betriebsräte. Spezialisierte Kanzleien bieten praxisnahe Trainings zu Recht, Datenschutz und Risiken. Wichtig: Die Teilnahme sollte im Personalakt dokumentiert werden.

Betriebsrat und Datenschutz

In vielen Fällen braucht es die Zustimmung des Betriebsrats oder sogar der Mitarbeitenden selbst – etwa dann, wenn das System Verhalten überwacht oder Leistungen bewertet. In solchen Fällen ist meist eine Betriebsvereinbarung nötig. Auch der Datenschutz spielt eine große Rolle und muss gesondert geprüft werden.

Dieser Text ersetzt keine Rechtsberatung. Unternehmen sollten sich unbedingt rechtlich begleiten lassen.
 

¹Verordnung (EU) 2024/1689