Was ist beim Thema KI und HR bereits rechtlich geregelt?

3. August 2026

KI eröffnet im HR-Bereich enorme Chancen – von effizienten Recruiting-Prozessen bis hin zu optimiertem Personalmanagement. Aber natürlich gehen damit auch rechtliche Fragen und Herausforderungen einher, insbesondere im Umgang mit personenbezogenen Daten. Geregelt ist der Einsatz insbesondere in der KI-Verordnung (KI-VO) und der Datenschutzgrundverordnung (DSGVO).

Je höher das Risiko eines KI-Systems, desto strenger sind die Vorgaben, wofür die KI-VO auch Risikoklassen für KI-Systeme vorsieht. Demnach gelten KI-Systeme, die im Recruiting verwendet werden,  idR als Hochrisiko-Systeme. Ihr Einsatz ist nur unter Einhaltung umfangreiche Auflagen zulässig. Dazu zählt auch die Informationspflicht gegenüber allen Betroffenen und somit allen Bewerber:innen, dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen.

Wenn es beim KI-Einsatz zur Verarbeitung personenbezogener Daten kommt, müssen Unternehmen diesen Einsatz auch nach den Vorgaben der DSGVO prüfen. (Ehemalige) Mitarbeitende und Bewerber:innen haben in diesem Fall bestimmte Auskunfts- und Transparenzrechte bezüglich der Verarbeitung ihrer personenbezogenen Daten. Zudem haben (ehemalige) Mitarbeitende und Bewerber:innen ein Beschwerderecht und können die Löschung ihrer Daten begehren.

Was können Bewerber tun, wenn sie von einer KI aussortiert werden? Welche Möglichkeiten haben Betroffene? Und wie lässt sich überhaupt feststellen, ob die Entscheidung von einer KI getroffen wurde?

Bewerber:innen haben grundsätzlich das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden. Eine vollautomatisierte Entscheidung im Recruiting widerspricht in der Regel bereits den Vorgaben des DSGVO sowie dem Prinzip des „Human in the Loop“, das eine menschliche Prüfung von Entscheidungen vorsieht.

Wurden Bewerber:innen von Unternehmen, bei denen sie sich beworben haben, nicht über den KI-Einsatz aufgeklärt, vermuten aber eine automatisierte Entscheidung, so können sie z.B. ein Auskunftsbegehren nach Art. 15 DSGVO stellen. Das Unternehmen muss sie im Rahmen der Auskunftserteilung u.a. über eine mögliche automatisierte Entscheidung und deren Tragweite informieren. Alternativ steht Bewerber:innen das „Recht auf Erläuterung der Entscheidungsfindung im Einzelfall“ nach der KI-VO zu.

Diese Informationen können wichtige Indizien liefern, ob und wie der Bewerbungsprozess abgelaufen ist und ob es zu einer Diskriminierung kam. Besteht der Verdacht einer Diskriminierung, kann diese gerichtlich angefochten werden, wobei Betroffene die Diskriminierung nur glaubhaft machen müssen.

Darüber hinaus kann ein unrechtmäßiger KI-Einsatz auch eine Datenschutzverletzung, einen Verstoß gegen die KI-VO oder eine arbeitsrechtliche Pflichtverletzung darstellen.

Und wie lässt sich überhaupt feststellen, ob die Entscheidung von einer KI getroffen wurde?

Hinweise auf den Einsatz von KI können etwa automatisierte Absagen sein, die bereits wenige Minuten nach dem Abschicken von Bewerbungen einlangen. Auch die Auskunftsrechte nach DSGVO und KI-VO helfen, notwendige Informationen für den unrechtmäßigen Einsatz von KI zu sammeln.

In welchen Bereichen ist der Einsatz von KI im HR besonders heikel? Was kann dabei schiefgehen?

Besonders heikel ist der KI-Einsatz bei der Bewerberauswahl, bei Leistungsbewertungen oder bei Beförderungs- und Kündigungsentscheidungen. Dies gilt insbesondere dann, wenn KI in Bereichen eingesetzt wird, die für Betroffene erhebliche Beeinträchtigungen mit sich bringen können. Schiefgehen kann dabei einiges: Diskriminierung durch Bias in den Trainingsdaten etwa, die ohne menschliche Aufsicht nicht aufgedeckt wird, oder mangelnde Nachvollziehbarkeit von Entscheidungen (Black Box). Den Unternehmen drohen bei diesen Rechtsverstößen Sanktionen, Klagen und Reputationsschäden. Positiv ist, dass sich viele Unternehmen ihrer Verantwortung bewusst sind und intensiv daran arbeiten, KI-Systeme rechtskonform und gezielt einzusetzen. Bewerber:innen können aber auch einen Beitrag leisten, indem sie auf Lücken und Problembereiche hinweisen.