Was bedeutet der AI Act der EU für HR-Abteilungen?

Künstliche Intelligenz ist längst in unserem Alltag angekommen. Hier schnell eine Absage an eine Bewerberin mit ChatGPT formulieren, dort den persönlichen Weiterbildungsplan für den Mitarbeiter via KI erstellen und zwischendurch die neuen KI-Funktionen in der HR-Software testen. Die Herausforderung daran: Rechtlich ist bei der KI-Nutzung vieles noch nicht geklärt. Abhilfe soll der AI Act der EU schaffen. Aber was genau regelt dieser eigentlich?

Jedes fünfte Unternehmen nutzt in Deutschland mittlerweile die Vorzüge von KI. Das sind acht Prozentpunkte mehr als vor einem Jahr, was fast einer Verdopplung von 12 auf 20 Prozent entspricht. Auch aufgrund der schnellen Verbreitung ist es für die EU wichtig, die Technologie zu regulieren – wir wissen mittlerweile alle, was ansonsten bei Datenpannen, mit Deep Fakes und „unsachgemäßer“ Nutzung der KI für wirtschaftlicher und ethischer Schaden entstehen kann. Um das zu verhindern, gibt es den EU AI Act, in Deutschland oft vereinfacht als KI-Gesetz bezeichnet.

In welchem Umfang kommt KI in Deutschland im Personalwesen zum Einsatz?

Bevor wir Ihnen im Detail erklären, wie der aktuelle Stand der Durchführung des Gesetzes ist und was es für Sie bedeutet, werfen wir einen Blick darauf, wie KI denn überhaupt in deutschen HR-Offices und Personalabteilungen zum Einsatz kommt. Denn: 20 Prozent der Unternehmen nutzen KI – das ist klar. Aber wie genau?

Vorneweg: Statistiken zum Einsatz von KI im Personalwesen – die 20 Prozent sind losgelöst von speziellen Unternehmensbereichen – gehen weit auseinander. Das ifo-Institut ermittelte Ende 2023 einen Anteil von fünf Prozent für Deutschland, eine Erhebung der Personalberatung Heidrick & Struggles kommt auf 87 Prozent für Europa.

So weit abgeschlagen sind wir in Deutschland sicherlich nicht – auch wenn andere Länder uns hier oft einen Schritt voraus sind. Was aber klar sein dürfte, das zeigen alle Studien gleichermaßen: Auch in HR-Abteilungen finden immer mehr KI-Anwendungen den Weg auf den digitalen Tisch.

Die Einsatzgebiete sind vielfältig:

• Automatisierte Bewerberauswahl: KI filtert Lebensläufe und Bewerbungsschreiben, um passende Talente schnell zu identifizieren.
• Chatbots im Recruiting: KI-Chatbots beantworten Bewerberfragen und führen erste Interviews durch – diese ersten beiden Punkte sind laut Heidrick & Struggles die primären Einsatzgebiete von KI im HR-Bereich.
• Predictive Analytics für Talentmanagement: KI analysiert Daten, um Potenziale und Entwicklungsmöglichkeiten von Mitarbeitenden zu erkennen.
• Automatisierung von administrativen HR-Aufgaben: Routineaufgaben wie Vertragsdokumente und Urlaubsberechnungen werden von KI-Tools übernommen.
• Personalisierte Weiterbildung: KI erstellt maßgeschneiderte Lernpläne basierend auf individuellen Fähigkeiten und Potenzialen.
• Mitarbeiterbindung und -zufriedenheit: KI-Tools analysieren Feedback, um Risiken für Mitarbeiterfluktuation frühzeitig zu erkennen – das ist schon mit ChatGPT möglich.

Die Anwendungsbereiche sind also von der Automatisierung administrativer Aufgaben über die Unterstützung im Recruiting-Prozess bis hin zur personalisierten Mitarbeiterentwicklung vielfältig. Und hier lauern Probleme – Amazon etwa setzte KI im Recruiting zur Bewerberselektion ein und das System benachteiligte weibliche Bewerbende. Will heißen: Es braucht hier klare Regeln, Richtlinien und Regulierungen, ansonsten funktioniert der nachhaltige KI-Einsatz nicht.

EU AI Act: Der aktuelle Stand des KI-Gesetzes

Genau hier kommt der EU AI Act zum Einsatz. Das KI-Gesetz wurde bereits 2021 in einer ersten Fassung vorgeschlagen und ist am 1. August 2024 in Kraft getreten. Für die Mitgliedsstaaten wie Deutschland bedeutet das: Bis zum 2. August 2025 müssen die ersten Umsetzungen abgeschlossen sein.

Der Gesetzestext kategorisiert KI-Systeme nach Risikostufen, wobei insbesondere Anwendungen im HR-Bereich häufig als „Hochrisiko-KI“ eingestuft werden – das betrifft etwa KI-gestützte Systeme zur Bewerberauswahl, Leistungsbewertung oder Personalentwicklung. Chatbots etwa zählen zu KI mit begrenztem Risiko, allerdings müssen Sie als Unternehmen auch hier Transparenzpflichten beachten – Bewerbende müssen etwa darauf hingewiesen werden, dass die Kommunikation mit einer KI stattfindet.

Für die Hochrisiko-KI-Systeme gelten strenge Anforderungen:

• Risikomanagement: Unternehmen müssen ein systematisches Risikomanagement implementieren, um potenzielle Gefahren frühzeitig zu identifizieren und gegenzusteuern.
• Transparenz und Dokumentation: Der EU AI Act verpflichtet zu einer umfassenden Dokumentation der eingesetzten KI-Systeme – dazu zählen auch die verwendeten Datenquellen und Entscheidungsprozesse im Hintergrund.
• Menschliche Aufsicht: Die Systeme müssen so gestaltet sein, dass menschliche Fachkräfte die Entscheidungen überwachen und bei Bedarf eingreifen können.

Kurzum: Der EU AI Act wird Sie und Ihre Personalabteilung über kurz oder lang dazu zwingen, KI-Systeme beziehungsweise deren Verwendung auf Herz und Nieren zu prüfen und sicherzustellen, dass sie sowohl den rechtlichen Anforderungen als auch den ethischen Standards entsprechen. Vor allem IT-Verantwortliche sind also hier mit klarem Know-how gefordert.

Zudem müssen Unternehmen nicht nur den reinen Einsatz von KI transparent machen – es muss auch gewährleistet sein, dass die Technologie im Personalwesen fair und diskriminierungsfrei eingesetzt wird, um ein zweites Amazon zu verhindern. Insbesondere bei der Bewerberauswahl und Leistungsbewertung gilt: Es darf keine ungewollten Verzerrungen oder Diskriminierungen durch die eingesetzten Systeme geben, vor allem die Trainingsdaten der Systeme beeinflussen das.

Diese verstärkten Anforderungen durch den AI Act bringt viele Aufgaben mit sich – für alle, die im HR-Bereich tätig sind. Bedeutet auch: HR-Mitarbeitende werden künftig einige Schulungstage mehr im Kalender vermerken müssen, damit auch die Nutzung der KI-Tools den neuen rechtlichen Anforderungen gerecht wird.

EU AI Act zusammengefasst: Darauf müssen Sie achten

Kurz zusammengefasst: Der EU AI Act ist ein zum 1. August 2024 in Kraft getretenes ein Gesetz zur Regulierung von künstlicher Intelligenz in der EU. Es soll KI-Anwendungen sicher und ethisch vertretbar machen – das bedeutet für HR-Abteilungen und Personalverantwortliche:

• KI-Systeme werden nach Risikostufen kategorisiert, wobei beispielsweise HR-Anwendungen, die bei der Bewerberselektion unterstützen, in die Hochrisiko-Stufe fallen.
• Unternehmen müssen ein entsprechendes KI-Risikomanagement implementieren, um potenzielle Gefahren zu minimieren. die verwendeten Datenquellen und Entscheidungsprozesse im Hintergrund.
• Transparenzpflichten verlangen eine detaillierte Dokumentation der verwendeten Daten und Entscheidungsprozesse im Hintergrund.
• Alle KI-Systeme müssen unter menschlicher Aufsicht stehen, um diskriminierende Entscheidungen zu verhindern.
• Die rechtzeitige Umsetzung dieser Anforderungen ist bis zum 2. August 2025 notwendig.

Fazit: Mehr Regeln, aber auch mehr Chancen?

Ein Blick auf die neuen Regelungen verursacht im ersten Moment möglicherweise eine Blockade – mehr Regeln, mehr Arbeit. Also das Aus für KI-Systeme in Ihrem Unternehmen? Die Antwort ist ein klares Nein. Schließlich bringt KI ungeahnte Potenziale in der Effizienzsteigerung der HR-Prozesse mit sich.

Ki-Assistent Rai in der rexx Suite fungiert beispielsweise wie ein persönlicher Assistent, der den User bei Fragen unterstützt und bei der Lösung von Herausforderungen hilft, um das Beste aus der rexx Suite herauszuholen.

Trotz Regeln und Regulierung ist es für Unternehmen alternativlos, sich im HR mit KI auseinanderzusetzen, um nicht den Anschluss im Wettbewerb zu verlieren. Sehen Sie es also weniger als auferlegte Pflicht, sich um die Umsetzung und Einhaltung neuer KI-Richtlinien zu kümmern – sondern vielmehr als Investition in Ihre Unternehmenszukunft.

Weitere Informationen zur rexx systems GmbH

Artikel vom 06.01.2025

Schlagwörter: Künstliche Intelligenz, Human Resources