Künstliche Intelligenz in HR und Recruiting: der Status quo
KI ist der Top-Trend schlechthin der vergangenen Jahre – auch in HR und Recruiting. Spätestens seit der Veröffentlichung von ChatGPT 3.5 nutzen zahlreiche Personaler Tools und Techniken in ihrem Arbeitsalltag, die mit dem Label „Künstliche Intelligenz“ beworben werden.
Einige typische Beispiele hierfür sind:
Verfassen von Stellenanzeigen: Lösungen wie der AI Jobwriter entwickeln automatisch attraktive Anzeigentexte, die die zuständigen Recruiter anschließend nur noch in Details optimieren müssen.
Automatisierte Prüfung von Lebensläufen: Spezielle Tools gleichen die CVs von Bewerbern mit den zugehörigen Stellenausschreibungen ab und schlagen auf Basis ihrer Analyse geeignete A-Kandidaten vor.
KI-gestützter Research: Active-Sourcing-Dienstleister verlassen sich bei der Recherche geeigneter Kandidaten immer häufiger auf Maschinen-Intelligenz – diese sucht in Karrierenetzwerken nach geeigneten Talenten für vakante Positionen.
Bewerberkommunikation mit Chatbots: Viele Karriere-Websites enthalten eine Chatfunktion, in denen Kandidaten Fragen zu ausgeschriebenen Jobs oder zum Bewerbungsprozess stellen können. Die Antworten auf diese Fragen liefern regelmäßig trainierte KI-Bots.
KI-gestützte Anzeigenschaltung: Mit Hilfe von Daten aus vergangenen Recruiting-Kampagnen können smarte Marketing-Tools mit hoher Wahrscheinlichkeit vorhersagen, welche Kanäle für welche Stellenanzeigen am meisten Bewerbungen generieren – und damit den passenden Media-Mix vorschlagen und optimieren.
Die vielen Einsatzszenarien zeigen: Der Megatrend „Künstliche Intelligenz“ ist längst in HR und Recruiting angekommen. Neue gesetzliche Rahmenbedingungen sind damit auch hochrelevant für HR. Richten wir unseren Blick also auf den AI Act der EU.
Das KI-Gesetz: Was ist der EU AI Act?
Der EU AI Act (deutsch: „Gesetz über Künstliche Intelligenz“) wurde von der Europäischen Union in der Zeit von 2019 bis 2024 entwickelt, um den Einsatz von Künstlicher Intelligenz in den Mitgliedsstaaten zu regulieren. Die 27 EU-Mitgliedsstaaten haben ihn am 21. Mai 2024 endgültig verabschiedet und am 13. Juni von der Präsidentin des Europäischen Rates und des Europäischen Parlaments ausgefertigt. 20 Tage nach der Veröffentlichung im Amtsblatt tritt der AI Act in Kraft.
Die meisten Vorschriften aus dem KI-Gesetz werden zwei Jahre nach Inkrafttreten tatsächlich anwendbar. Wichtige Ausnahmen:
- Schon sechs Monate nach Inkrafttreten werden voraussichtlich die im Gesetz definierten Verbote (verbotene KI-Systeme, siehe nächster Absatz) wirksam.
- Schon 12 Monate nach Inkrafttreten werden voraussichtlich die Vorschriften zu KI-Modellen mit allgemeinem Verwendungszweck (GPAI) wirksam.
Durch die Regulierung wollen die EU-Behörden die KI-Nutzung sicherer machen: Systeme mit Künstlicher Intelligenz sollen transparent und nachvollziehbar sein, niemanden diskriminieren und von Menschen überwacht werden. Obwohl das KI-Gesetz ausschließlich für die EU gilt, gehen Experten davon aus, dass es weltweit relevant wird: Als erstes seiner Art könnte es die Blaupause für globale Standards zum Umgang mit Künstlicher Intelligenz werden.
Eine Frage der Definition: Was ist Künstliche Intelligenz im Sinne des EU AI Act?
Artikel 3, Absatz 1 des KI-Gesetzes enthält die für die Verordnung gültige Definition von „Systemen der Künstlichen Intelligenz“. Demnach handelt es sich dabei um:
„ … eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte [u. a. maschinelles Lernen, statistische Ansätze und induktive Programmierung, Anm. d. Verf.] entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren (…).“
Im Unterschied zu konventioneller Software ist ein KI-System nach dem Gesetz außerdem dazu in der Lage, aus von Nutzern eingegebenen Informationen bzw. Daten neue Modelle und/oder Algorithmen abzuleiten und selbstständig zu lernen.
Es geht damit per Definition über klassische Softwarelösungen hinaus, die Informationen lediglich nach vorab von Menschen definierten Regeln (Algorithmen) verarbeiten. Zusätzlich kann die KI im Sinne des Gesetzes – zumindest teilweise – unabhängig vom Menschen handeln, sich anpassen und sich kontinuierlich weiterentwickeln.
Konventionelle Software
- Arbeitet mit vorab definierten Algorithmen
- Braucht menschlichen Input
- Berechnet Ergebnisse
- Wird durch Menschen angepasst
KI-System
- Passt seine Algorithmen selbständig an
- Kann autonom operieren
- Zieht eigene Schlussfolgerungen
- Lernt selbstständig
KI-Gesetz sieht vier verschiedene Klassen der Regulierung vor
Dabei verfolgt das Gesetz einen risikobasierten Ansatz: je größer das Risiko eines KI-Systems für die Gesellschaft, desto stärker die Regulierung. Die EU definiert die folgenden vier Klassen:
- KI-Systeme mit inakzeptablem Risiko werden komplett verboten. Dazu gehört beispielsweise die Massenüberwachung mit biometrischen Daten oder das sogenannte „Social Scoring“ – also die KI-gestützte Bewertung von sozialem Verhalten von Menschen.
- KI-Systeme mit hohem Risiko unterliegen engen Regeln und müssen strenge Anforderungen erfüllen. Dazu gehören beispielsweise Anwendungen im Personal-, Bildungs- und Gesundheitswesen, aber auch im Mobilitäts- (z. B. autonomes Fahren) und Finance-Bereich (z. B. Kreditwürdigkeitsprüfung).
- Als KI-Systeme mit Transparenzanforderungen gelten u. a. alle Anwendungen, die mit Menschen interagierten (z. B. Chatbots). Sie müssen von Anbietern künftig klar als KI-gestützt gekennzeichnet werden.
- KI-Systeme mit keinem/niedrigem Risiko sind alle Anwendungen, die sich nicht den anderen Risiko-Kategorien zuordnen lassen. Dazu gehören z. B. automatisierte Spam-Filter oder autonome Entwicklungsumgebungen in der Forschung.
Zusätzlich unterscheidet das Gesetz zwischen Anbietern und Betreibern von KI-Systemen:
- Anbieter sind diejenigen Unternehmen, die ein KI-System entwickeln und vermarkten – im HR-Kontext also typischerweise Softwareanbieter und HR-Tech-Unternehmen.
- Betreiber sind diejenigen Unternehmen, die ein fremdes KI-System für ihre Zwecke einsetzen: also beispielsweise die Software eines Anbieters lizensieren und nutzen.
In der Regel fallen Arbeitgeber, die KI-Systeme für HR-Zwecke nutzen, in die Gruppe der „Betreiber“.
Warum ist das KI-Gesetz für Arbeitgeber relevant?
Kommt es im HR-Bereich zum Einsatz von KI-Anwendungen, so sind diese im Sinne des KI-Gesetzes häufig als Hochrisiko-Systeme anzusehen. So heißt es im Gesetz:
„KI-Systeme, die in den Bereichen Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit eingesetzt werden, insbesondere für die Einstellung und Auswahl von Personen, für Entscheidungen über Beförderung und Kündigung sowie für die Zuweisung, Überwachung oder Bewertung von Personen in Arbeitsvertragsverhältnissen, sollten ebenfalls als hochriskant eingestuft werden, da diese Systeme die künftigen Karriereaussichten und die Lebensgrundlagen dieser Personen spürbar beeinflussen können.“
Betreiber von Hochrisiko-Systemen müssen künftig strenge Regeln beachten. Diese Regeln sehen unter anderem vor, dass hohe Standards in Bereichen wie Data Governance, Transparenz und Risikomanagement eingehalten werden müssen. Für Arbeitgeber, die Hochrisiko-KI-Systeme einsetzen wollen, bedeutet das u. a. umfassende Aufklärungspflichten gegenüber Mitarbeitern und Bewerbern, die laufende Überwachung der eingesetzten Tools durch entsprechend qualifiziertes Personal und eine laufende Dokumentation.
Verstoßen Arbeitgeber gegen das KI-Gesetz – etwa, weil sie den Einsatz von KI-Tools nicht ausreichend dokumentieren – drohen empfindliche Strafen von bis 15 Millionen Euro bzw. 3 Prozent des Jahresumsatzes.
Was sollten Arbeitgeber jetzt beachten?
Angesichts der neuen Regelungen tun Arbeitgeber gut daran, sich mit den Regelungen des AI Acts genau auseinanderzusetzen: einerseits, um zu prüfen, zu welchen Risikogruppen ihre KI-Systeme gehören, andererseits, um bei Vorliegen von Hochrisiko-KIs entsprechende Maßnahmen zu treffen. Nur so stellen Arbeitgeber den Einsatz Künstlicher Intelligenz in ihrem Unternehmen auf rechtlich sichere Füße.
Werden tatsächlich Hochrisiko-KI-Systeme im Unternehmen genutzt, hat das insbesondere für die folgenden Aspekte Implikationen:
- Organisation und Technik: Als Betreiber von KI-Systemen müssen Arbeitgeber die notwendigen Rahmenbedingungen schaffen, damit die eingesetzte Software bestimmungsgemäß eingesetzt werden kann.
- Menschliche Aufsicht: Die KI-Systeme müssen durch eine hierfür qualifizierte Person überwacht werden. Das kann ein Mitarbeiter, aber auch ein beauftragter Dienstleister sein.
- Transparenz: Informieren Sie Ihre Arbeitnehmer und den Betriebsrat über den Einsatz von Hochrisiko-KIs am Arbeitsplatz.
Sie wollen Ihr Unternehmen KI-fit machen? Teamwork macht den Unterschied! Erfolgreich werden insbesondere die Arbeitgeber, bei denen HR-, IT-, Rechts- und Datenschutzverantwortliche eng zusammenarbeiten. Zusätzlich kann eine externe rechtliche Beratung sinnvoll sein.
Exkurs: Ist überall, wo KI draufsteht, auch KI drin?
Experten zufolge werden aktuell viele HR- und Recruiting-Tools mit „KI“ beworben, obwohl sie lediglich einfache bis komplexere Machine-Learning-Algorithmen nutzen – im Sinne des europäischen KI-Gesetzes jedoch keine vollwertigen KI-Systeme sind. Darauf hat unter anderem die Rechtsanwältin Nina Diercks in einem Fachbeitrag hingewiesen.
Mit dem Inkrafttreten des AI Acts dürfte sich das ändern. Wegen der strengen Regeln für KI-Systeme und der daraus folgenden Compliance-Anforderungen an Arbeitgeber wird der Begriff „KI“ in vielen Fällen eher zu einem Verkaufshemmnis als zu einem Verkaufsargument. Denn für Arbeitgeber bedeutet Künstliche Intelligenz jetzt auch: mehr Verwaltungsaufwand. Software-Anbieter dürften sich deshalb schon bald zweimal überlegen, ob sie ihre Tools wirklich mit „KI“ bewerben.
Das KI-Gesetz der EU wird also wohl auch zu einem restriktiveren Umgang mit dem Begriff „KI“ im Marketing führen – und damit zu mehr Transparenz im HR-Tech-Bereich.
Sie wollen mehr über den Einsatz von Künstlicher Intelligenz im Recruiting erfahren? Laden Sie jetzt unser kostenloses E-Book herunter!
Bitte beachten Sie, dass dieser Artikel keine Rechtsberatung darstellt. Es handelt sich um einen allgemeinen Text zu Informationszwecken.
