KI im Recruiting: Was der Fall Mobley v. Workday lehrt

Der Fall Mobley v. Workday ist die erste große Sammelklage gegen ein KI-gestütztes Recruiting-Tool und setzt damit einen Präzedenzfall für die Regulierung von Künstlicher Intelligenz im Personalwesen. Ein US-Bundesgericht hat die Klage zugelassen, die Workday vorwirft, durch algorithmische Verzerrungen Bewerber aufgrund von Rasse, Alter und Behinderung systematisch zu benachteiligen. Der Kläger, ein afroamerikanischer Bewerber über 40 Jahre mit Depressionen, wurde bei über 100 Bewerbungen bei Unternehmen, die Workdays Tool nutzen, abgelehnt. Der Fall zeigt, wie schnell KI-Systeme bestehende Ungleichheiten reproduzieren können, wenn sie nicht ausreichend überwacht werden. ^[1][2]

In der DACH-Region gewinnt der Fall besondere Relevanz, da der EU AI Act KI-Systeme im Recruiting als „hochriskant“ einstuft. Unternehmen müssen ab 2026 strenge Transparenz- und Dokumentationspflichten erfüllen, um Diskriminierungsrisiken zu minimieren. Während in den USA die Klage auf den Civil Rights Act und den Americans with Disabilities Act gestützt wird, sind in Deutschland das Allgemeine Gleichbehandlungsgesetz (AGG) und in Österreich das Gleichbehandlungsgesetz zentrale rechtliche Rahmenbedingungen. Beide Gesetze verbieten Diskriminierung aufgrund geschützter Merkmale – unabhängig davon, ob sie durch menschliche oder algorithmische Entscheidungen erfolgt. ^[5][6]

Workday ist einer der weltweit führenden Anbieter von HR-Software und wird von zahlreichen Großunternehmen genutzt. Die Klage wirft die Frage auf, inwieweit Anbieter von KI-Tools für die Einhaltung antidiskriminierungsrechtlicher Vorgaben verantwortlich sind. In den USA hat die Equal Employment Opportunity Commission (EEOC) bereits Leitlinien veröffentlicht, die Unternehmen dazu auffordern, KI-Systeme regelmäßig auf Verzerrungen zu überprüfen. In der EU wird der Fall als Testfall für die Umsetzung des AI Act gesehen, der Unternehmen verpflichtet, Risikobewertungen durchzuführen und transparente Entscheidungsprozesse zu gewährleisten. ^[7][8]

Die Klage gegen Workday zeigt, dass algorithmische Diskriminierung nicht nur ein technisches, sondern auch ein strategisches Risiko für Unternehmen darstellt. Viele HR-Abteilungen verlassen sich auf KI-Tools, um Bewerbungsprozesse effizienter zu gestalten, ohne die zugrundeliegenden Modelle ausreichend zu hinterfragen. Besonders problematisch ist, dass KI-Systeme oft auf historischen Daten trainiert werden, die bestehende Ungleichheiten widerspiegeln. Unternehmen in der DACH-Region müssen daher sicherstellen, dass ihre KI-Tools nicht nur rechtlichen Vorgaben entsprechen, sondern auch ethischen Standards genügen. ^[2][4]

Der Fall Mobley v. Workday hat bereits regulatorische Reaktionen ausgelöst. In den USA wird diskutiert, ob KI-Tools im Recruiting künftig einer Zertifizierungspflicht unterliegen sollten. In der EU könnte der AI Act als Blaupause für ähnliche Regelungen dienen, insbesondere da die Klassifizierung von KI-Systemen als „hochriskant“ strenge Compliance-Anforderungen mit sich bringt. Unternehmen, die KI im Recruiting einsetzen, müssen sich auf verschärfte Kontrollen einstellen – sowohl durch Aufsichtsbehörden als auch durch die Öffentlichkeit. ^[5][8]

Für HR-Abteilungen in der DACH-Region bedeutet der Fall eine klare Aufforderung, ihre KI-gestützten Recruiting-Prozesse kritisch zu überprüfen. Die Kombination aus rechtlichen Vorgaben wie dem AGG und dem EU AI Act erfordert eine proaktive Herangehensweise, um Diskriminierungsrisiken zu minimieren. Unternehmen sollten nicht nur auf die Einhaltung von Compliance-Regeln achten, sondern auch interne Richtlinien entwickeln, die Transparenz und Fairness sicherstellen. Der Fall zeigt, dass der Einsatz von KI im Personalwesen nicht nur Effizienzgewinne, sondern auch erhebliche Reputationsrisiken mit sich bringen kann. ^[1][6]

Unternehmen, die KI im Recruiting einsetzen, müssen handeln, um rechtliche und reputative Risiken zu minimieren. Eine regelmäßige Überprüfung der KI-Modelle auf Verzerrungen ist ebenso entscheidend wie die Schulung von HR-Mitarbeitern im Umgang mit algorithmischen Entscheidungen. Zudem sollten klare Prozesse für Beschwerden und Korrekturen etabliert werden, um Diskriminierungsvorwürfe frühzeitig zu erkennen und zu adressieren. Der Fall Mobley v. Workday macht deutlich: KI im Recruiting ist kein Selbstläufer, sondern erfordert kontinuierliche Kontrolle und Anpassung. ^[2][8]