KI im Recruiting: Wie Proxy-Diskriminierung entsteht

KI-Systeme im Recruiting nutzen häufig historische Daten, die bestehende Ungleichheiten widerspiegeln. Wenn etwa bestimmte Berufsgruppen über Jahrzehnte von einer demografischen Gruppe dominiert wurden, lernt die KI, diese Muster zu reproduzieren. Im DACH-Raum betrifft dies besonders Branchen wie IT oder Ingenieurwesen, wo Frauen oder Menschen mit Migrationshintergrund unterrepräsentiert sind. Die Algorithmen erkennen dabei nicht die strukturellen Ursachen, sondern behandeln die Überrepräsentation als vermeintlich objektives Auswahlkriterium. Dies führt dazu, dass Bewerber:innen aus benachteiligten Gruppen systematisch schlechtere Chancen erhalten, selbst wenn sie die gleichen Qualifikationen mitbringen. ^[3][5]

Proxy-Diskriminierung entsteht, wenn KI-Systeme scheinbar neutrale Datenpunkte wie Wohnort, Schulbildung oder Sprachmuster nutzen, die indirekt mit geschützten Merkmalen korrelieren. Ein Beispiel ist die Analyse von Bewerbungen auf bestimmte Formulierungen, die häufiger in Lebensläufen von Männern oder Frauen vorkommen. Im Active Sourcing scannen Tools wie LinkedIn-Scraper Profile nach solchen Mustern und sortieren Kandidat:innen vor, ohne dass Personalverantwortliche dies nachvollziehen können. Besonders problematisch ist, dass diese Mechanismen oft unsichtbar bleiben, da die Algorithmen als „objektiv“ wahrgenommen werden – obwohl sie menschliche Vorurteile lediglich technisch abbilden. ^[4][5]

Der EU AI Act stuft KI im Recruiting als Hochrisiko-Anwendung ein und verlangt von Unternehmen ab 2026 regelmäßige Bias-Audits sowie Transparenz gegenüber Bewerber:innen. Im DACH-Raum gibt es jedoch unterschiedliche Umsetzungsgrade: Während Deutschland auf das Allgemeine Gleichbehandlungsgesetz (AGG) und die Empfehlungen der Datenschutzkonferenz setzt, prüft Österreich automatisierte Entscheidungen gezielt auf Diskriminierung. Die Schweiz hingegen verlässt sich auf das allgemeine Gleichheitsgebot und das Datenschutzgesetz, ohne spezifische KI-Regularien. Diese heterogene Rechtslage erschwert es Unternehmen, grenzüberschreitende Recruiting-Prozesse diskriminierungsfrei zu gestalten. ^[1][2][7]

Forschungsprojekte und NGOs wie AlgorithmWatch CH zeigen, dass selbst gut gemeinte KI-Tools Diskriminierung verstärken können. Ein zentrales Problem ist die mangelnde Transparenz der Algorithmen: Viele Unternehmen setzen auf Blackbox-Systeme, deren Entscheidungslogik weder intern noch extern überprüfbar ist. Initiativen wie „Bias-Bounties“ – Belohnungen für entdeckte Diskriminierungsmuster – sollen hier Abhilfe schaffen, indem sie externe Expert:innen einbinden. Allerdings fehlt es bisher an flächendeckenden Standards, sodass die Verantwortung oft bei einzelnen HR-Abteilungen liegt, die mit den technischen und rechtlichen Herausforderungen überfordert sind. ^[3][5]

Active Sourcing, also die gezielte Ansprache potenzieller Kandidat:innen, ist besonders anfällig für Proxy-Diskriminierung. KI-Tools durchsuchen Plattformen wie LinkedIn nach Profilen, die bestimmten Kriterien entsprechen – etwa einer bestimmten Ausbildung oder Berufserfahrung. Dabei werden jedoch oft Netzwerkeffekte reproduziert: Wer bereits in einer Branche vertreten ist, wird häufiger angesprochen, während unterrepräsentierte Gruppen unsichtbar bleiben. Studien zeigen, dass diese Praxis bestehende Ungleichheiten verfestigt, da sie die Diversität der Talentpools von vornherein einschränkt. Unternehmen, die auf Active Sourcing setzen, müssen daher gezielt gegensteuern, etwa durch manuelle Überprüfung der KI-Empfehlungen. ^[4][5]

Einige Unternehmen im DACH-Raum beginnen, Gegenmaßnahmen zu ergreifen, etwa durch regelmäßige Audits ihrer KI-Systeme oder die Einbindung von Diversitätsbeauftragten in den Recruiting-Prozess. Allerdings bleibt die Umsetzung lückenhaft: Viele Firmen verlassen sich auf die Zusagen der Anbieter, ohne die Algorithmen selbst zu prüfen. Zudem fehlt es an klaren Kriterien, wann ein KI-System als „fair“ gilt. Rechtliche Vorgaben wie der EU AI Act könnten hier Abhilfe schaffen, doch bis dahin liegt es an den Unternehmen, proaktiv Transparenz zu schaffen und Diskriminierungsrisiken zu minimieren. ^[2][3]

Um Proxy-Diskriminierung im KI-gestützten Recruiting zu vermeiden, müssen Unternehmen technische, organisatorische und rechtliche Maßnahmen kombinieren. Der erste Schritt ist die Sensibilisierung aller Beteiligten – von HR über IT bis zur Geschäftsführung. Nur so lassen sich die Risiken erkennen und gezielt angehen. Gleichzeitig braucht es klare Prozesse, um KI-Entscheidungen regelmäßig zu überprüfen und bei Bedarf nachzujustieren. Langfristig kann nur eine Kombination aus Transparenz, externer Expertise und rechtlicher Compliance sicherstellen, dass Recruiting-Tools Chancengleichheit fördern statt zu behindern. ^[1][5]