KI im Recruiting: Wenn Algorithmen diskriminieren

KI-basierte Recruiting-Tools analysieren Bewerbungen anhand von Schlüsselwörtern, Lebenslaufstrukturen oder Sprachmustern, um Kandidat:innen vorzusortieren. Diese Systeme lernen aus historischen Daten, die häufig unbewusste Vorurteile enthalten – etwa eine Präferenz für bestimmte Geschlechter in bestimmten Berufsfeldern. Eine Untersuchung der University of Washington belegt, dass Algorithmen Bewerbungen mit Namen, die als nicht-weiß oder weiblich wahrgenommen werden, systematisch benachteiligen. Solche Verzerrungen reproduzieren bestehende Ungleichheiten und verstoßen gegen Antidiskriminierungsvorschriften im DACH-Raum. ^[1][3]

Im DACH-Raum unterliegt der Einsatz von KI im Recruiting strengen rechtlichen Vorgaben. In Deutschland verbietet das Allgemeine Gleichbehandlungsgesetz (AGG) Diskriminierung aufgrund von Geschlecht oder ethnischer Herkunft. Automatisierte Entscheidungen müssen zudem transparent und anfechtbar sein, wie die DSGVO vorschreibt. Österreich und die Schweiz folgen ähnlichen Regelwerken: Das Gleichbehandlungsgesetz (GlBG) in Österreich und das Bundesgesetz über die Gleichstellung von Frau und Mann (GlG) in der Schweiz setzen klare Grenzen. Unternehmen riskieren bei Verstößen nicht nur rechtliche Konsequenzen, sondern auch Reputationsschäden. ^[5]

Die Problematik liegt oft in den Trainingsdaten der Algorithmen. Historische Bewerbungsdaten spiegeln gesellschaftliche Ungleichheiten wider – etwa die Unterrepräsentation von Frauen in technischen Berufen oder von Menschen mit Migrationshintergrund in Führungspositionen. KI-Systeme, die auf solchen Daten basieren, perpetuieren diese Muster. Eine Analyse von AlgorithmWatch CH zeigt, dass selbst scheinbar neutrale Kriterien wie Sprachmuster oder Bildungswege diskriminierende Effekte haben können. Unternehmen stehen damit vor der Herausforderung, Bias in ihren Daten zu identifizieren und zu korrigieren. ^[1][5]

Einige HR-Tech-Anbieter werben mit „debiased“ Algorithmen, doch deren Wirksamkeit ist umstritten. Studien der Stanford University zeigen, dass selbst nach Korrekturversuchen subtile Verzerrungen bestehen bleiben können. Die EU-KI-Verordnung klassifiziert HR-KI als Hochrisiko-Anwendung und verlangt regelmäßige Risikobewertungen. Im DACH-Raum bedeutet dies, dass Unternehmen nicht nur technische Lösungen implementieren, sondern auch organisatorische Prozesse anpassen müssen. Dazu gehört etwa die Einbindung von Diversity-Teams in die Entwicklung und Überwachung von KI-Tools. ^[4][5]

Die Schweiz geht einen pragmatischen Weg: Obwohl es keine spezifische KI-Regulierung gibt, fordert die Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) Transparenz bei automatisierten Entscheidungen. Unternehmen müssen nachweisen können, wie ihre Algorithmen funktionieren und welche Daten sie nutzen. In Deutschland und Österreich sind die Anforderungen noch strenger: Hier müssen KI-Systeme nicht nur transparent, sondern auch nachvollziehbar sein. Dies erfordert eine enge Zusammenarbeit zwischen HR, IT und Rechtsabteilungen. ^[5]

Forschungseinrichtungen wie die University of Washington oder das Stanford Institute for Human-Centered Artificial Intelligence (HAI) entwickeln Methoden, um Bias in KI-Systemen zu messen und zu reduzieren. Dazu gehören etwa Tests mit synthetischen Bewerbungsdaten, die gezielt unterschiedliche Namen oder Hintergründe enthalten. Im DACH-Raum setzen NGOs wie AlgorithmWatch CH auf Aufklärung und Monitoring, um Diskriminierung durch KI sichtbar zu machen. Unternehmen können von diesen Ansätzen lernen, indem sie unabhängige Audits ihrer Recruiting-Tools durchführen lassen. ^[3][4][5]

Um Diskriminierung durch KI im Recruiting zu vermeiden, müssen Unternehmen technische und organisatorische Maßnahmen kombinieren. Dazu gehört zunächst die Überprüfung der Trainingsdaten auf Verzerrungen. Zudem sollten Algorithmen regelmäßig getestet werden, etwa durch den Einsatz von Testbewerbungen mit unterschiedlichen Profilen. Rechtlich ist es ratsam, KI-Entscheidungen durch menschliche Prüfer:innen validieren zu lassen. Langfristig kann nur eine enge Zusammenarbeit zwischen HR, IT und Diversity-Management sicherstellen, dass KI-Tools fair und compliant eingesetzt werden. ^[5][6]