KI-Risiken in HR managen: Fünf Frameworks im Vergleich

Der EU AI Act definiert KI-gestützte HR-Systeme wie Applicant-Tracking-Systeme (ATS) oder People-Analytics-Tools als Hochrisiko-Anwendungen. Unternehmen im DACH-Raum müssen daher Risikomanagementprozesse über den gesamten Lebenszyklus der KI implementieren. Dazu gehören Dokumentationspflichten, menschliche Aufsicht und regelmäßige Audits. Besonders in Deutschland und Österreich gelten zusätzliche Anforderungen: Das Allgemeine Gleichbehandlungsgesetz (AGG) bzw. das österreichische Gleichbehandlungsgesetz verbieten Diskriminierung durch Algorithmen, während die Schweiz mit dem revidierten Datenschutzgesetz (DSG) strengere Transparenzregeln für automatisierte Entscheidungen vorschreibt. ^[3][5][6]

Ein zentrales Risiko in HR-KI-Systemen ist der algorithmische Bias, der durch verzerrte Trainingsdaten entsteht. Historische Einstellungsdaten können beispielsweise Geschlechter- oder Altersdiskriminierung reproduzieren, wenn sie nicht bereinigt werden. Frameworks wie das AIHR-Risk-Framework adressieren dieses Problem durch Bias-Audits und die Überprüfung von Datenquellen. In Österreich und Deutschland sind solche Audits besonders relevant, da das Gleichbehandlungsgesetz bzw. das AGG Verstöße sanktionieren. Die Schweiz verlangt zwar keine spezifischen Bias-Prüfungen, doch das DSG fordert Transparenz über die Logik automatisierter Entscheidungen – was indirekt eine Auseinandersetzung mit Bias erfordert. ^[4][6]

Datenqualität und Modelltransparenz sind weitere kritische Faktoren für die Compliance. Der EU AI Act verlangt, dass HR-KI-Systeme nachvollziehbar und erklärbar sein müssen. Dies betrifft insbesondere Tools, die automatisierte Entscheidungen treffen, etwa bei Gehaltsbenchmarks oder Performance-Bewertungen. In der Schweiz müssen Unternehmen betroffenen Personen ein „Recht auf Erklärung“ einräumen, wenn KI-Systeme Entscheidungen beeinflussen. Frameworks wie das von Databricks vorgeschlagene Modell setzen hier auf kontinuierliche Datenvalidierung und die Dokumentation von Modelländerungen, um die Einhaltung der Vorgaben sicherzustellen. ^[1][5]

Die operationale Sicherheit von HR-KI-Systemen umfasst den Schutz vor Datenlecks und Modell-Drift. Modell-Drift tritt auf, wenn sich die Performance eines KI-Systems im Laufe der Zeit verschlechtert, etwa durch veränderte Rahmenbedingungen wie neue Arbeitsmarkttrends. Der Databricks-Leitfaden empfiehlt regelmäßige Performance-Tests und die Implementierung von Frühwarnsystemen, um solche Risiken zu erkennen. In Deutschland und Österreich müssen Unternehmen zudem sicherstellen, dass KI-Systeme nicht gegen Datenschutzbestimmungen verstoßen, etwa durch unautorisierte Datenweitergabe. Die Schweiz legt hier besonderen Wert auf die technische und organisatorische Absicherung von Personendaten. ^[1][3]

Ein praxisnahes Framework für HR-Teams ist das AIHR-Risk-Framework, das speziell auf die Bedürfnisse von HR-Professionals zugeschnitten ist. Es kombiniert Compliance-Anforderungen mit ethischen und operativen Risiken und bietet konkrete Handlungsempfehlungen für die Implementierung. Dazu gehören die Einrichtung von Governance-Strukturen, die Schulung von Mitarbeitenden und die Zusammenarbeit mit Betriebsräten. In Deutschland ist die Einbindung von Betriebsräten besonders relevant, da diese laut Betriebsverfassungsgesetz ein Mitbestimmungsrecht bei der Einführung neuer Technologien haben. In Österreich und der Schweiz sind ähnliche Partizipationsmodelle üblich, wenn auch weniger formalisiert. ^[4][6]

Beratungsunternehmen wie PwC oder KPMG unterstützen HR-Teams bei der Umsetzung von KI-Risikomanagement-Frameworks, indem sie länderspezifische Compliance-Checks anbieten. Diese Checks umfassen die Überprüfung von HR-Software auf Konformität mit dem EU AI Act, DSGVO und nationalen Gesetzen. In der Schweiz liegt der Fokus auf der Einhaltung des DSG, während in Österreich und Deutschland zusätzlich das Gleichbehandlungsgesetz bzw. das AGG berücksichtigt werden müssen. HR-Software-Anbieter wie Workday oder SAP SuccessFactors integrieren zunehmend Risikomanagement-Tools in ihre Plattformen, etwa Bias-Audits oder automatisierte Compliance-Reports. ^[2][3]

Die Wahl des richtigen Frameworks hängt von den spezifischen Anforderungen des Unternehmens und den länderspezifischen Regularien ab. Während der EU AI Act einen übergreifenden Rahmen bietet, müssen HR-Teams in Deutschland, Österreich und der Schweiz zusätzliche nationale Vorgaben berücksichtigen. Eine Kombination aus etablierten Frameworks wie dem AIHR-Risk-Framework und länderspezifischen Anpassungen ermöglicht es, Compliance, ethische Risiken und operationale Sicherheit gleichzeitig zu adressieren. Praktisch umsetzbar wird dies durch die Zusammenarbeit mit internen Stakeholdern wie Betriebsräten, Datenschutzbeauftragten und externen Beratern. ^[3][4][6]

HR-Teams im DACH-Raum stehen vor der Herausforderung, KI-Risiken systematisch zu managen, ohne die Innovationskraft der Technologie zu bremsen. Die fünf etablierten Frameworks bieten hierfür strukturierte Ansätze, die Compliance, Bias-Prävention und Datensicherheit verbinden. Entscheidend ist, die Modelle an die länderspezifischen Regularien anzupassen und sie in bestehende HR-Prozesse zu integrieren. So lässt sich sicherstellen, dass KI-Systeme nicht nur effizient, sondern auch rechtssicher und ethisch verantwortungsvoll eingesetzt werden. ^[1][3][4]