LLMs im HR: Wo sie scheitern

Large Language Models basieren auf Wahrscheinlichkeitsmustern, die aus großen Textkorpora abgeleitet werden. Diese Architektur ermöglicht es ihnen, menschenähnliche Texte zu generieren, doch sie sind nicht darauf ausgelegt, kausale Zusammenhänge oder unternehmensspezifische Datenstrukturen zu verstehen. Im HR-Kontext führt dies zu erheblichen Einschränkungen, insbesondere bei Aufgaben, die präzise Vorhersagen oder statistisch validierte Ergebnisse erfordern. Während LLMs für generative Aufgaben wie Textzusammenfassungen oder Chatbot-Kommunikation nützlich sein können, stoßen sie bei der Personalplanung oder Compliance-Risikoanalysen an ihre Grenzen. ^[1][3]

Ein zentrales Problem von LLMs im HR-Bereich ist ihre Neigung zu Halluzinationen – das Erfinden von Fakten oder das Generieren inkonsistenter Empfehlungen. Diese Fehler treten besonders dann auf, wenn die Modelle mit unternehmensspezifischen Daten konfrontiert werden, die nicht in ihren Trainingsdaten enthalten sind. Im DACH-Raum, wo sektorale Tarifverträge und strenge Datenschutzgesetze gelten, kann dies zu rechtlichen Risiken führen. Beispielsweise erfordern automatisierte Entscheidungen nach der DSGVO in Deutschland und Österreich eine nachvollziehbare Logik, die LLMs aufgrund ihrer „Black Box“-Natur nicht bieten können. ^[2][4]

Ein weiteres Risiko ist die Verstärkung von Vorurteilen durch LLMs. Da diese Modelle auf historischen Daten trainiert werden, können sie bestehende Diskriminierungsmuster reproduzieren oder sogar verstärken. Dies ist besonders problematisch im Rekrutierungsprozess, wo faire und objektive Entscheidungen entscheidend sind. Im DACH-Raum, wo das Allgemeine Gleichbehandlungsgesetz (AGG) in Deutschland und ähnliche Regelungen in Österreich und der Schweiz gelten, können solche Verzerrungen zu rechtlichen Konsequenzen führen. Unternehmen müssen daher sicherstellen, dass LLMs nicht unreflektiert in sensiblen HR-Prozessen eingesetzt werden. ^[1][4]

Die Integration von LLMs in HR-Tech-Lösungen wie Applicant Tracking Systems (ATS) oder HR Information Systems (HRIS) ist zwar weit verbreitet, doch ihre Effektivität bleibt begrenzt. Studien zeigen, dass die meisten HR-Entscheidungen in Unternehmen mit People-Analytics-Tools auf deterministischen Modellen wie Regressionsanalysen basieren. LLMs werden hier lediglich für unterstützende Aufgaben wie die Generierung von Texten oder die Analyse von Dokumenten genutzt. Dies liegt daran, dass LLMs keine Daten bereinigen oder validieren können – ein kritischer Schritt, der für zuverlässige HR-Analysen unerlässlich ist. ^[3][4]

Ein weiteres Hindernis ist die mangelnde Anpassungsfähigkeit von LLMs an unternehmensspezifische Daten. Selbst mit Techniken wie „In-context learning“, bei dem die Modelle durch gezielte Prompts angepasst werden, führen sie in vielen Fällen zu inkonsistenten Ergebnissen. Dies ist besonders problematisch, wenn es um die Einhaltung von Compliance-Vorgaben geht. Im DACH-Raum müssen HR-Tools nicht nur datenschutzkonform sein, sondern auch mit Betriebsräten abgestimmt werden, insbesondere in Deutschland, wo das Betriebsverfassungsgesetz (BetrVG) Mitbestimmungsrechte vorsieht. ^[3][4]

Trotz dieser Einschränkungen gibt es Anwendungsfälle, in denen LLMs im HR-Bereich sinnvoll eingesetzt werden können. Dazu gehören die Automatisierung von Routineaufgaben wie die Beantwortung von Mitarbeiteranfragen oder die Erstellung von Textvorlagen für Stellenausschreibungen. Wichtig ist jedoch, dass Unternehmen die Grenzen dieser Technologie erkennen und sie nicht für kritische Entscheidungen einsetzen, die präzise Datenanalysen erfordern. Eine Kombination aus klassischen Analytics-Tools und LLMs kann hier die beste Lösung sein. ^[1][4]

Um die Risiken von LLMs im HR-Kontext zu minimieren, sollten Unternehmen klare Leitlinien für ihren Einsatz entwickeln. Dazu gehört die Festlegung von Anwendungsbereichen, in denen LLMs sinnvoll sind, sowie die Implementierung von Kontrollmechanismen, um Halluzinationen und Verzerrungen zu vermeiden. Zudem ist es wichtig, die Compliance-Anforderungen im DACH-Raum zu berücksichtigen und sicherzustellen, dass alle automatisierten Entscheidungen nachvollziehbar und dokumentiert sind. So lässt sich der Nutzen von LLMs maximieren, ohne die Risiken zu ignorieren. ^[2][4]