Recruiting Schock: KI entwickelt eigene Vorurteile! | Episode 160 Das HR-Briefing

Bias im Recruiting: KI entwickelt eigene Vorurteile KI soll Recruiting schneller und objektiver machen. Doch eine Studie der Princeton University und der University of Chicago zeigt: Sprachmodelle können nicht nur bestehende Vorurteile übernehmen, sondern im Einsatz auch neue entwickeln. Wenn KI aus Einzelfällen Vorurteile ableitet In einem Experiment wählten verschiedene Sprachmodelle über 40 Runden Bewerbende für unterschiedliche Berufe aus. Alle waren objektiv gleich geeignet und gehörten lediglich unterschiedlichen, frei erfundenen Gruppen an. Nach jeder Entscheidung erhielt die KI Feedback zum Erfolg der ausgewählten Person. Schon nach wenigen Runden übertrug sie einzelne Erfahrungen auf ganze Gruppen. War eine Person zufällig nicht erfolgreich, wurden Menschen derselben Gruppe später seltener für ähnliche Berufe ausgewählt. Bemerkenswert: Die Sprachmodelle zeigten stärkere Verzerrungen als Menschen in einer vergleichbaren psychologischen Untersuchung. Warum ein Fairness-Prompt nicht genügt Sprachmodelle leiten aus wenigen Informationen schnell Muster ab. Bei sozialen Entscheidungen können daraus problematische Verallgemeinerungen entstehen. Die Forschenden testeten deshalb Gegenmaßnahmen. Die Anweisung, fair zu entscheiden, brachte kaum Verbesserungen. Wirksamer war es, Vielfalt ausdrücklich als Ziel vorzugeben und zu belohnen. Auch Informationen zu Qualifikation und Berufserfahrung halfen der KI, stärker auf die einzelne Person zu schauen. Welche Rolle sollte KI im Recruiting spielen? Komplett auf KI zu verzichten, ist nicht automatisch die bessere Lösung. Auch Menschen treffen Personalentscheidungen nicht frei von Vorurteilen. KI kann unterstützen, wenn klare und überprüfbare Kriterien gelten. Entscheidend bleibt der „Human in the Loop“: KI-Empfehlungen sollten nachvollziehbar sein und von Menschen geprüft werden. Das gilt besonders für finale Personalentscheidungen. Wo Automatisierung an Grenzen kommt Sensibel ist KI auch im direkten Kontakt mit Bewerbenden. Übernehmen Avatare erste Bewerbungsgespräche, kann das die Candidate Experience beeinflussen. Persönlicher Austausch lässt sich nicht beliebig automatisieren. Was HR beim Einsatz von KI beachten sollte Die zentrale Erkenntnis: KI ist nicht automatisch neutral. Bias kann auch erst während der Nutzung entstehen. Deshalb braucht KI im Recruiting klare Auswahlkriterien, Fairness als strategisches Ziel und regelmäßige Kontrolle. KI kann Recruiterinnen und Recruiter unterstützen – die Verantwortung für Personalentscheidungen bleibt beim Menschen. Quellen: https://www.technologyreview.com/2026... “Das HR-Briefing" ist der wöchentliche HR-Podcast für Personaler:innen und Führungskräfte – powered by Personio. Weitere Infos zum Podcast, den Hosts und Personio findest du hier: https://www.personio.de/hr-briefing/ Du hast Fragen, Feedback oder spannende Themen-Vorschläge? Kontaktiere uns unter: hr-briefing@personio.de