KI-Bias im Recruiting
KI-Bias im Recruiting bezeichnet systematische Verzerrungen beim Einsatz künstlicher Intelligenz in der Personalauswahl. Ursachen können in Daten, Modellgestaltung, betrieblichen Verfahren und der menschlichen Nutzung der Ergebnisse liegen.
Die Verzerrung kann vor dem Modell beginnen
Das US-amerikanische National Institute of Standards and Technology veröffentlichte am 15. März 2022 den Bericht SP 1270. Er unterscheidet systemische, statistische beziehungsweise rechnerische und menschliche Ursachen von KI-Bias. Damit reicht die Betrachtung über Trainingsdaten hinaus: Auch betriebliche Regeln und die Interpretation einer Ausgabe können das Ergebnis verzerren.
Ein gedachtes Beispiel aus der Personalauswahl: Ein Unternehmen bewertet frühere Einstellungsentscheidungen als Vorbild für neue Bewerbungen. Waren bestimmte Berufswege damals kaum vertreten, sollte es prüfen, ob das System andere Wege zu vergleichbaren Fähigkeiten ausreichend erkennt. Das Beispiel beschreibt einen möglichen Prüfpunkt, keinen Nachweis über ein bestimmtes Produkt.
Was ein Test beantworten sollte
Beginnen Sie mit der konkreten Auswahlaufgabe. Welche Fähigkeit soll erkannt werden? Woran lässt sich erkennen, dass eine Bewerbung zu Unrecht niedriger bewertet wurde? Welche Unterschiede zwischen Gruppen oder Berufswegen bleiben durch eine einzige Gesamtkennzahl verborgen?
Ein Prüfbericht sollte die verwendeten Daten, die gewählten Maßstäbe, die gefundenen Fehler und die Grenzen der Aussage dokumentieren. Eine positive Kennzahl oder ein einmaliges Audit beweist keine umfassende Fairness. Änderungen am Modell, an Kriterien oder am Einsatzgebiet sind Anlass, die Bewertung erneut zu prüfen. Ein allgemeingültiger vierteljährlicher Rhythmus folgt daraus nicht.
Menschliche Prüfung braucht einen klaren Auftrag
Auch Menschen können sich zu stark an einer automatischen Bewertung orientieren. NIST behandelt ausdrücklich die Grenzen der Annahme, eine Person im Prozess verhindere automatisch schädliche Ergebnisse.
Unsere redaktionelle Empfehlung: Lassen Sie die fachliche Prüfung an den Originalunterlagen und den Anforderungen der Stelle ansetzen. Halten Sie fest, wann die prüfende Person von der Ausgabe abweicht und warum. Wenn Abweichungen praktisch unmöglich sind, bleibt die behauptete Aufsicht ohne Wirkung.
Die Frage, welche Nachweise ein Anbieter bereitstellen muss, gehört zur gesonderten Prüfung der EU-KI-Verordnung. Für die Entscheidung über einen Einsatz sind ein passender Prüfbericht und nachvollziehbare Grenzen hilfreicher als das pauschale Versprechen einer vorurteilsfreien KI.