AI-bias bij werving
AI-bias bij werving is een systematische vertekening in de werking of het gebruik van AI bij kandidaatbeoordeling. Gegevens, modelkeuzes en menselijke beslissingen kunnen ertoe leiden dat groepen ongelijk worden behandeld.
Waar de vertekening ontstaat
Een model kan patronen uit eerdere selectiebeslissingen overnemen. Ook een gekozen criterium, een onvolledig cv of de manier waarop een recruiter een score gebruikt kan de uitkomst vertekenen. In SP 1270, gepubliceerd op 15 maart 2022, onderscheidt NIST systemische, computationele en statistische, en menselijke bronnen van bias.
Naam en foto weglaten lost dat niet vanzelf op. Andere gegevens kunnen samenhangen met een beschermd kenmerk. Een controle die alleen naar de zichtbare invoervelden kijkt, mist zulke verbanden.
Wanneer een verschil nader onderzoek vraagt
Een verschil tussen groepen is aanleiding om de criteria en uitkomsten te onderzoeken. Het bewijst op zichzelf nog niet waardoor dat verschil is ontstaan. Kijk naar de taak waarvoor het systeem wordt gebruikt, de beschikbare informatie en wie een uitkomst heeft overgenomen of aangepast.
Het College voor de Rechten van de Mens wijst erop dat ook een ogenschijnlijk neutraal criterium bepaalde groepen bijzonder kan treffen. Werkgevers blijven verantwoordelijk voor de middelen die zij bij selectie inzetten. De Nederlandse AWGB geeft hiervoor een deel van het juridische kader.
Van signaal naar een controleerbare beslissing
Bewaar bij een beoordeling het relevante werkvoorbeeld of antwoord en leg uit hoe het zich verhoudt tot de functie-eis. De scorecards van Join ondersteunen beoordelingen met opmerkingen; zij stellen niet vast of een model technisch of juridisch aan de eisen voldoet.
Onderzoek terugkerende onjuiste uitkomsten met de leverancier. Bepaal wie fouten kan herstellen en wanneer een systeemuitkomst niet gebruikt wordt. Een controle is pas bruikbaar als de bevindingen ook invloed kunnen hebben op de selectie.