Biais d'IA dans le recrutement

D’où vient le biais

Dans son travail sur les biais de l’IA, le NIST distingue les dimensions techniques, humaines et systémiques. Examiner seulement les données d’entraînement ne suffit donc pas.

En recrutement, les données peuvent refléter des décisions historiques inéquitables. Les critères peuvent aussi favoriser un parcours sans lien nécessaire avec le poste. Enfin, une équipe peut accorder trop de confiance à une note ou réutiliser des décisions antérieures sans en examiner les limites.

Retirer un nom ne rend pas tous les autres renseignements neutres. Dans un exemple hypothétique, utiliser systématiquement l’année de diplôme comme critère de priorité pourrait favoriser certains âges sans mieux mesurer la compétence attendue.

Ce qu’un test doit permettre de comprendre

Demandez au fournisseur ce qu’il a évalué, sur quelles données et pour quel usage. Une moyenne globale peut masquer des erreurs différentes selon les situations. Il faut comprendre notamment quels profils pertinents le système écarte et quelles informations expliquent le résultat.

Un compte rendu de test ne garantit pas l’absence de biais dans votre usage. Vérifiez aussi la pertinence des exigences, la qualité des données reçues et la capacité des personnes chargées de l’évaluation à corriger une erreur.

Organiser le suivi

Avant la mise en service, définissez qui examine les résultats contestés et comment une anomalie peut conduire à modifier ou suspendre l’usage. Réévaluez le dispositif lorsque le modèle, les données ou les critères changent, plutôt que de présenter une fréquence arbitraire d’audit comme une garantie.

Le guide de la CNIL rappelle les règles applicables aux données et aux décisions de recrutement. Un contrôle d’équité ne permet pas, à lui seul, de collecter librement des données sensibles pour réaliser des statistiques. Le suivi doit lui aussi respecter le cadre juridique applicable.