Un système de recrutement basé sur l’IA peut traiter chaque candidat de la même manière tout en laissant certaines personnes se sentir ciblées. Les chercheurs ont découvert que les candidats rejetés jugeaient différemment un entretien automatisé en fonction de la race et du sexe de l’avatar fournissant le résultat.
Environ 220 participants ont réalisé une simulation d'entretien pour un rôle fictif de support client avec l'un des quatre avatars photoréalistes d'IA. Tout le monde a été rejeté, mais les perceptions d'équité ont changé avec l'apparence de l'intervieweur. Un audit d'algorithme pourrait manquer cette réaction car les candidats ne perçoivent pas le système comme du code brut. Ils font l'expérience d'un visage posant des questions et jugeant leurs réponses.
Pourquoi l'appariement partiel était pire
Les candidats qui correspondaient à l'avatar dans une seule caractéristique, que ce soit le sexe ou la couleur de la peau, ont jugé le processus moins équitable que ceux qui correspondaient aux deux caractéristiques ou ni l'un ni l'autre.
L'étude n'a pas établi pourquoi l'appariement partiel a produit la réponse la plus forte. Une ressemblance limitée peut avoir modifié ce que les candidats attendaient de l'interaction, rendant le rejet plus personnel. Quelle que soit l'explication, donner à un intervieweur IA un visage familier ne garantit pas que les candidats le considéreront comme neutre.
Ce qui a changé après le rejet
Avant la décision, la confiance dans l’IA restait constamment élevée dans les différentes combinaisons d’avatars. Le suivi oculaire a révélé une différence notable, les participants regardant de plus près les visages dont la couleur de peau différait de la leur.
Une fois le refus arrivé, les candidats sont devenus plus sceptiques quant au processus. Une inadéquation raciale les a également rendus plus susceptibles d’attribuer le résultat à des préjugés. Le résultat automatisé est resté identique, mais la personne à l’écran a façonné la façon dont les candidats l’ont interprété.
L'expérience impliquait un travail fictif et un rejet standardisé, elle ne prouve donc pas que les véritables avatars d'embauche produisent la même réponse. Cela montre à quelle vitesse l’équité perçue peut changer une fois qu’une décision automatisée devient personnelle.
Quelles entreprises devraient tester ensuite
Les entreprises utilisant des intervieweurs IA doivent examiner l’interface ainsi que le modèle qui prend la décision. Une notation cohérente n'empêchera pas les candidats de lire la signification sociale dans l'apparence d'un avatar.
Les tests d'équité doivent inclure des candidats issus de différents groupes démographiques et comparer leurs réactions avant et après un résultat défavorable. Les entreprises devraient également vérifier si une interface moins humaine crée moins d’inquiétudes qu’un intervieweur photoréaliste. Le choix le plus sûr peut être celui qui définit les attentes les plus claires, plutôt que celui qui s’efforce de paraître pertinent.
