Ce qui s'est passé: Imaginez ceci : vous vous présentez à un entretien d'embauche et avant même de dire « bonjour », vous êtes rejeté. Pas à cause de votre CV, mais parce que l'ordinateur a décidé que votre visage ne lui plaisait pas.
- Cela ressemble à un cauchemar de science-fiction, mais des chercheurs de l’Université de Pennsylvanie viennent de faire un grand pas en avant pour le rendre réel. Une nouvelle étude, dirigée par Marius Guenzel, a introduit des photos de près de 96 000 diplômés de MBA dans une IA.
- Le travail de l'IA consistait à scanner leurs visages et à essayer de deviner leur personnalité – ce que les chercheurs appellent les « Photo Big Five » (pensez : à quel point ils ont l'air agréables, consciencieux ou extravertis). Ensuite, ils ont vérifié si les suppositions de l'IA correspondaient aux carrières réelles des diplômés, comme combien d'argent ils avaient gagné ou quelle était leur réussite.
- Et voici le plus effrayant : cela a fonctionné. Les jugements instantanés de l'IA, basés sur une simple photo, avaient un réel pouvoir pour prédire qui réussirait. Il s’avère que nos visages peuvent donner de minuscules indices sur notre personnalité, et l’IA devient vraiment efficace pour les repérer.
Pourquoi est-ce important : Il s’agit d’un accord massif et franchement très controversé.
- Nous utilisons déjà des tests de personnalité pour les emplois, mais utiliser un scan du visage pour deviner si quelqu'un est un bon travailleur ? C'est un champ de mines juridique et éthique. C’est exactement le genre de choses pour lesquelles les lois anti-discrimination ont été écrites.
- Les chercheurs s’empressent de dire qu’il ne s’agit pas d’une boule de cristal, mais simplement d’une autre donnée. Mais les critiques paniquent (à juste titre). La plupart des entreprises ne touchent pas à ce type de technologie avec une perche de trois pieds, car elle comporte de nombreux biais potentiels et risques juridiques.
- Mais… si ça marche ? Et cela donne-t-il à une entreprise un avantage concurrentiel ? Vous pouvez parier que quelqu’un, quelque part, sera tenté de l’utiliser, aussi effrayant soit-il.
Pourquoi devrais-je m'en soucier : Il ne s’agit pas simplement d’une étrange expérience scientifique ; c’est une de ces choses qui vous font vous poser des questions… enfin, beaucoup.
- Si votre visage peut jouer un rôle dans vos perspectives d’emploi, qu’est-ce que cela signifie pour le développement personnel ou le travail acharné ?
- Est-ce que tout cela est important si un algorithme décide que vos « données faciales » ne conviennent pas ? Il y a une frontière effrayante entre être jugé sur vos mérites et être jugé selon le destin pré-écrit par un ordinateur.
- Et bien sûr, il y a l’intimité de tout cela. L'idée que les entreprises examinent nos visages pour décider si nous sommes « employables » n'est qu'un grand pas vers la normalisation de la surveillance des entreprises d'une manière qui pourrait priver encore plus de personnes d'opportunités.
Quelle est la prochaine étape : Les chercheurs ne s'arrêtent pas aux emplois. Ils testent déjà cette technologie pour voir si elle peut prédire si vous rembourserez un prêt.
- L’aspect « sympa » est que cela pourrait aider les personnes sans antécédents de crédit à obtenir un prêt. Le revers de la médaille, terrifiant, est : « Désolé, notre algorithme a analysé votre visage et vous ressemblez à un risque. Prêt refusé. »
- Il est difficile de dire si cela deviendra un jour courant. Au-delà du cauchemar juridique, il y a juste le facteur humain : la plupart d’entre nous croient encore que nous méritons une chance équitable, une vraie conversation, pour faire nos preuves – et pas seulement un scan de notre image.
- La grande question des prochaines années sera de savoir si l’IA contribuera à ce processus ou simplement le remplacera.
