L’intelligence artificielle est devenue remarquablement efficace pour créer de faux visages humains. Tellement bon, en fait, que les vieilles astuces sur lesquelles les gens s'appuyaient – compter les doigts, repérer les boucles d'oreilles déformées ou rechercher des arrière-plans déformés – deviennent rapidement obsolètes. Selon une nouvelle étude soulignée par la BBC, la prochaine ligne de défense pourrait ne pas être du tout un meilleur détecteur d’IA. Il se pourrait simplement qu’il s’agisse d’un humain mieux entraîné.
Des chercheurs de l'Université d'Aberdeen, en collaboration avec l'Université nationale d'Australie, ont découvert que les gens peuvent améliorer considérablement leur capacité à distinguer les visages générés par l'IA des visages réels après une période relativement courte de formation structurée. Au lieu de rechercher des problèmes visuels évidents, les participants ont appris à reconnaître des motifs subtils que les générateurs d’images modernes ont encore du mal à reproduire de manière cohérente.
La course à l’IA oblige également les humains à évoluer
Pendant des années, identifier les images générées par l’IA semblait presque trivial. Les premiers modèles produisaient souvent six doigts, des boucles d'oreilles dépareillées ou des ombres impossibles. Mais les générateurs d'aujourd'hui, alimentés par des systèmes tels que StyleGAN3 et des modèles de diffusion plus récents, ont largement dépassé ces erreurs révélatrices. En conséquence, les chercheurs affirment que s’appuyer sur des défauts visuels n’est plus une stratégie efficace.
Au lieu de cela, les participants ont été formés pour juger six qualités perceptuelles que partagent souvent les visages de l’IA. Ceux-ci incluent une symétrie faciale inhabituellement parfaite, des caractéristiques hautement proportionnelles, une attractivité supérieure à la moyenne, des structures faciales d'apparence générique, une expression émotionnelle limitée et des visages étonnamment difficiles à retenir une fois que vous avez détourné le regard.
Les résultats ont été frappants. Avant la formation, les participants identifiaient correctement les visages générés par l’IA seulement environ 40 % du temps. Après environ une heure d'apprentissage guidé et d'exposition répétée à des visages réels et synthétiques, la précision a atteint près de 80 %. Une poignée de participants approchaient même des scores de détection parfaits. Plus important encore, leur confiance est devenue mieux alignée sur leurs performances réelles, ce qui, selon des recherches antérieures, manquait souvent.
Pourquoi repérer les visages de l'IA est plus important que jamais
Il ne s’agit plus simplement d’un simple exercice académique. La technologie Deepfake est déjà utilisée dans la fraude financière, les campagnes d’influence politique et les escroqueries à l’identité en ligne. La BBC souligne les estimations de Deloitte suggérant que les pertes dues à la fraude par deepfake grâce à l'IA aux États-Unis pourraient atteindre 40 milliards de livres sterling l'année prochaine, soit une forte hausse par rapport aux 12 milliards de livres sterling environ en 2023. Elle fait également référence à un cas largement rapporté à Hong Kong dans lequel des escrocs auraient utilisé un appel vidéo deepfake pour convaincre un employé de transférer 25 millions de livres sterling. Dans le même temps, une enquête antérieure d’Associated Press a révélé un profil LinkedIn généré par l’IA qui a réussi à infiltrer les cercles politiques américains.
L’étude met également en évidence un autre problème important : les systèmes d’IA restent moins fiables pour générer des visages plus âgés, des visages plus jeunes et des personnes issues de groupes ethniques sous-représentés en raison de biais dans leurs données d’entraînement. Ces imperfections peuvent encore fournir des indices utiles aux observateurs humains.
Le point le plus intéressant à retenir est peut-être que le cerveau humain semble apprendre un peu comme l’IA elle-même. En voyant à plusieurs reprises des exemples de visages réels et faux, les gens développent progressivement un sentiment intuitif d'authenticité plutôt que de se fier à un seul cadeau. Les chercheurs pensent que l’instinct pourrait devenir l’un de nos outils les plus puissants à mesure que l’IA générative continue de s’améliorer.
L’ironie est difficile à ignorer. À mesure que l’intelligence artificielle parvient à mieux se faire passer pour des êtres humains, les humains devront peut-être commencer à s’entraîner comme le font les machines – grâce aux données, à la répétition et à la reconnaissance de formes. Les détecteurs d’IA pourraient continuer à s’améliorer, mais la recherche suggère qu’ils ne devraient pas être la seule défense. Le jugement humain a encore un rôle à jouer ; il a juste besoin d'une mise à niveau.
