De nouvelles recherches impliquant des scientifiques d'Anthropic et de l'ETH Zurich suggèrent que les systèmes modernes d'intelligence artificielle pourraient identifier les identités réelles derrière des comptes Internet prétendument anonymes. L'étude, publiée en prépublication sur arXiv, montre que les grands modèles linguistiques (LLM) peuvent être capables d'analyser l'activité en ligne et de relier des profils pseudonymes à des individus réels à grande échelle.
La recherche, intitulée Désanonymisation en ligne à grande échelle avec LLM, explore comment les agents d’IA peuvent automatiser le processus de désanonymisation – l’acte de connecter des comptes en ligne anonymes ou pseudonymes à des identités réelles. Traditionnellement, ce processus nécessitait d'importantes investigations manuelles de la part d'analystes qui effectuaient des recherches dans les publications, les styles d'écriture et les indices dispersés en ligne. Cependant, les chercheurs démontrent que les modèles d’IA modernes peuvent effectuer automatiquement bon nombre de ces étapes.
Dans l’étude, le système d’IA a analysé le texte public des plateformes en ligne et a extrait des signaux liés à l’identité tels que les intérêts personnels, les indices démographiques, le style d’écriture et les détails fortuits révélés dans les publications. L’IA a ensuite recherché des profils correspondants sur le Web et évalué si les indices correspondaient à des individus connus.
Pour tester la méthode, les chercheurs ont créé plusieurs ensembles de données avec des identités connues sur le terrain.
Une expérience a tenté de faire correspondre les utilisateurs de Hacker News avec leurs profils LinkedIn, même après avoir supprimé les identifiants évidents tels que les noms et les noms d'utilisateur. Un autre ensemble de données impliquait de relier des comptes Reddit pseudonymes à travers différentes communautés. Un troisième ensemble de données a divisé l'historique des publications d'un seul utilisateur en deux profils distincts pour voir si l'IA pouvait identifier qu'ils appartenaient à la même personne.
Les résultats ont montré que les systèmes basés sur LLM surpassaient considérablement les techniques de désanonymisation traditionnelles. Dans certains cas, les modèles ont atteint un taux de rappel allant jusqu'à 68 % avec une précision d'environ 90 %, ce qui signifie que l'IA a correctement identifié de nombreux comptes tout en maintenant des taux d'erreur relativement faibles. Les méthodes conventionnelles dans les mêmes expériences ont obtenu un succès proche de zéro.
Les chercheurs affirment que les résultats montrent comment l’IA peut reproduire des tâches qui nécessitaient autrefois des heures de travail de la part des enquêteurs humains. Un système d’IA peut extraire automatiquement les caractéristiques liées à l’identité du texte, rechercher des correspondances potentielles parmi des milliers de profils et déterminer quel candidat est le plus susceptible d’avoir raison.
Cette évolution est significative car l’anonymat a longtemps été considéré comme une protection de base pour de nombreux internautes.
Les comptes pseudonymes sont largement utilisés par les journalistes, les lanceurs d’alerte, les militants et les particuliers qui souhaitent discuter de sujets sensibles sans révéler leur véritable identité.
L’étude suggère que cette couche de protection – parfois appelée « obscurité pratique » – pourrait s’affaiblir à mesure que les systèmes d’IA parviennent mieux à connecter les indices numériques entre les plateformes. Si les outils automatisés pouvaient effectuer ce travail rapidement et à moindre coût, les obstacles à l’identification des utilisateurs anonymes pourraient être considérablement réduits.
Les chercheurs estiment que le coût de l’identification d’un compte en ligne à l’aide de leur pipeline expérimental pourrait se situer entre 1 et 4 dollars par profil, ce qui signifie que des enquêtes à grande échelle pourraient être menées à un coût relativement bas.
Cependant, les auteurs notent également que la recherche a été menée dans des environnements contrôlés à l’aide de données publiques. L'article n'a pas encore été évalué par des pairs et les chercheurs ont intentionnellement caché certains détails techniques afin de réduire le risque d'utilisation abusive.
Malgré cela, les résultats ont déjà suscité un débat parmi les experts et technologues en matière de protection de la vie privée.
Les travaux suggèrent que les individus pourraient devoir repenser la quantité d’informations personnelles qu’ils révèlent en ligne, même dans des espaces qui semblent anonymes. Pour l’avenir, les chercheurs affirment que des travaux supplémentaires sont nécessaires pour comprendre à la fois les risques et les défenses possibles contre la désanonymisation basée sur l’IA. Les solutions potentielles pourraient inclure des outils de confidentialité améliorés, des protections de plateforme plus strictes ou des systèmes d’IA conçus pour anonymiser les données sensibles avant qu’elles ne soient partagées publiquement.
Alors que l’intelligence artificielle devient de plus en plus capable d’analyser d’énormes volumes de contenu en ligne, l’étude met en évidence un défi croissant : équilibrer la puissance de la découverte basée sur l’IA avec la nécessité de protéger la vie privée à l’ère numérique.
