Les géants de la technologie comme Meta, Google et X investissent massivement dans des outils d’IA conçus pour détecter les fausses nouvelles. Cela semble rassurant, mais selon une nouvelle étude de l'Université de Montréal, ces outils présentent de sérieux inconvénients qui se cachent derrière des chiffres de précision impressionnants.
La chercheuse doctorante Dorsaf Sallami a examiné les systèmes de détection des fausses nouvelles par l'IA et a constaté qu'ils ne vérifient rien. Ils calculent des probabilités en fonction de leurs données d'entraînement. Considérez-le moins comme un journaliste vérifiant une histoire que comme un miroir reflétant tout ce qui est montré, y compris les mêmes préjugés et angles morts.
Selon Dorsaf Sallami, un système qui atteint une précision de 95 % en laboratoire peut toujours échouer dans le monde réel, et cet écart constitue un problème sérieux.
Le problème des préjugés dont personne ne parle
Au-delà de la précision, Sallami a découvert que bon nombre de ces systèmes comportent des biais intégrés qui passent largement inaperçus. Certains modèles sont plus susceptibles de signaler les femmes comme sources de désinformation. D’autres ont un parti pris contre les sources non occidentales ou reproduisent des préjugés politiques.
Il existe également un problème plus profond lié à la manière dont ces systèmes sont formés. Ils s’appuient sur les labels d’organisations de vérification des faits, dont beaucoup manquent de transparence et dont certaines sont des entreprises à but lucratif. L’ensemble du système repose sur des fondations fragiles.
Ajoutez à cela la montée en puissance d’outils comme ChatGPT qui rendent la production de faux contenus plus facile que jamais, et les systèmes de détection formés il y a même quelques mois peuvent rapidement devenir obsolètes.
Une meilleure approche
La solution de Sallami est Aletheia, une extension de navigateur qui explique pourquoi un contenu peut être suspect plutôt que de simplement dire s'il est vrai ou faux. Lors des tests, il a atteint une fiabilité de 85 %, surpassant de nombreux outils existants. Ce qui le différencie, c'est sa philosophie. Au lieu de vous rendre un verdict et d'attendre que vous lui fassiez confiance, Aletheia montre son travail.
Il extrait les preuves des sources disponibles en ligne, les présente dans un langage simple et permet aux utilisateurs de prendre la décision finale. Il comprend même un flux en direct de vérifications de faits récentes et un forum communautaire où les utilisateurs peuvent partager et discuter des résultats. Le point à retenir est simple : l’IA doit faciliter votre jugement, et non le remplacer.
