La plupart d’entre nous obtiennent désormais nos informations à l’aide de chatbots IA et de moteurs de recherche. Même Google nous montre d'abord un résumé de l'IA avant de nous guider vers les sources à partir desquelles il a compilé les réponses.
Une nouvelle étude de Yale suggère que si les réponses générées par l’IA sont rapides, pratiques et faciles à lire, elles peuvent également influencer nos opinions. Daniel Karell, professeur adjoint de sociologie à Yale, et son équipe voulaient savoir si la lecture de résumés d'événements historiques écrits par l'IA aidait les gens à mieux apprendre que la lecture de résumés écrits par des humains.
Pour tester cela, les participants ont vu de courts résumés d'événements historiques, certains rédigés par des humains et d'autres par des outils d'IA comme ChatGPT, puis ont été interrogés sur ce dont ils se souvenaient.
Le résultat ? Les personnes qui lisent les résumés rédigés par l’IA répondent systématiquement correctement à davantage de questions.
L’IA est-elle simplement meilleure que les humains pour diffuser des informations ?
Karell attribue cela à la façon dont l'IA présente les informations. « C'est comme si le modèle prenait Wikipédia et le rendait plus lisible », a-t-il déclaré. Les résumés de l’IA étaient plus fluides, plus clairs et plus faciles à conserver, que les participants savaient ou non qu’ils lisaient du contenu généré par l’IA.
Cela signifie que même lorsqu’on a dit aux gens que le résumé avait été rédigé par l’IA, ils en ont quand même appris plus que de la version écrite par l’homme.
Cela devrait-il vous inquiéter ?
C’est ici que cela devient intéressant. Dans un article de suivi publié dans PNAS Nexus, les mêmes chercheurs ont découvert que les résumés de l'IA non seulement enseignent mieux, mais influencent également les opinions politiques.
Si le résumé d’AI avait une orientation libérale, les lecteurs repartaient avec des opinions plus libérales. Une orientation conservatrice a eu l’effet inverse. Les chercheurs pensent que cela se produit parce que l’IA ne se contente pas de présenter des faits, mais qu’elle les présente d’une manière qui semble plus logique et plus convaincante.
Les outils d’IA deviennent le moyen par défaut pour les gens d’en apprendre davantage sur l’histoire et l’actualité. Ce n'est pas nécessairement mauvais. Mais savoir que l’outil qui façonne ce que vous apprenez peut aussi façonner discrètement ce que vous pensez être quelque chose qui mérite d’être gardé à l’esprit.
Dans le même temps, les hallucinations de l’IA restent un problème important, et les résumés générés par l’IA peuvent être encore plus trompeurs pour les humains. Une étude menée par des chercheurs de l'Institut des sciences de l'information de l'USC a révélé que les systèmes d'IA peuvent exécuter des campagnes de propagande avec un minimum d'intervention humaine.
Si l’on ajoute à cela l’idée que l’IA peut être plus convaincante que les humains, il est effrayant de penser comment ces outils peuvent être utilisés pour manipuler la pensée et le raisonnement humains, nous guidant vers un monde plus fracturé.
