Une expérience d'un mois a soulevé de nouvelles inquiétudes quant à la fiabilité des outils d'IA générative en tant que sources d'information, après que le chatbot Gemini de Google a été découvert en train de fabriquer des médias entiers et de publier de faux rapports. Les résultats ont été rapportés pour la première fois par The Conversation, qui a mené l'enquête.
L’expérience a été menée par un professeur de journalisme spécialisé en informatique, qui a testé sept systèmes d’IA générative sur une période de quatre semaines. Chaque jour, les outils devaient répertorier et résumer les cinq événements d'actualité les plus importants au Québec, les classer par importance et fournir des liens directs vers des articles comme sources. Parmi les systèmes testés figuraient Gemini de Google, ChatGPT d'OpenAI, Claude, Copilot, Grok, DeepSeek et Aria.
L’échec le plus frappant a été celui de Gemini qui a inventé un média d’information fictif – exemplefictif.ca – et avoir fait état faussement d'une grève des chauffeurs d'autobus scolaires au Québec en septembre 2025. En réalité, la perturbation a été causée par le retrait des autobus Lion Électrique en raison d'un problème technique. Ce n’était pas un cas isolé. Sur les 839 réponses recueillies au cours de l’expérience, les systèmes d’IA citaient régulièrement des sources imaginaires, fournissaient des URL brisées ou incomplètes, ou déformaient des rapports réels.
Les résultats sont importants car un nombre croissant de personnes utilisent déjà des chatbots IA pour leurs actualités.
Selon le rapport sur l’actualité numérique du Reuters Institute, six pour cent des Canadiens comptaient sur l’IA générative comme source d’information en 2024. Lorsque ces outils hallucinent les faits, déforment les reportages ou inventent des conclusions, ils risquent de propager de la désinformation – en particulier lorsque leurs réponses sont présentées avec assurance et sans avertissements clairs.
Pour les utilisateurs, les risques sont pratiques et immédiats. Seulement 37 pour cent des réponses incluaient une URL source complète et légitime. Même si les résumés étaient tout à fait exacts dans moins de la moitié des cas, beaucoup n’étaient que partiellement corrects ou subtilement trompeurs. Dans certains cas, les outils d’IA ont ajouté des « conclusions génératives » non étayées, affirmant que les histoires avaient « relancé les débats » ou « mis en évidence des tensions » qui n’avaient jamais été mentionnées par les sources humaines. Ces ajouts peuvent sembler perspicaces, mais ils peuvent créer des récits qui n’existent tout simplement pas.
Les erreurs ne se limitaient pas à la fabrication
Certains outils ont déformé des faits réels, comme des informations erronées sur le traitement des demandeurs d'asile ou une identification incorrecte des vainqueurs d'événements sportifs majeurs. D’autres ont commis des erreurs factuelles fondamentales dans les données des sondages ou dans leur situation personnelle. Collectivement, ces problèmes suggèrent que l’IA générative a encore du mal à faire la distinction entre résumer l’actualité et inventer un contexte.
Pour l’avenir, les préoccupations soulevées par The Conversation s’alignent sur un examen plus large de l’industrie. Un rapport récent de 22 médias de service public a révélé que près de la moitié des réponses aux informations générées par l'IA contenaient des problèmes importants, allant de problèmes d'approvisionnement à des inexactitudes majeures. Alors que les outils d’IA sont de plus en plus intégrés dans les habitudes de recherche et d’information quotidiennes, les résultats soulignent un avertissement clair : lorsqu’il s’agit d’actualités, l’IA générative doit être traitée au mieux comme un point de départ – et non comme une source d’information fiable.
