Ce qui s'est passé: Ainsi, la nouvelle encyclopédie alimentée par l’IA d’Elon Musk, Grokipedia, est déjà dans une situation délicate.
- Une nouvelle étude menée par des chercheurs de Cornell Tech vient de paraître, et elle est plutôt accablante. Ils disent que la plateforme regorge de références à des sources extrêmement peu fiables et biaisées.
- Grokipedia a été lancé le mois dernier par la société d'IA de Musk, xAI. Il était censé être un nouveau rival de Wikipédia – que Musk et d’autres accusent souvent d’avoir un parti pris libéral.
- Mais voici le plus intéressant : l'étude de Cornell a révélé que Grokipedia non seulement extrait une grande partie de son texte directement de Wikipédia, mais cite également des sources que Wikipédia lui-même a interdites parce qu'elles sont totalement indésirables.
- L’exemple le plus choquant qu’ils ont trouvé ? Grokipedia avait une entrée pour la théorie du complot « Clinton body count ». Et la source citée pour étayer cette affirmation longtemps réfutée ? Guerres d'informations. Oui, cette InfoWars.
Pourquoi est-ce important : Tout cela met en lumière un énorme problème avec ces nouveaux outils d’information de l’IA : ils ne semblent pas avoir de normes pour leurs sources.
- Selon l'étude, les articles sur Grokipedia qui n'étaient pas simplement copiés à partir de Wikipédia étaient plus de 3 fois plus susceptibles de citer une source peu fiable et 13 fois plus susceptibles d'utiliser une source figurant sur une liste noire.
- C'est vraiment une grosse affaire. Une plate-forme d'IA comme celle-ci peut évoluer et diffuser ce genre de contenu conspirationniste à des millions de personnes en une fraction de seconde, le tout sans qu'un seul éditeur humain ne le regarde.
Pourquoi devrais-je m'en soucier : Écoutez, nous commençons tous à compter sur les outils d'IA pour obtenir des informations rapides. Mais c'est là le danger.
- Lorsque vous demandez des informations à une IA, vous pourriez recevoir une forte dose de manipulations trompeuses et politiquement chargées, et vous n’en auriez aucune idée.
- Cela brouille la frontière entre un fait et juste… quelque chose que l'algorithme a inventé.
- De plus, il convient de noter que Musk contrôle désormais plusieurs et massives plateformes d'information – X (Twitter) et cette nouvelle société d'IA. Cela représente un grand contrôle sur ce que les gens voient et lisent.
Quelle est la prochaine étape : Musk, pour sa part, a déjà annoncé qu'il renommerait Grokipedia en « Encyclopedia Galactica », la qualifiant de « version science-fiction de la Bibliothèque d'Alexandrie ». (Oui, vraiment).
- Mais comme le soulignent les experts, vous pouvez l’appeler comme vous voulez. Sans responsabilité réelle et sans engagement à utiliser des sources réelles et dignes de confiance, cela ne sera qu'une machine à amplifier la désinformation, au lieu de la corriger.
- Pendant ce temps, la Fondation Wikimedia (les gens derrière Wikipédia) a publié une déclaration qui disait essentiellement : « Vous voyez ? C'est pourquoi nous nous en tenons à notre modèle ouvert et géré par la communauté. C'est le seul moyen d'instaurer la confiance. »
