Un journaliste de la BBC a récemment réalisé une expérience idiote pour prouver un point très sérieux. En seulement 20 minutes, il a manipulé ChatGPT et Google pour qu'ils disent au public qu'il était un champion du monde de compétition de hot-dogs.
Ce qui est effrayant, c'est qu'il n'a pas eu besoin de faire quelque chose de techniquement difficile pour y parvenir. Tout ce qu’il a fait, c’est publier un seul article de blog bien conçu sur son site Web personnel, et l’IA l’a pris comme source de vérité.
Cela faisait partie d'une enquête qui a révélé que ChatGPT, Gemini et les aperçus de l'IA de Google étaient manipulés pour fournir des réponses biaisées sur des sujets aussi sérieux que votre santé et vos finances personnelles.
Les experts affirment que ce type de manipulation se produit à un niveau généralisé et systémique, et que des entreprises sans scrupules en abusent pour diffuser des conseils de santé trompeurs, des informations financières biaisées, etc.
Comment cela marche-t-il?
Lorsque vous posez une question à un chatbot IA, il recherche parfois une réponse sur Internet plutôt que de s’appuyer sur ses connaissances intégrées. C'est là que le problème commence. Selon les experts SEO, les outils d’IA extraient souvent des informations d’une seule page Web ou d’une publication sur les réseaux sociaux, ce qui les rend faciles à tromper.
« Vous devez supposer que vous êtes manipulé jusqu'à ce qu'ils aient de meilleurs systèmes en place », explique Lily Ray, fondatrice du cabinet de conseil en recherche en IA Algorythmic. « L'IA ne vous donne qu'une seule réponse. Il devient si facile de prendre les choses au pied de la lettre. »
Lors de son événement Google I/O 2026, Google s'est concentré sur la présentation de son moteur de recherche IA qui remplacera à terme la recherche Google que nous avons utilisée au cours des deux dernières décennies. Voyant à quel point il est facile de le tromper en lui faisant fournir des réponses incorrectes, je m'en méfie plus que jamais.
Est-ce que quelqu'un répare ça ?
Suite à l'enquête de la BBC, Google a mis à jour ses politiques anti-spam pour confirmer que les tentatives de manipulation des réponses de l'IA enfreignent ses règles. Les sites Web surpris en train de faire cela pourraient être entièrement supprimés ou rétrogradés de la recherche Google. Dans les coulisses, il y a également des signes que Google et ChatGPT suppriment discrètement le contenu auto-promotionnel des réponses de l'IA.
Cela dit, Ray a fait le même coup cette semaine, laissant cette fois-ci croire à Google que son ami est le meilleur dans la construction de châteaux de sable, et Google a encore craqué, donc il est clair qu'il y a encore du travail à faire.
En attendant que de meilleurs systèmes soient en place, les conseils des experts sont simples : ne prenez pas les réponses de l'IA au pied de la lettre, en particulier pour tout ce qui concerne votre santé, vos finances ou vos décisions importantes.
