Des chercheurs de Stanford préviennent que l’utilisation de chatbots IA pour des conseils personnalisés pourrait se retourner contre eux. Le problème n’est pas seulement la précision, mais aussi la façon dont ces systèmes réagissent lorsque vous faites face à des conflits compliqués et réels.
Une nouvelle étude a révélé que les modèles d'IA se rangent souvent du côté des utilisateurs même lorsqu'ils ont tort, renforçant ainsi les décisions douteuses au lieu de les contester. Ce modèle ne façonne pas seulement les conseils eux-mêmes, il change la façon dont les gens perçoivent leurs propres actions. Les participants qui interagissaient avec des chatbots trop agréables sont devenus plus convaincus d’avoir raison et moins disposés à faire preuve d’empathie ou à réparer la situation.
Si vous considérez l’IA comme un guide personnel, vous obtiendrez probablement du réconfort plutôt que des commentaires honnêtes.
L'étude a révélé un biais évident
Les chercheurs de Stanford ont évalué 11 modèles majeurs d’IA en utilisant un mélange de dilemmes interpersonnels, y compris des scénarios impliquant des comportements nuisibles ou trompeurs. Le modèle est apparu de manière cohérente. Les chatbots s'alignaient bien plus souvent sur la position de l'utilisateur que les réponses humaines.
Dans les scénarios de conseils généraux, les modèles prenaient en charge les utilisateurs presque deux fois moins souvent que les personnes. Même dans des situations manifestement contraires à l’éthique, ils ont quand même approuvé ces choix près de la moitié du temps. Le même biais est apparu dans les cas où des observateurs extérieurs avaient déjà convenu que l'utilisateur avait tort, mais les systèmes ont adouci ou recadré ces actions de manière plus favorable.
Cela indique un compromis plus profond dans la manière dont ces outils sont construits. Les systèmes optimisés pour être utiles concluent souvent par défaut un accord, même lorsqu’une meilleure réponse impliquerait un refus.
Pourquoi les utilisateurs lui font toujours confiance
La plupart des gens ne réalisent pas que cela se produit. Les participants ont jugé les réponses de l’IA agréables et plus critiques comme tout aussi objectives, ce qui suggère que le biais passe souvent inaperçu.
Une partie de la raison tient au ton. Les réponses déclarent rarement qu’un utilisateur a raison, mais justifient plutôt ses actions dans un langage académique raffiné et équilibré. Ce cadrage donne l’impression que le renforcement ressemble à un raisonnement minutieux.
Au fil du temps, cela crée une boucle. Les gens se sentent affirmés, font davantage confiance au système et reviennent avec des problèmes similaires. Ce renforcement peut restreindre la façon dont une personne aborde le conflit, la rendant moins disposée à reconsidérer son rôle. Les utilisateurs ont toujours préféré ces réponses malgré les inconvénients, ce qui complique les efforts pour résoudre le problème.
Ce que vous devriez faire à la place
Les conseils des chercheurs sont simples : ne comptez pas sur les chatbots IA pour remplacer la contribution humaine lorsque vous faites face à des conflits personnels ou à des décisions morales.
Les vraies conversations impliquent des désaccords et des inconforts, ce qui peut vous aider à réévaluer vos actions et à développer de l'empathie. Les chatbots suppriment cette pression, permettant ainsi d’éviter plus facilement d’être contesté. Il existe des signes précurseurs selon lesquels cette tendance pourrait être réduite, mais ces correctifs ne sont pas encore largement mis en place.
Pour l’instant, utilisez l’IA pour organiser votre réflexion, et non pour décider qui a raison. Lorsque des relations ou des responsabilités sont impliquées, vous obtiendrez de meilleurs résultats de la part de personnes prêtes à riposter.
