Une nouvelle étude suggère qu’une connexion émotionnelle avec l’IA peut sembler plus forte qu’une conversation humaine, si la conversation est conçue pour devenir rapidement personnelle. Dans les échanges en ligne structurés, les gens ont parfois déclaré se sentir plus proches des réponses écrites par l’IA que des réponses écrites par de vrais humains.
Des chercheurs des universités de Fribourg et de Heidelberg ont mené deux études randomisées en double aveugle auprès de 492 participants, en utilisant une version texte de 15 minutes de la procédure Fast Friends, un format conçu pour accélérer les liens avec un étranger.
Le problème, c'est la perception. L’effet le plus fort s’est manifesté lorsque l’IA a été présentée comme humaine, et il s’est estompé lorsque les gens ont cru qu’ils parlaient à l’IA.
Ils ont testé l'intimité en 15 minutes
Les participants ont répondu à une séquence chronométrée de questions qui sont progressivement devenues plus personnelles. Après chaque invite, une réponse de chat apparaissait, soit générée par un grand modèle de langage jouant un personnage fictif cohérent, soit écrite par une personne réelle ayant répondu à la même série de questions.
Dans la première étude, tout le monde pensait que l’interlocuteur était humain, même si ce n’était pas le cas. Dans les invites les plus personnelles, les scores de proximité étaient plus élevés après les réponses de l’IA qu’après les réponses humaines. Les bavardages n’ont pas eu le même impact.
Dites aux gens que c'est l'IA et le lien s'affaiblit
La deuxième étude a testé ce qui changeait lorsque les gens pensaient que le partenaire de discussion était l'IA. La connexion n’a pas disparu, mais les scores de proximité ont chuté sous l’étiquette IA par rapport à l’étiquette humaine.
L’effort a également chuté. Les gens ont écrit des réponses plus courtes lorsqu’ils pensaient que l’autre côté était l’IA, et les réponses plus longues étaient globalement plus proches. Cela indique un manque de motivation, et non un manque de langage émotionnel.
Le plus sombre, c'est comment ça se passe
Le journal ne prétend pas que l’IA ressent quoi que ce soit. Il montre comment un système peut produire une expérience de proximité et relie cette stimulation à la révélation de soi. Dans les échanges plus personnels, l’IA avait tendance à partager davantage de détails personnels, et une plus grande divulgation de soi du partenaire prédisait une plus grande proximité ressentie.
C'est le risque et l'attrait. Un robot compagnon réglé pour la chaleur peut déclencher des signaux de liaison familiers rapidement et à grande échelle, surtout s'il est présenté comme une personne. Pourtant, il s’agissait uniquement de texte, limité dans le temps et construit autour d’un script de liaison, donc cela ne prouve pas que le même effet se produit dans des relations désordonnées à long terme. Si vous utilisez un chatbot pour l'assistance, choisissez-en un qui révèle de quoi il s'agit et gardez une option humaine à proximité.
