Une nouvelle étude de l’Université du Colorado à Boulder confirme quelque chose qui semble à la fois impressionnant et inquiétant. Les gens trouvent profondément significative l’interaction avec les simulations d’IA de leurs proches décédés, et la plupart repartiront avec l’envie de recommencer.
Les chercheurs l’appellent un « fantôme génératif », ce qui fait clairement référence à l’IA générative, mais je préfère quand même le qualifier de déstabilisant.
Alors, qu’a réellement révélé l’étude ?
Le doctorant Jack Manning et le professeur agrégé Jed Brubaker ont recruté 16 participants âgés de 22 à 50 ans, qui avaient tous perdu un proche.
Au cours de sessions Zoom individuelles, un deuxième chercheur a discrètement utilisé un LLM pour construire un fantôme du défunt (en temps réel) à partir des détails fournis par le participant, une réincarnation basée sur l'IA, si vous voulez.
Chaque participant a discuté avec deux versions du fantôme génératif : une qui parlait à la première personne (« Je me souviens d'être allés à la plage ensemble ») et une qui utilisait la troisième personne (« Elle adorait aller à la plage avec toi », où vous êtes le participant).
Les participants ont unanimement préféré la « réincarnation » à la première personne au « représentant » à la troisième personne, ce qui, je l'avoue, est la partie que je trouve la plus troublante.
Alors, qui les construit et pourquoi est-ce important ?
De petites inexactitudes factuelles ont été pardonnées lors de l’interaction. Cependant, les termes d’affection erronés ne l’étaient pas. Par exemple, lorsque le fantôme d'un beau-père a traité son beau-fils de « champion », un mot qu'il n'avait jamais utilisé, le participant a failli mettre fin à la séance.
Il s'agit de la première recherche sur l'expérience utilisateur sur les fantômes de l'IA, publiée par l'Association for Computing Machinery (via CU Boulder). Et si vous ne le savez pas déjà, des services commerciaux comme Project December et HereAfterAI vendent déjà des fantômes d'IA en tant que produit.
Les propres participants à l'étude ont signalé une préoccupation importante. Alors que tout le monde disait qu'il utiliserait à nouveau un fantôme, presque toutes les personnes qui craignaient d'en devenir dépendantes après avoir perdu un être cher. Le laboratoire a déjà lancé une étude de suivi auprès de professionnels de la santé mentale pour évaluer les avantages psychologiques et les risques des interactions fantômes génératives.
