Nous avons tous été là – les pouces en l’air, fixant un mot suggéré qui d’une manière ou d’une autre correspondait à ce que nous essayions de dire. Alors on le tape. Évidemment. Mais une nouvelle étude suggère que ces petits gestes pourraient faire plus que nous faire gagner quelques secondes.
Recherche de Cornell Tech, publiée cette semaine dans Avancées scientifiquesa découvert que les suggestions de saisie semi-automatique basées sur l'IA ne changent pas seulement la façon dont vous écrivez, mais elles poussent également la façon dont vous écrivez réellement. pense. Et vous ne le remarquerez même pas.
Qu’a réellement révélé la recherche ?
Les chercheurs ont mené deux expériences à grande échelle avec plus de 2 500 participants, leur demandant d’écrire de courts essais sur des sujets de société brûlants – pensez à la peine de mort, à la fracturation hydraulique, aux OGM, au droit de vote des criminels.
Certains participants ont reçu des suggestions de saisie semi-automatique secrètement conçues pour aller dans une certaine direction, générées à l'aide d'un grand modèle de langage des familles GPT-3 et GPT-4. D’autres n’ont rien reçu.
Le résultat ? Les gens qui écrivaient avec l’IA biaisée se sont progressivement habitués aux positions de l’IA. Non pas parce qu’ils étaient convaincus par des arguments. Pas parce qu’ils lisent quelque chose de convaincant. Tout simplement parce que leur téléphone n'arrêtait pas de finir leurs pensées à leur place.
Connaître l'astuce n'a pas non plus rompu le charme
Voici maintenant la partie qui devrait vous inciter à poser votre téléphone une seconde. Les chercheurs ont déclaré d’emblée à certains participants que l’IA avait un problème de biais – une sorte de clause de non-responsabilité « ne dites pas que nous ne vous avons pas prévenu ». Ensuite, ils ont essayé de débriefer les autres par la suite. Dans la plupart des études sur la désinformation, ces approches fonctionnent comme des vaccins mentaux. Cette fois, rien non plus.
« Leurs attitudes sur les problèmes ont encore changé », a déclaré l'auteur principal Mor Naaman, qui a également noté que la saisie semi-automatique avait explosé en ampleur : Gmail propose désormais d'écrire des e-mails entiers en votre nom.
Alors la prochaine fois que votre téléphone vous suggère de « soutenir totalement » quelque chose, jetez peut-être un deuxième coup d’œil à ce petit mot bleu. Votre opinion pourrait être sur le point de devenir celle de quelqu'un d'autre.
