La société mère de Grammarly, Superhuman, a mis fin à sa fonction Expert Review après que des auteurs ont découvert que l'IA générait des suggestions soi-disant « inspirées par » leur travail publié, à leur insu ou sans leur consentement.
La fonctionnalité, lancée en août, utilisait des LLM tiers pour faire apparaître des suggestions d'écriture inspirées d'écrivains et d'experts influents. Le problème ? Ces experts ne savaient pas que leurs travaux étaient utilisés de cette façon.
Grammarly a-t-il réellement demandé à quelqu'un ?
Non, Grammarly n'a pas obtenu la permission des personnes dont les portraits ont été utilisés comme références d'experts. Alors que d'autres sociétés d'IA récupèrent également des données de bibliothèques en ligne et de sites Web sans demander explicitement la permission, elles n'ont au moins pas utilisé l'image de qui que ce soit de manière aussi flagrante. C’est là que Grammarly a déraillé.
La réaction a commencé après que le rédacteur en chef de The Verge et plusieurs membres du personnel ont découvert que leurs noms étaient utilisés comme références de style dans l'outil. Comme prévu, ils n’étaient pas contents. La réponse initiale de Superhuman a été de lancer une boîte de réception de courrier électronique de désinscription pour les écrivains concernés, mais même cela n'a pas suffi à calmer les choses.
Désormais, la société a complètement désactivé la fonctionnalité. « D'après les commentaires que nous avons reçus, nous avons clairement raté le but. Nous sommes désolés et ferons les choses différemment à l'avenir », a déclaré Ailian Gan, directrice de la gestion des produits chez Superhuman.
Qu'est-ce qui vient ensuite ?
Le PDG de Superhuman, Shishir Mehrotra, s'est adressé à LinkedIn pour s'excuser et présenter une vision plus volontaire de l'avenir : une vision dans laquelle les experts peuvent choisir de participer et même de construire un modèle commercial autour de celle-ci.
Il a déclaré : « Pour les experts, c'est l'occasion de créer le même lien omniprésent avec les utilisateurs, un peu comme Grammarly l'a fait. Mais dans ce monde, les experts choisissent de participer, de façonner la manière dont leurs connaissances sont représentées et de contrôler leur modèle commercial. »
C'est une idée intéressante, mais le mal est déjà fait. Demander pardon plutôt que la permission est rarement une bonne idée, surtout lorsque les personnes que vous vous faites passer sont des journalistes.
