Sam Altman veut que ChatGPT devienne épicé. OpenAI prévoit de publier un « mode adulte » qui permettrait aux utilisateurs d'avoir des conversations textuelles explicites avec le chatbot. Cela semble assez simple, mais le déploiement a été tout sauf fluide.
En octobre, Altman a annoncé sur X que la fonctionnalité serait lancée en décembre. Cependant, la publication a été retardée après qu'OpenAI ait déclaré que la société était confrontée à des problèmes de vérification de l'âge.
Un nouveau rapport du WSJ indique que cela pourrait n’être qu’une partie de l’histoire. Lorsque Sam Altman a fait cette annonce, il n’en avait pas informé son propre personnel. L’annonce a aveuglé les employés et les dirigeants d’OpenAI, et le lancement promis en décembre s’est rapidement effondré.
ChatGPT est-il réellement prêt pour cela ?
OpenAI a réuni un conseil consultatif composé de psychologues et de neuroscientifiques pour aider à guider le développement responsable de l'IA. Lorsque le conseil a découvert que l’entreprise allait de l’avant avec le mode adulte malgré leurs objections, il n’a pas été content.
Leur plus grande préoccupation était la dépendance émotionnelle excessive à l’égard du chatbot. Un membre du conseil a souligné des cas où des utilisateurs s’étaient suicidés après avoir noué des liens intenses avec l’IA et a averti qu’OpenAI risquait de créer un « coach suicide sexy ». C'est une phrase que personne ne s'attend à entendre nulle part, et pourtant nous y sommes.
Il y a aussi un problème plus pratique. Le système de vérification de l'âge qu'OpenAI a créé pour éloigner les mineurs des contenus pour adultes les classait à tort comme adultes dans environ 12 % du temps. Avec environ 100 millions d'utilisateurs de moins de 18 ans chaque semaine, cela représente potentiellement des millions d'enfants qui passent entre les mailles du filet chaque semaine.
Que se passe-t-il maintenant ?
OpenAI a retardé le lancement sans nouvelle date confirmée, affirmant qu'il lui fallait plus de temps pour affiner l'expérience. Lorsqu’il arrivera, la société prévoit de limiter le mode adulte au texte, sans génération d’images érotiques, de voix ou de vidéo.
La société a également déclaré qu'elle entraîne ses modèles pour décourager les utilisateurs d'établir des relations exclusives avec le chatbot et pour leur rappeler qu'ils doivent nouer des relations dans le monde réel. Reste à savoir si cela suffira à faire taire le chœur croissant des critiques internes et externes.
Personnellement, je souhaite que les modèles d’IA restent aussi éloignés que possible de la génération de contenu érotique jusqu’à ce que des mesures de protection actives soient mises en place. Nous avons déjà vu quels ravages Grok a créés lorsqu'il a permis aux utilisateurs de déshabiller n'importe qui. Nous ne voulons pas voir se répéter quelque chose de similaire ou pire.
