Si vous vous demandez quand ChatGPT pourrait commencer à gérer des conversations plus épicées, OpenAI a une certaine clarté pour vous. Selon le Wall Street Journalla société prévoit de laisser les adultes générer des échanges de textes érotiques tout en interdisant fermement les images explicites et les clones de voix. ou du contenu vidéo. Un porte-parole a décrit la fonctionnalité prévue comme du charbon plutôt que de la pornographie, signalant une tentative prudente d'offrir des interactions plus racées sans transformer le chatbot en une plate-forme de divertissement pour adultes à part entière.
Le déploiement a cependant pris du retard. OpenAI a récemment repoussé le mode adulte, initialement prévu pour le premier trimestre, en invoquant des obstacles techniques et des débats internes sur la sécurité. Un point de friction majeur concerne l’exclusion des mineurs. Le nouveau système de prévision de l'âge de l'entreprise classifiait à tort environ 12 % des utilisateurs de moins de 18 ans comme adultes, une faille qui aurait pu permettre à des millions de jeunes utilisateurs d'accéder à des chats érotiques.
L'art délicat de tracer des lignes
OpenAI détermine ces limites depuis des années, bien avant que ChatGPT n'existe. En 2021, les dirigeants ont remarqué qu'AI Dungeon, un jeu d'aventure textuel fonctionnant sur la plate-forme OpenAI, poussait parfois les utilisateurs dans des scénarios sexuels violents sans aucune incitation. D’autres fois, l’IA transformait des échanges apprivoisés en conversations sexuelles beaucoup plus intenses.
Ces premiers incidents ont révélé une réalité confuse. Les outils de modération de contenu de l'entreprise étaient des instruments grossiers, incapables de séparer de manière fiable le contenu érotique grand public du matériel impliquant des actes non consensuels ou l'exploitation d'enfants.
L’approche actuelle tente d’enfiler cette aiguille en autorisant les conversations entre adultes contenant uniquement du texte tout en maintenant une interdiction stricte de générer des images, des vidéos ou des voix explicites.
Pourquoi OpenAI se sent obligé de proposer des chats pour adultes
L'avancée de l'entreprise dans les conversations entre adultes arrive à un moment difficile. L'avantage technologique d'OpenAI sur des concurrents comme xAI et Anthropic s’est rétréci et fait face à des pertes financières croissantes tout en étant en concurrence pour les utilisateurs et le financement. Sam Altman a suggéré que le contenu explicite stimulerait probablement la croissance et générerait des revenus supplémentaires, une perspective tentante compte tenu de la pression.
Le PDG a cependant exprimé publiquement des sentiments contradictoires. Lors d'un podcast en août dernier, on a demandé à Altman s'il avait pris des décisions qui étaient les meilleures pour le monde mais pas pour gagner. Il a reconnu que l'érotisme stimulerait la croissance, mais a déclaré que cela ne correspondrait pas à l'objectif à long terme de l'entreprise de bien servir les utilisateurs.
Deux mois plus tard, Altman semblait faire marche arrière. Il a publié sur X qu'OpenAI avait résolu de graves problèmes de santé mentale liés aux chatbots et disposait de nouveaux outils de contenu, annonçant son intention de lancer le mode adulte en décembre.
Que se passe-t-il ensuite avec le mode adulte
OpenAI a clairement indiqué que le mode adulte arriverait éventuellement, malgré le retard. L'entreprise a embauché des experts en santé mentale et constitué une équipe de bien-être des jeunes pour surveiller les effets à long terme une fois le mode adulte lancé. Il forme également ses modèles à ne pas encourager des relations exclusives avec les utilisateurs et à leur rappeler qu'ils ont besoin de connexions avec le monde réel.
Pour l’instant, les utilisateurs curieux de connaître les conversations ChatGPT pour adultes devront attendre. L'entreprise donne la priorité à d'autres fonctionnalités telles que les ajustements de personnalité et la personnalisation pendant qu'elle surmonte les obstacles restants.
