L'application d'IA autonome de Meta serait inondée d'appâts à clics de mauvaise qualité, de fausses histoires émotionnelles et de contenu d'appât d'engagement, soulevant de nouvelles questions sur la manière dont les plateformes d'IA génératives sont modérées à mesure qu'elles deviennent de plus en plus sociales et destinées au public.
Selon un rapport de Verge, les utilisateurs du fil de découverte sociale de Meta AI ont été confrontés à d'étranges publications générées par l'IA, allant de confessions personnelles fabriquées à des allégations trompeuses sur la santé et à des scénarios fictifs bizarres conçus pour attirer des réactions et des partages. Le problème semble lié à la décision de Meta de rendre les conversations et les invites générées par l'IA publiquement visibles dans l'application, transformant ainsi certaines parties de la plate-forme en un flux de contenu de type réseau social.
Le résultat, affirment les critiques, est un écosystème dans lequel les utilisateurs sont incités à générer du contenu d’IA de plus en plus scandaleux ou émotionnellement manipulateur pour attirer l’attention. Certaines publications ressembleraient aux tactiques classiques de Facebook clickbait, tandis que d'autres brouillent la frontière entre la satire, la désinformation et le spam généré par l'IA.
La poussée de Meta en faveur de l'IA sociale crée des conséquences inattendues
La situation met en évidence un défi croissant auquel sont confrontées les entreprises d’IA : que se passe-t-il lorsque les chatbots évoluent d’assistants privés vers des plateformes sociales où le contenu généré est partagé publiquement et fait surface de manière algorithmique ?
Meta a positionné de manière agressive l’IA comme une expérience sociale plutôt que comme un simple outil de productivité. Au lieu de limiter les interactions aux conversations privées, la plate-forme d'IA de l'entreprise encourage les utilisateurs à publier des invites, des images générées et des publications assistées par l'IA pour que d'autres puissent les parcourir et interagir.
Cette approche peut contribuer à stimuler l’engagement, mais elle crée également des problèmes de modération familiers avec lesquels les plateformes de médias sociaux sont aux prises depuis des années. Les rapports suggèrent que le flux Meta AI fait désormais apparaître des histoires chargées d’émotion, des conseils de vie douteux, des expériences fabriquées et des scénarios exagérés conçus principalement pour déclencher des réactions plutôt que de fournir des informations utiles.
Pour les utilisateurs, l’expérience peut vite devenir déroutante. Étant donné que de nombreuses publications sont générées ou assistées par l’IA, il peut devenir plus difficile de faire la distinction entre les expériences humaines authentiques, les blagues, les invites expérimentales et les récits entièrement fabriqués. Les critiques préviennent que cela pourrait contribuer à une érosion plus large de la confiance en ligne, d’autant plus que le contenu généré par l’IA devient plus réaliste et émotionnellement convaincant.
Ce problème reflète également une tendance plus large dans le secteur de l’IA, où les entreprises s’efforcent d’accroître l’engagement des utilisateurs tout en essayant d’établir des garde-fous efficaces autour du contenu généré. À mesure que les outils d’IA deviennent plus interactifs et socialement axés, les systèmes de modération ont du mal à suivre le rythme.
L’avenir des flux sociaux basés sur l’IA pourrait dépendre de la modération
Meta n'a pas positionné le flux comme un réseau social traditionnel, mais la plateforme se comporte de plus en plus comme tel. Les utilisateurs peuvent faire défiler les interactions de l'IA visibles publiquement, un peu comme en parcourant du contenu sur Instagram, Threads ou Facebook.
C’est important car les algorithmes de recommandation peuvent amplifier le contenu le plus attrayant, quelle que soit sa qualité ou sa précision. Si les publications sensationnelles ou trompeuses générées par l’IA attirent systématiquement l’attention, les plateformes peuvent involontairement récompenser la création de contenu de mauvaise qualité de la même manière que les médias sociaux ont historiquement récompensé l’indignation et les pièges à clics.
La controverse surgit alors que Meta continue d’intégrer l’IA dans son écosystème, notamment WhatsApp, Instagram, Facebook et les expériences d’IA autonomes. L'entreprise considère l'IA conversationnelle comme un élément majeur de l'expérience Internet future, mais les réactions négatives actuelles suggèrent que les utilisateurs et les régulateurs pourraient exiger des contrôles plus stricts sur la manière dont le contenu généré par l'IA est affiché et étiqueté.
Pour l'instant, le flux IA de Meta offre un premier aperçu de ce qui se passe lorsque l'IA générative entre en collision avec la dynamique des médias sociaux – et les résultats semblent déjà étonnamment familiers.
