TikTok a passé des années à perfectionner l’art de savoir exactement ce que vous voulez regarder ensuite. Ouvrez l'application, faites-la défiler plusieurs fois et tout à coup, elle diffuse des vidéos qui semblent étrangement adaptées à vos intérêts. Mais que se passe-t-il avant que TikTok découvre qui vous êtes ? Selon une nouvelle étude de la plateforme de montage vidéo Kapwing, la réponse est de plus en plus une erreur de l'IA.
L’étude a révélé que près de 60 % des vidéos diffusées sur un tout nouveau compte TikTok étaient du contenu généré par l’IA de mauvaise qualité. Il ne s’agit pas d’un problème de niche enfoui dans les coins obscurs de la plateforme. C’est la première impression que TikTok donne aux nouveaux utilisateurs avant même que l’algorithme ne commence à personnaliser leur flux. Et si cela semble inquiétant, les résultats concernant le contenu destiné aux enfants sont encore plus difficiles à ignorer.
L’ère de la malbouffe de l’algorithme
Le moteur de recommandation de TikTok est conçu pour s'adapter rapidement. La plate-forme examine tout, des likes et des suivis à l'heure de visionnage et aux habitudes de défilement, avant de décider quoi vous montrer ensuite. Pour comprendre à quoi ressemble une expérience TikTok intacte, les chercheurs ont créé un nouveau compte et examiné les 500 premières vidéos diffusées sur la page Pour vous. Les résultats ont été surprenants : 294 de ces vidéos ont été classées comme des slops d’IA. Cela signifie qu’un nouvel utilisateur est plus susceptible de rencontrer des déchets générés par l’IA que du contenu créé par l’homme avant que TikTok ne dispose de données significatives sur ses préférences.
La façon dont TikTok se compare aux autres plateformes est peut-être encore plus révélatrice. Kapwing a déjà mené une expérience similaire sur YouTube Shorts et a trouvé beaucoup moins d'encombrement généré par l'IA. TikTok n'était pas seulement pire, il était dramatiquement pire. À ce stade, le contenu de l’IA ne se contente pas de s’infiltrer dans la plateforme. Cela fait désormais partie de l’esthétique par défaut de la plateforme. Et c’est peut-être là la vraie histoire. Pour de nombreux utilisateurs, en particulier les plus jeunes, les vidéos générées par l’IA ne sont plus une bizarrerie occasionnelle. Ils deviennent normaux.
Sesame Street rencontre l'étrange vallée
La section la plus alarmante du rapport se concentre sur les contenus destinés aux enfants. Les chercheurs ont découvert que plus de la moitié des vidéos de la catégorie Enfants de TikTok étaient qualifiées de « slop » générées par l’IA. Un hashtag en particulier, #CartoonKids, a été presque complètement dépassé par le matériel généré par l'IA, avec seulement une poignée de vidéos semblant avoir été réalisées par des humains. Quiconque est tombé sur ces vidéos reconnaîtra immédiatement la formule : des personnages de dessins animés familiers apparaissent dans des scénarios bizarres, les leçons pédagogiques sont truffées d'erreurs, les personnages parlent avec des voix synthétiques troublantes, les animations changent et se transforment d'une manière qui n'a pas vraiment de sens.
Le contenu ressemble souvent à première vue à des émissions pour enfants, mais s'effondre dès que vous y prêtez attention. C'est ce qui rend les choses troublantes. Les jeunes enfants ne sont pas équipés pour faire la distinction entre un contenu éducatif de haute qualité et une imitation générée par l’IA qui présente avec assurance des informations incorrectes. Une leçon de comptage qui donne des chiffres erronés peut paraître ridicule à un adulte, mais un enfant d'âge préscolaire n'a pas le même contexte. Internet a toujours eu des contenus douteux pour les enfants. Ce qui a changé, c'est l'échelle. L'IA générative permet la création de flux infinis de vidéos à un rythme qu'aucun créateur humain ne pourra jamais égaler. Et le système de recommandation de TikTok semble plus que disposé à les diffuser.
Le problème s'étend également au-delà du contenu destiné aux enfants. L’étude a révélé que les vidéos éducatives, scientifiques, sur la santé et l’histoire figuraient parmi les catégories les plus fortement touchées par les dérives de l’IA. C’est particulièrement regrettable car ce sont précisément les sujets où la précision compte le plus. Il est assez facile de faire défiler un sketch comique mal généré. Une leçon d’histoire remplie de détails fabriqués ou une vidéo sur la santé présentant des conseils trompeurs est une tout autre histoire. Pour être honnête, tous les créateurs utilisant l’IA ne produisent pas des déchets. Certains créateurs expérimentent des présentateurs et des visuels générés par l'IA pour rendre les sujets éducatifs plus attrayants. Dans le meilleur des cas, l’IA fonctionne comme un outil qui soutient le travail du créateur plutôt que de le remplacer. Mais le rapport met en évidence une réalité croissante sur les réseaux sociaux : les incitations récompensent souvent le volume plutôt que la qualité. Si un créateur peut générer des dizaines de vidéos dans le temps qu’il fallait pour en réaliser une, les plateformes sont inondées de contenus techniquement regardables mais offrant très peu de substance.
TikTok semble conscient que les utilisateurs en ont assez. La société a introduit des contrôles qui permettent aux utilisateurs de réduire la quantité de contenu généré par l’IA qu’ils voient et a investi dans des initiatives d’alphabétisation en matière d’IA. Pourtant, les recherches suggèrent que ces efforts pourraient avoir du mal à suivre le rythme des inondations. L’ironie est que les médias sociaux sont devenus populaires parce qu’ils offraient quelque chose de distinctement humain : la créativité, la personnalité, l’expertise et la connexion. L’IA peut étonnamment bien imiter toutes ces choses. Mais l’imitation n’est pas la même chose que l’authenticité. Alors que près de six vidéos sur dix vues par un nouvel utilisateur sont générées par l’IA, la question n’est plus de savoir si le slop de l’IA existe sur TikTok. La question est de savoir si c’est devenu une caractéristique déterminante de la plateforme. Et pour une génération d’enfants qui grandissent avec ces aliments, cette réponse compte plus que jamais.
