Si vous pensiez qu’Apple et Google mettaient du temps à détecter les applications nuisibles sur leurs plates-formes, une nouvelle enquête suggère que le problème est bien pire que cela. Le Tech Transparency Project (TTP) a constaté que l'App Store et Google Play n'hébergent pas seulement des applications nudify. Leurs systèmes de recherche et de publicité dirigent activement les utilisateurs vers eux.
Les applications Nudify sont des outils d'IA qui peuvent supprimer numériquement les vêtements des photos de personnes réelles. Ils peuvent également générer des vidéos pornographiques ou créer des chatbots sexuellement explicites à l’image de quelqu’un. La partie effrayante ? 31 des applications trouvées par TTP ont été jugées adaptées aux mineurs.
Comment Apple et Google envoient les utilisateurs directement vers ces applications nudify
TTP a effectué des recherches en utilisant des termes tels que « nudify », « undress », « deepfake » et « AI NSFW » sur les deux magasins d'applications. Environ 40 % des 10 meilleurs résultats pour chaque terme renvoient à des applications susceptibles de rendre les femmes nues ou légèrement vêtues. Mais cela ne s'arrête pas aux résultats de recherche. Les deux plates-formes ont diffusé des publicités payantes pour les applications nudify dans ces résultats. Dans le cas de Google, cela comprenait un carrousel d'applications sponsorisées, dont certaines étaient ouvertement pornographiques.
La fonction de saisie semi-automatique a aggravé les choses. Lorsque TTP a tapé « AI NS » dans le champ de recherche de l’App Store, il a suggéré « image to video ai nsfw », ce qui a conduit à des applications plus nuancées dans les meilleurs résultats. Apple contrôle toutes les publicités sur son App Store et a une politique déclarée contre les publicités faisant la promotion de contenu pour adultes. Malgré cela, 3 des recherches sur l'App Store de TTP ont toujours renvoyé une annonce nudify comme tout premier résultat.
Pourquoi c'est un problème plus important que vous ne le pensez
Les applications identifiées dans les deux magasins ont été téléchargées 483 millions de fois et ont généré plus de 122 millions de dollars de revenus sur toute leur durée de vie. Apple et Google en prennent une part via des abonnements payants et des achats intégrés, ce qui, selon TTP, pourrait expliquer pourquoi l'application a été laxiste.
Après que TTP et Bloomberg ont signalé ces applications, Apple en a supprimé 15 et Google en a suspendu plusieurs autres. Cependant, les deux sociétés ont refusé d'expliquer comment ces applications avaient réussi l'examen ou pourquoi les classifications par âge permettaient aux mineurs de les télécharger.
Combien de temps avant qu’Apple et Google soient obligés d’agir ?
Le gouvernement britannique a commencé à proposer et à promulguer des lois contre les deepfakes explicites, et les États-Unis ont récemment enregistré leur première condamnation pénale en vertu d'une de ces lois. La pression exercée sur Apple et Google pour qu’ils agissent de manière plus décisive ne fera que croître.
Le propre bilan d'Apple en matière d'application de la loi fait déjà l'objet d'un examen minutieux. Une lettre obtenue par NBC News a révélé qu'Apple avait menacé en privé de retirer Grok de l'App Store en janvier à cause de deepfakes sexualisés, rejetant même le premier correctif de xAI comme étant insuffisant. Apple a finalement laissé Grok rester, mais avec des rapports comme celui-ci qui s'accumulent, les deux sociétés n'ont plus la possibilité de détourner le regard.
