Nous avons tendance à considérer l’Apple App Store et le Google Play Store comme des « jardins clos » numériques – des espaces sûrs et organisés où les contenus dangereux ou louches sont filtrés bien avant qu’ils n’atteignent nos écrans. Mais une nouvelle analyse sombre du Tech Transparency Project (TTP) suggère que les murs présentent de sérieuses fissures. Le rapport révèle une réalité inquiétante : les deux principales vitrines sont actuellement infestées de dizaines d’applications « nudify » alimentées par l’IA. Ce ne sont pas des outils obscurs cachés sur le dark web ; ils sont là, à l'air libre, permettant à quiconque de prendre une photo innocente d'une personne et de lui retirer numériquement ses vêtements sans son consentement.
Plus tôt cette année, les discussions autour de cette technologie ont atteint leur paroxysme lorsque l'IA d'Elon Musk, Grok, a été surprise en train de générer des images sexualisées similaires sur la plateforme X. Mais si Grok est devenu le paratonnerre de l'indignation du public, l'enquête du TTP montre que ce n'était que la pointe de l'iceberg. Une simple recherche de termes comme « se déshabiller » ou « nudifier » dans les magasins d’applications fait apparaître une longue liste de logiciels spécialement conçus pour créer de la pornographie deepfake non consensuelle.
L'ampleur de cette industrie est franchement stupéfiante
Nous ne parlons pas de quelques développeurs malhonnêtes qui passent entre les mailles du filet. Selon les données, ces applications ont collectivement accumulé plus de 700 millions de téléchargements. Ils ont généré un chiffre d'affaires estimé à 117 millions de dollars. Et voici la vérité inconfortable : comme Apple et Google prélèvent généralement une commission sur les achats et les abonnements intégrés, ils profitent en réalité de la création d’images sexuelles non consensuelles. Chaque fois que quelqu’un paie pour « déshabiller » la photo d’un camarade de classe, d’un collègue ou d’un étranger, les géants de la technologie obtiennent leur part.
Le coût humain de cette technologie ne peut être surestimé. Ces outils transforment les photos ordinaires en armes. Un selfie d’Instagram ou une photo d’un annuaire peuvent être transformés en matériel explicite utilisé pour harceler, humilier ou faire chanter les victimes. Les groupes de défense crient à ce sujet depuis des années, avertissant que la « nudification de l’IA » est une forme de violence sexuelle qui cible de manière disproportionnée les femmes et, ce qui est terrifiant, les mineurs.
Alors pourquoi sont-ils toujours là ?
Apple et Google ont tous deux des politiques strictes sur papier qui interdisent les contenus pornographiques et exploiteurs. Le problème, c'est l'application. C'est devenu un jeu numérique de Whac-A-Mole. Lorsqu'un rapport très médiatisé est publié, les entreprises peuvent interdire quelques applications spécifiques, mais les développeurs se contentent souvent de modifier le logo, de modifier légèrement le nom et de télécharger à nouveau exactement le même code une semaine plus tard. Les systèmes d’évaluation automatisés semblent totalement incapables de suivre l’évolution rapide de l’IA générative.
Pour les parents et les utilisateurs quotidiens, c’est un signal d’alarme. Nous ne pouvons plus supposer qu’une application simplement parce qu’elle se trouve sur une boutique « officielle » est sûre ou éthique. À mesure que les outils d’IA deviennent plus puissants et plus faciles d’accès, les protections sur lesquelles nous nous appuyions dans le passé échouent. Jusqu’à ce que les régulateurs interviennent – ou jusqu’à ce qu’Apple et Google décident de donner la priorité à la sécurité plutôt qu’aux frais de commission – nos ressemblances numériques resteront inconfortablement vulnérables.
