Un réseau de comptes X pousse les applications AI nudify dans davantage de flux, offrant ainsi aux outils sujets aux abus une autre voie vers les utilisateurs pendant que les victimes se battent pour contenir les retombées.
Dans un rapport du Wall Street Journal, Matthew Patane, chercheur principal chez Graphika, a déclaré que certains services nudify sont promus via des comptes sociaux coordonnés qui réutilisent des formulations similaires. Un réseau comprenait 45 000 comptes X, avec des publications reposant sur des formulations indirectes et des visuels censurés pour éviter la modération.
Cette découverte exerce une nouvelle pression sur X et sur des sites tels que Undress AI, un service basé au Belize qui fait la publicité d'outils d'image explicites et taquine la création de vidéos payantes. Undress AI et X n'ont pas répondu aux demandes de commentaires.
Les promotions pour de telles applications sont si faciles à trouver. Nous avons utilisé des mots-clés aléatoires et trouvé des articles promotionnels tels que celui ci-dessous :
Comment se propagent les messages
Les comptes identifiés par Patane ne reposaient pas sur des descriptions brutales. Ils ont utilisé un langage simple et des références adoucies qui pourraient orienter les utilisateurs vers des outils nudifiés sans préciser chaque fonctionnalité.
Undress AI va également au-delà des images fixes. Son site Web propose une option de création vidéo à 59 € et permet aux utilisateurs de choisir des poses sexualisées, notamment se déshabiller et chevaucher. Il offre également des crédits lorsque les utilisateurs recrutent des amis.
Cette combinaison donne au service deux façons de se développer. Les publications codées peuvent attirer l'attention sur le site, et les crédits de parrainage donnent aux utilisateurs une raison intégrée d'attirer plus de personnes.
Qui est blessé lorsque les outils se propagent
Les victimes doivent souvent courir après les dégâts après qu'une image ait déjà bougé. Les cas signalés décrivent des images de nus fabriquées circulant sur Snapchat, dans les couloirs des écoles et sur les réseaux de pairs, les familles tentant de les supprimer tout en poussant les écoles ou la police à agir.
Un élève ciblé par un groupe de garçons dans l'Iowa a déclaré que des images réalisées avec Undress AI avaient été transmises à ses camarades de classe. Elle a ensuite opté pour des cours en ligne.
Le réseau X ajoute de l’ampleur à ce risque. Une seule photo téléchargée peut rapidement devenir une punition sociale, en particulier lorsque la promotion oriente davantage d'utilisateurs vers des outils conçus pour la manipulation d'images sexualisées.
Que devraient prouver les plateformes maintenant
X interdit largement les activités destinées à induire autrui en erreur, mais la promotion coordonnée de nudify crée un test d'application plus difficile. Les publications peuvent éviter les mots-clés évidents tout en orientant les utilisateurs vers des outils conçus pour une manipulation explicite.
Le prochain signal à surveiller est de savoir si les plateformes détectent ces campagnes avant qu’elles ne soient mises à l’échelle. Vous souhaiterez verrouiller les images personnelles dans la mesure du possible, signaler rapidement toute usurpation d'identité et enregistrer les preuves avant que les publications ne disparaissent.
