On demande aux parents qui publient des photos de leurs enfants en ligne de repenser cette habitude. La National Crime Agency du Royaume-Uni et l'Internet Watch Foundation ont publié de nouvelles directives exhortant les familles à verrouiller leurs comptes de réseaux sociaux, avertissant que les photos partagées publiquement sont de plus en plus extraites et modifiées par des outils d'IA pour créer du matériel d'abus sexuels sur des enfants.
Les deux organisations affirment que la plupart des parents n’ont aucune idée de ce qui se passe. Les criminels n’ont plus besoin de contacter directement un enfant pour générer ce type de matériel. Ils peuvent récupérer une photo ordinaire et l’exécuter via des applications nudify largement disponibles.
Ce que recommandent les orientations
La NCA et l'IWF ne disent pas aux parents d'arrêter complètement de publier des images de leurs enfants, selon The Guardian. Leurs conseils se concentrent sur la limitation du nombre de personnes pouvant voir ces photos en rendant les comptes de réseaux sociaux privés ou en partageant des images au sein d’une liste d’« amis proches ». Les parents sont également invités à vérifier sur leurs comptes les anciennes photos qui pourraient être utilisées à mauvais escient, y compris les photos publiées par des proches ou des amis.
Tim Wright, cadre supérieur de la NCA, a déclaré que les changements ne nécessitent que quelques actions simples. Lorna Sinclair, responsable de l'éducation sur les abus sexuels sur enfants à l'agence, a déclaré que de nombreux parents ne prennent pas ces mesures parce qu'ils ne réalisent pas que le problème existe en premier lieu.
L'ampleur du problème
L’IWF affirme que le matériel abusif généré par l’IA a augmenté de 14 % l’année dernière, avec plus de 8 000 images et vidéos confirmées identifiées rien qu’en 2025. Les cas incluent des tentatives de chantage contre des adolescents et des sites Web d'écoles ciblant spécifiquement des photos de visages d'élèves, faisant écho aux conclusions d'un rapport précédent sur la manière dont l'IA générative a mis à l'échelle les contenus abusifs en ligne.
Même le responsable technologique de l'IWF admet que ces conseils sont inconfortables à donner, car ils font peser le fardeau sur les familles plutôt que sur les plateformes ou les développeurs d'IA. En attendant que des garanties plus solides soient mises en place, le renforcement des paramètres de confidentialité pourrait être la seule véritable protection dont disposent les parents.
