Meta propose une nouvelle façon d'attraper les enfants qui mentent sur leur âge en ligne, et cela va bien au-delà de la simple vérification de ce qu'ils tapent.
La société a annoncé qu'elle utilise désormais l'analyse visuelle de l'IA pour numériser des photos et des vidéos sur Instagram et Facebook à la recherche d'indicateurs physiques de l'âge, notamment la taille et la structure osseuse. L'objectif de Meta est de rechercher et de supprimer les comptes appartenant à des utilisateurs de moins de 13 ans susceptibles de s'être inscrits avec un faux anniversaire.
Concrètement, comment fonctionne l’analyse visuelle ?
Meta a pris soin de préciser qu’il ne s’agit pas d’une reconnaissance faciale. L'IA n'identifie pas qui est quelqu'un. Au lieu de cela, il recherche des indices visuels généraux suggérant qu’une personne est jeune, comme ses proportions physiques, pour estimer une large tranche d’âge.
Cette analyse visuelle fonctionne parallèlement à la détection textuelle existante, qui recherche des indices contextuels tels que des mentions d'anniversaire, des références aux notes scolaires et des informations dans les biographies, les publications, les légendes et les commentaires. Meta prévoit également d'étendre cette analyse de texte aux Instagram Reels, Instagram Live et aux groupes Facebook.
Si un compte est signalé comme potentiellement mineur, il est désactivé. L'utilisateur doit ensuite vérifier son âge pour le récupérer, sinon le compte est définitivement supprimé. L'analyse visuelle est actuellement disponible dans certains pays et un déploiement plus large est prévu.
Que fait Meta d’autre pour la sécurité des adolescents ?
Meta étend également son système de comptes pour adolescents, qui place automatiquement les utilisateurs qu'il soupçonne avoir entre 13 et 15 ans dans une expérience de compte plus stricte. Cela signifie des comptes privés par défaut, des DM limités aux personnes qu'ils connaissent déjà et des commentaires nuisibles cachés.
Cette extension couvre désormais Instagram au Brésil et dans 27 pays de l'UE, suite à des restrictions de contenu antérieures calquées sur les classements de films. Aux États-Unis, Facebook l'obtient également pour la première fois, suivi du Royaume-Uni et de l'UE en juin. Meta a également donné aux parents une visibilité sur les discussions IA de leurs enfants dans le cadre de la même initiative plus large.
Ces mesures interviennent alors que Meta fait face à une pression juridique et réglementaire croissante sur la sécurité des enfants, notamment une amende de 375 millions de dollars au Nouveau-Mexique et une enquête de la Commission européenne visant à déterminer si ses plateformes en font suffisamment pour éloigner les enfants.
