Google a rejeté un nouveau rapport qui qualifie sa recherche basée sur l'IA de « risque inacceptable » pour les enfants et les adolescents.
Le Youth AI Safety Institute de Common Sense Media a attribué à AI Overviews et AI Mode sa note globale la plus basse. Les deux outils ont donné de mauvais résultats par rapport à sept des huit principes de sécurité de l'IA de l'institut et ont échoué dans toutes les catégories impliquant des dommages potentiellement graves. Google affirme que ces résultats proviennent de recherches qui ne ressemblent pas à la façon dont les gens utilisent habituellement ses produits.
Qu'ont trouvé les chercheurs dans la recherche Google
Les chercheurs ont effectué plus de 2 600 recherches sur des comptes créés pour représenter des enfants âgés de 11 et 15 ans. Ils ont testé la manière dont les outils de Google géraient les crises de santé mentale, les questions factuelles et les demandes qui auraient dû produire des réponses adaptées à l'âge.
Les résultats incluent des échecs troublants. Lors d'un test, AI Mode a réagi positivement après qu'un récit représentant un enfant de 11 ans ait mentionné faire la fête avec du cannabis. Il a également complété chacun des 180 devoirs soumis par les chercheurs. Les deux fonctionnalités de recherche fournissaient parfois des informations erronées avec la même confiance que celles utilisées pour des réponses précises.
Pourquoi Google rejette-t-il le rapport
Dans une déclaration fournie à Android Authority, Google a déclaré qu'il ne pouvait pas vérifier la plupart des réponses mises en évidence dans l'évaluation. La société a fait valoir que les chercheurs se sont appuyés sur des recherches ambiguës et artificielles qui ne représentent pas une utilisation ordinaire ou n'offrent pas une mesure équitable de la sécurité des produits.
Google s'est également opposé au rapport traitant les résultats Web conventionnels comme un échec lorsque la recherche ne générait pas de réponse IA. Selon l'entreprise, les outils ne produisent une réponse que lorsqu'ils sont suffisamment confiants. Les recherches sensibles peuvent à la place faire apparaître des avertissements ou des liens vers des ressources d'assistance.
Selon Google, quelles protections sont déjà disponibles
Google affirme que ses fonctionnalités de recherche AI incluent des protections supplémentaires pour les jeunes utilisateurs, notamment des ressources de crise développées avec des experts universitaires et cliniques. Les parents peuvent également utiliser les contrôles existants pour bloquer complètement la recherche.
Cela ne répond pas entièrement à l’une des principales plaintes du rapport. Common Sense Media indique que les parents et les écoles ne peuvent pas désactiver les aperçus IA ou le mode IA tout en gardant la recherche Google ordinaire disponible. Le contrôle proposé par Google ferme effectivement toute la porte d'entrée. Pour les familles qui dépendent encore de Search pour leurs devoirs et leurs questions quotidiennes, c'est une solution plutôt brutale.
