Un nouveau rapport du Fonds pour l'éducation du Public Interest Research Group (PIRG) des États-Unis a soulevé des inquiétudes quant à l'utilisation croissante de chatbots à intelligence artificielle dans les jouets pour enfants, avertissant que certains de ces systèmes pourraient ne pas convenir aux jeunes utilisateurs. Selon le rapport, plusieurs jouets basés sur l'IA intègrent une technologie de chatbot qui peut générer des réponses similaires à celles utilisées dans les services d'IA destinés aux adultes, exposant potentiellement les enfants à des contenus inappropriés ou trompeurs.
L’étude a examiné une gamme de jouets intégrant des fonctionnalités d’IA conversationnelle, notamment des poupées interactives, des robots et des gadgets éducatifs. Beaucoup de ces produits permettent aux enfants de parler avec un jouet qui répond en langage naturel, alimenté par de grands modèles de langage similaires à ceux utilisés dans les chatbots IA largement disponibles.
Bien que la technologie puisse rendre les jouets plus interactifs et éducatifs, les chercheurs du PIRG affirment que les garanties intégrées à certains produits ne sont peut-être pas suffisamment solides pour protéger un public plus jeune. En particulier, le rapport souligne que les systèmes d’IA sous-jacents proviennent souvent de plates-formes conçues principalement pour les utilisateurs généraux plutôt que pour les enfants.
Pour cette raison, les réponses de l’IA générées par ces jouets pourraient potentiellement inclure des informations ou des thèmes de conversation plus appropriés pour les adultes que pour les enfants. Le rapport prévient également que l'IA peut produire des réponses inexactes ou imprévisibles, ce qui pourrait dérouter les jeunes utilisateurs qui ont tendance à considérer les jouets comme des sources d'informations fiables.
Les chercheurs qui ont examiné la documentation et les politiques de confidentialité des jouets ont également découvert que certains produits s'appuient fortement sur des systèmes d'IA basés sur le cloud.
Cela signifie que les interactions vocales des enfants peuvent être transmises à des serveurs externes où les données sont traitées et utilisées pour générer des réponses. Les défenseurs de la vie privée affirment que cela soulève des inquiétudes supplémentaires quant à la manière dont les données des enfants sont stockées et utilisées. Certains jouets peuvent collecter des enregistrements audio, des invites utilisateur ou d'autres informations personnelles lors de conversations. Si ces systèmes ne sont pas soigneusement conçus pour protéger la vie privée des enfants, les données pourraient potentiellement être utilisées à mauvais escient ou stockées sans garanties claires.
Le rapport souligne également que de nombreux jouets basés sur l'IA incluent des clauses de non-responsabilité enfouies dans leurs conditions de service ou dans la documentation du produit. Ces avertissements indiquent parfois que les réponses de l'IA ne sont pas toujours exactes ou appropriées, transférant ainsi la responsabilité aux parents alors que le jouet lui-même est commercialisé directement auprès des enfants.
Cette situation est importante car la technologie de l’IA pénètre de plus en plus dans les produits de consommation courante, y compris les articles conçus spécifiquement pour le jeune public. Les jouets qui simulent des conversations peuvent avoir une puissante influence sur les enfants, qui les traitent souvent comme des compagnons ou des outils d’apprentissage.
Les experts affirment que les enfants peuvent avoir du mal à faire la distinction entre des informations fiables et des réponses spéculatives, biaisées ou incorrectes générées par l’IA. À mesure que les systèmes d’IA continuent d’évoluer, il deviendra de plus en plus important de veiller à ce que ces technologies soient adaptées à la sécurité des enfants.
Les résultats mettent également en évidence un défi réglementaire plus large
Bien que de nombreux pays disposent de lois conçues pour protéger la vie privée des enfants en ligne, comme la Children's Online Privacy Protection Act (COPPA) aux États-Unis, ces réglementations ont été élaborées avant l'essor de l'IA générative.
Les groupes de défense soutiennent que les régulateurs devront peut-être mettre à jour les normes et directives de sécurité pour traiter de la manière dont les systèmes d’IA interagissent avec les enfants via des appareils connectés.
Le rapport PIRG appelle les fabricants de jouets à mettre en œuvre des mesures de protection plus strictes, notamment un filtrage de contenu plus strict, une divulgation plus claire de l'utilisation de l'IA et des pratiques plus transparentes en matière de données. Il recommande également aux entreprises de concevoir des systèmes d’IA spécifiquement destinés aux enfants plutôt que de réutiliser des modèles initialement conçus pour un public adulte.
Pour l’avenir, les chercheurs affirment que la collaboration entre les entreprises technologiques, les régulateurs et les experts en sécurité des enfants sera nécessaire pour garantir que les jouets alimentés par l’IA restent à la fois innovants et sûrs.
À mesure que l’intelligence artificielle s’intègre de plus en plus dans les produits du quotidien, le défi consistera à équilibrer les avantages de la technologie interactive avec la responsabilité de protéger les jeunes utilisateurs contre les risques potentiels.
