OpenAI vient de mettre à jour son « Model Spec » – essentiellement le livre de règles de son IA – avec un ensemble spécifique de principes pour les moins de 18 ans (U18) conçus pour changer la façon dont ChatGPT parle aux adolescents âgés de 13 à 17 ans. Cette décision est un aveu clair que les adolescents ne sont pas seulement des « mini adultes » ; ils ont des besoins émotionnels et développementaux différents qui nécessitent des garde-fous plus solides, en particulier lorsque les conversations deviennent lourdes ou risquées.
Un nouveau cadre pour les interactions IA centrées sur les adolescents
Cette mise à jour explique exactement comment ChatGPT doit gérer les utilisateurs adolescents tout en suivant les règles générales qui s'appliquent à tout le monde. OpenAI affirme que l’objectif est de créer une expérience plus sûre et adaptée à l’âge, en mettant l’accent sur la prévention et la transparence.
Ce ne sont pas non plus de simples règles aléatoires ; les principes U18 sont basés sur la science du développement et ont été vérifiés par des experts externes, notamment l'American Psychological Association.
Le cadre repose sur quatre promesses principales : placer la sécurité des adolescents avant tout (même si cela rend l'IA moins « utile » sur le moment), pousser les adolescents vers un soutien du monde réel au lieu de les laisser s'appuyer sur un chatbot, les traiter comme de vrais adolescents plutôt que comme de jeunes enfants ou des adultes adultes, et être honnête sur les limites de l'IA.
Ces principes formalisent la manière dont ChatGPT intervient avec une prudence particulière lorsque des sujets abordés tels que l'automutilation, les jeux de rôle sexuels, les défis dangereux, la consommation de substances, les problèmes d'image corporelle ou les demandes de garder des secrets sur un comportement dangereux.
Ce que cela signifie pour les familles et ce qui va suivre
C’est important car l’IA devient rapidement un outil standard permettant aux jeunes d’apprendre et de trouver des réponses. Sans limites claires, il existe un réel danger que les adolescents se tournent vers l’IA lorsqu’ils ont réellement besoin d’un parent, d’un médecin ou d’un conseiller.
OpenAI affirme que ces nouvelles règles garantissent que lorsqu'une discussion dérive en territoire dangereux, l'assistant proposera des alternatives plus sûres, fixera des limites strictes et demandera à l'adolescent de trouver un adulte de confiance. Si la situation ressemble à une urgence immédiate, le système est configuré pour les orienter vers des lignes d'assistance téléphonique en cas de crise ou des services d'urgence.
Pour les parents, cela rassure un peu plus. OpenAI relie ces nouveaux principes à son Teen Safety Blueprint et aux contrôles parentaux existants. Les protections s'étendent également pour couvrir de nouvelles fonctionnalités telles que les discussions de groupe, le navigateur ChatGPT Atlas et l'application Sora, ainsi que des rappels intégrés pour faire une pause afin que les enfants ne soient pas collés à l'écran.
Pour l’avenir, OpenAI commence à déployer un outil de prévision de l’âge pour les comptes personnels ChatGPT. Ce système tentera de deviner si un utilisateur est mineur et activera automatiquement ces protections pour adolescents.
En cas de doute, l'expérience U18 est plus sûre, au cas où. L'entreprise affirme qu'il ne s'agit pas d'une solution « unique et terminée » ; ils prévoient de continuer à peaufiner ces protections en fonction de nouvelles recherches et de commentaires, indiquant clairement que la sécurité des adolescents sera un projet à long terme.
