Au cours des derniers mois, OpenAI a reçu un contrecoup sur une série d'événements où des conversations avec Chatgpt ont entraîné une tragédie humaine. Dans le sillage des incidents et de la menace imminente des réglementations sur les chatbot de l'IA, OpenAI a finalement déployé les contrôles parentaux promis qui permettraient aux parents de s'assurer que les interactions de leurs quartiers sont sûres.
Quel est le grand changement?
La première ligne de défense est la sécurité du contenu. OpenAI dit que les parents auront le pouvoir de «ajouter des garanties supplémentaires pour aider à protéger les adolescents, tels que le contenu graphique et les défis viraux». De plus, ils peuvent également décider d'activer ou de désactiver la mémoire du chatbot, ce qui lui permet de se souvenir des conversations précédentes.
Ensuite, les parents auront la flexibilité de spécifier une fenêtre d'utilisation en fixant des «heures de calme» dans lesquelles le chatppt ne peut pas être accessible. Enfin, les gardiens peuvent choisir de désactiver le mode vocal conversationnel, et même d'arrêter la création et l'édition d'images.
Notamment, les parents ne pourront pas voir les conversations des utilisateurs adolescents. Mais dans de rares cas où le système détecte les «signes de risque de sécurité grave», ils seront avertis à ce sujet. OpenAI a également lancé une page de ressources à part entière avec des instructions et des directives pour définir des contrôles parentaux.
Le problème ouvert
Afin d'activer les contrôles de sécurité susmentionnés, les parents doivent lier leurs comptes aux comptes Chatgpt de leurs adolescents. Cela peut être fait en envoyant un lien d'invitation par e-mail ou SMS.
Une fois que le lien est accepté par l'utilisateur adolescent pour connecter les comptes, les gardiens peuvent configurer les contrôles de sécurité mentionnés ci-dessus. Mais gardez à l'esprit que l'ensemble du processus est opt, et les utilisateurs des adolescents peuvent choisir de non lier leurs comptes et de mettre fin à la supervision à tout moment.
Les parents seront informés de l'étape de linge, Notes Openai. La plus grande préoccupation est que les jeunes utilisateurs peuvent facilement contourner ces limites en créant un autre compte pour utiliser Chatgpt sans aucune restriction. De plus, si leurs parents surveillent les comptes d'utilisateurs enregistrés sur un téléphone, les utilisateurs adolescents peuvent simplement se connecter avec un compte Burner et utiliser la version Web.
