Character.ai, le service populaire de chatbot AI, a ajouté Parental Insights, une nouvelle fonctionnalité de sécurité donne aux parents des rapports sur l'activité de leurs enfants sur la plate-forme.
La nouvelle mesure de sécurité, que la société a annoncé mardi dans un article de blog, donne aux parents un aperçu hebdomadaire de la façon dont leurs adolescents passent leur temps sur le personnage.ai. Plus précisément, les idées parentales leur diront le temps moyen quotidien de leurs enfants sur l'application, les personnages auxquels ils parlent le plus souvent et le temps passé avec chaque personnage. Cependant, l'aperçu ne divulguera pas le contenu des conversations du chatbot, car ils sont privés.
Les utilisateurs adolescents de moins de 18 ans ont la possibilité de partager leur personnage. Statistiques avec leurs parents ou tuteurs dans les paramètres de l'application. en ajoutant simplement leurs adresses e-mail et en leur envoyant une invitation à les afficher. Les parents ne sont pas tenus d'avoir un compte de personnage.
Parental Insights vient au milieu d'une série de fonctionnalités ajoutées pour répondre aux préoccupations parentales concernant les enfants qui passent trop de temps sur le personnage.AI et plusieurs poursuites alléguant le contenu nuisible auquel ils ont été exposés au service, allant du contenu sexuel inapproprié aux messages encourageant l'automutilation. En réponse à ces plaintes, le personnage.ai a mis à jour la plate-forme pour déplacer les utilisateurs des mineurs vers un modèle d'IA conçu pour ne pas fournir de contenu sensible ou suggestif, détecter et intervenir si quelque chose que les utilisateurs viole les directives de service et leur donner des notifications s'ils ont passé une heure sur le personnage.ai. Ils ont même mis en œuvre un avertissement en harmonie et sur leurs listes de marché d'applications pour rappeler aux utilisateurs que les personnages d'IA avec lesquels ils interagissent ne sont pas réels et que tout ce qu'ils disent est composé.
Parents, si vous voyez un e-mail de personnage.ai concernant une invitation de votre adolescent à voir leurs statistiques d'activité chaque semaine dans les prochains jours, considèrent cela comme un signe de confiance. Leurs rapports peuvent vous accorder une certaine tranquillité d'esprit en sachant qu'ils veulent vos conseils sur la façon dont ils peuvent utiliser leur temps sur l'application à bon escient.
