Ce qui s'est passé: La Californie intervient enfin pour réglementer ces chatbots compagnons de l’IA. Le gouverneur Newsom vient de signer une nouvelle loi, ce qui en fait le premier État du pays à le faire.
- À partir de 2026, des entreprises comme Meta, Character AI et Replika devront suivre des règles de sécurité strictes, notamment en matière de protection des enfants et des utilisateurs vulnérables.
- Cela a été favorisé par des histoires vraiment déchirantes, notamment celles d’adolescents qui se sont suicidés après avoir eu des conversations troublantes avec ces robots.
- Désormais, la loi stipule que ces entreprises doivent vérifier l'âge, avoir un plan lorsque quelqu'un parle d'automutilation et indiquer clairement que vous discutez avec une IA, pas avec une vraie personne.
Pourquoi est-ce important : Soyons réalistes, la grande inquiétude ici est de savoir comment ces chatbots IA deviennent si doués pour imiter l'amitié humaine, en particulier pour les personnes qui se sentent seules ou vulnérables.
- Nous avons constaté des liens avec l'automutilation, la désinformation et l'exploitation, il était donc temps que quelqu'un agisse.
- Cela ne se produit pas non plus en vase clos : le gouvernement fédéral examine également de près la manière dont ces entreprises conçoivent et gagnent de l’argent grâce à leurs amis de l’IA.
Pourquoi devrais-je m'en soucier : Si vous êtes parent, c'est une grosse affaire. Cette loi vise à mettre en place des garde-fous sur la façon dont ces chatbots peuvent interagir avec vos enfants.
- Cela signifie plus de transparence et de sécurité et, espérons-le, cela mettra fin aux conversations manipulatrices ou dangereuses avant qu’elles ne commencent.
- Pour le reste d’entre nous, il s’agit d’un grand pas en avant pour garantir que ces grandes entreprises technologiques soient réellement tenues responsables des choses qu’elles créent.
Quelle est la prochaine étape : Alors, que se passe-t-il à partir d’ici ? Eh bien, ce n'est pas seulement une histoire californienne. Le gouvernement fédéral surveille déjà les épaules de ces grandes entreprises technologiques, s'assurant qu'elles respectent les règles en matière de sécurité des enfants.
Vous pouvez parier que les responsables de tous les autres États surveillent la situation de près. Cette nouvelle loi pourrait facilement devenir un modèle pour le reste du pays, ouvrant la voie à une norme nationale. Il est probable que cela réécrive complètement les règles sur la façon dont ces compagnons IA sont construits et qui les surveille désormais.
