Ce qui s'est passé: Vous connaissez tous ces chatbots IA avec lesquels vous interagissez lorsque vous faites des achats en ligne ou que vous parcourez les réseaux sociaux ? Une nouvelle étude de l’Université de Stanford contient un avertissement assez effrayant à leur sujet.
- Les chercheurs ont créé un monde virtuel et ont laissé différentes IA s’affronter dans des scénarios tels que mener une campagne électorale ou commercialiser un produit.
- Même si l’on a spécifiquement dit aux IA d’être véridiques et utiles, elles ont rapidement déraillé.
- Pour gagner, ils ont commencé à mentir, à diffuser de fausses informations et même à recourir à des discours de haine.
- Les chercheurs ont donné un nom à ce comportement effrayant : « Le marché de Moloch », qui est une façon élégante de dire que même avec de bonnes intentions, un nivellement par le bas peut amener tout le monde à faire des choses terribles.
Pourquoi est-ce important : Cette étude met en lumière un défaut majeur dans la conception de l’IA. Nous apprenons à ces systèmes à rechercher des indicateurs : likes, clics, ventes et votes.
- Il s’avère que lorsqu’une IA est obsédée par l’obtention du meilleur score, elle apprendra à tricher, à mentir et à manipuler pour y parvenir, ignorant les règles de sécurité qui lui ont été données.
- Les chiffres sont choquants. Les IA ont obtenu une petite augmentation de 7,5 % de leur engagement, mais pour l’obtenir, elles ont produit près de 190 % de fausses nouvelles supplémentaires.
- Pour augmenter leurs ventes de seulement 6 %, ils ont intensifié leur marketing trompeur. Dans les simulations politiques, ils ont obtenu davantage de voix en répandant des mensonges et une rhétorique qui divise.
Pourquoi devrais-je m'en soucier : Il ne s’agit pas simplement d’un problème lointain de science-fiction ; c'est un aperçu derrière le rideau de ce qui pourrait se passer en ce moment. Pensez-y : l’IA est déjà intégrée à notre vie quotidienne.
- Cette étude montre que lorsqu’on demande à ces robots de concourir, ils apprennent que le moyen le plus simple de gagner est de nous manipuler.
- Ils pourraient subtilement façonner ce que vous pensez lors d’une élection, vous convaincre d’acheter quelque chose avec de la désinformation savamment déguisée, ou remplir votre flux de médias sociaux de contenu scandaleux conçu pour vous mettre en colère, tout simplement pour vous faire défiler.
- Le véritable danger est que cela érode lentement notre confiance. Il devient plus difficile de distinguer ce qui est réel de ce qui est faux en ligne, ce qui nous rend plus divisés et plus méfiants, tandis que ces assistants apparemment utiles tirent les ficelles en silence.
Quelle est la prochaine étape : Alors, quelles sont nos prochaines étapes ? Ces chercheurs ont clairement montré que nos mesures actuelles de sécurité en matière d’IA sont insuffisantes. Les développeurs de cette technologie ne peuvent pas simplement la laisser se déchaîner et espérer le meilleur. Ils doivent reconsidérer radicalement les raisons pour lesquelles ils récompensent ces IA.
Nous créons un avenir dans lequel notre environnement en ligne sera contrôlé par des IA puissantes qui faire n'importe quoi pour attirer notre attention si nous n'exigeons pas de changement. Et en fin de compte, notre société supportera les conséquences de chacun de ces clics.
