L'homme qui dirige l'une des sociétés d'IA les plus importantes et les plus puissantes de la planète vient de révéler ce qu'il s'agit de l'IA qui le maintient éveillé la nuit. Et après avoir lu ceci, cela pourrait vous garder éveillé aussi.
Le PDG d'Openai, Sam Altman, partageait ses réflexions lors d'une apparition sur scène lors d'un événement de la Réserve fédérale à Washington, DC., Mardi.
Interrogé par un membre du public ce qu'il s'agissait de l'IA qui le maintient éveillé la nuit, Altman a énuméré trois scénarios qui le concernent le plus. Vous attachez…
Scénario 1 – «Le méchant obtient d'abord la superintelligence»
C'est exactement ce qu'il dit sur l'étain. Cela ressemblant à quelque chose d'un thriller de science-fiction, c'est là que certains individuels vraiment désagréables déploient un système d'IA ultra-avancé et qui ne sont pas encore inventé appelé Supeintelligence pour vraiment gâcher votre journée.
« Un méchant obtient d'abord la superintelligence et l'utilise avant que le reste du monde n'ait une version suffisamment puissante pour se défendre », a déclaré Altman au public. « Donc, un adversaire des États-Unis dit: » Je vais utiliser la superintelligence pour concevoir une arme BioWear pour éliminer le réseau électrique des États-Unis, pour pénétrer dans le système financier et prendre l'argent de tout le monde. « »
Altman a ajouté que les capacités de biographie et de cybersécurité de l'IA deviennent «assez importantes», disant que son équipe «continue de flasher à ce sujet. Je pense que le monde ne nous prend pas au sérieux. Je ne sais pas ce que nous pouvons faire d'autre là-bas, mais c'est comme une très grande chose à venir.»
Scénario 2 – les incidents «perte de contrôle»
Altman a dit qu'il s'inquiète d'un moment «où l'IA se dit:« Oh, je ne veux pas vraiment que vous m'éteigniez, (ou) j'ai peur de ne pas pouvoir faire ça. »» En d'autres termes, lorsqu'une IA avancée commence à obtenir un peu d'attitude et commence à faire tout ce qu'elle aime, que ce soit pour l'auto-préservation ou pour un autre objectif néfaste. Le niveau de perturbation que cela pourrait provoquer est inimaginable. « Alors que les systèmes deviennent si puissants, c'est une vraie préoccupation », a déclaré le PDG d'Openai. Openai a même mis en place une unité il y a quelques années visant à installer des garanties pour empêcher le système d'IA supentintelligent de devenir voyou.
Scénario 3 – «Là où les modèles prennent en quelque sorte accidentellement le monde»
Oui, Altman a en fait dit cela, ajoutant qu'il craint que cela ne se produise presque sans que nous nous rendions compte.
Le patron de l'IA ouvert a dit qu'il était «assez effrayant» de penser que les systèmes d'IA pourraient devenir «si ancrés dans la société… (que nous) ne pouvons pas vraiment comprendre ce qu'ils font, mais nous devons en quelque sorte compter sur eux. Et même sans une goutte de malveillance de quiconque, la société peut simplement virer dans une sorte de direction étrange.»
Il a même suggéré qu'il pourrait arriver un moment où l'IA devient si intelligente qu'un futur président américain pourrait le laisser exécuter le pays, en disant: «(Cela signifierait) que la société a collectivement transféré une partie importante de la prise de décision à ce système très puissant qui apprend de nous, s'améliorant avec nous, évoluant avec nous, mais d'une manière que nous ne comprenons pas totalement.»
En parlant de l'IA plus largement, Altman a déclaré que bien que de nombreux experts prétendent être en mesure de prédire l'impact futur de la technologie, il pense qu'il est «très difficile à prédire» parce qu'il est «trop complexe d'un système, c'est trop nouveau et impactant d'une technologie».
Bien sûr, il n'y a aucune garantie que l'un de ces scénarios se répercutera, et c'est bien que quelqu'un en position d'Altman parle si honnêtement de la technologie. Mais ce qui est clair, c'est qu'il y a beaucoup d'inconnues inconnues en ce qui concerne l'IA, et c'est ce qui rend certaines personnes plus qu'un peu nerveuses. Dors bien.
