« Il y a un type de programme que nous ne comprenons pas – même en principe – et c'est un AGI. Un jour, nous le ferons, mais je ne vois aucun signe en ce moment et c'est assez frustrant. »
Aujourd'hui, Deutsch reste une voix influente non seulement dans la théorie quantique mais aussi dans les débats sur l'intelligence artificielle.
S'exprimant sur la série Strange Loop Podcast de Sana – co-organisée par Joel Hellermark, PDG de Swedish AI Scale-Up Sana et Gustav Söderström, coprésidente de Spotify – Deutsch parle à une longueur fascinante si l'humanité survivra à un million d'années dans l'avenir.
Avec Google et Openai parlant régulièrement de leurs progrès vers l'intelligence générale artificielle (AGI) – le moment où l'IA peut vraiment apprendre et répondre comme un humain – avec des produits comme Chatgpt et Gemini, il y a beaucoup de gens qui se demandent régulièrement pour savoir si AGI a déjà été atteint.
Lorsqu'on lui a demandé ce qu'un signe pourrait être que «vrai» AGI a été réalisé, Deutsch rétorque qu'avec l'idée que nous ne savons même pas ce que nous recherchons:
(Le signe sera) si quelqu'un a une théorie. Le signe ne serait pas dans la machine; Le signe serait une théorie où quelqu'un écrit un livre ou publie un article qui dit: «Je l'ai résolu. C'est ce qui caractérise un gi (intelligence générale) ».
«Si nous pouvions écrire un programme informatique qui a cette propriété, ce sera un AGI, et ce sera la raison – une théorie explicative de l'intelligence générale.»
Ce qui est significatif, c'est la mesure dans laquelle Deutsch remet en question la sagesse conventionnelle de l'endroit où se trouve l'intelligence artificielle et où elle se dirige.
Il n'est pas impressionné par les performances actuelles des moteurs d'IA, tout en restant espoir pour leur développement continu.
Dans de nombreuses conversations sur l'intelligence artificielle, les gens voient souvent AGI comme l'extension logique de l'IA.
Deutsch caractérise les plates-formes d'IA actuelles comme des «optimisateurs obéissants» tandis que True AGI aurait la capacité d'expliquer, de prédire et de tirer des conclusions que les opérateurs humains ne prévoyaient pas.
Alors que le monde est obsédé par la question de savoir si les LLM sont versées vers l'intelligence humaine, David Deutsch offre un contrepoint audacieux: AGI ne sera pas un outil à manier. Ce sera une personne avec laquelle comptera.
Dans la vue de Deutsch, les LLM actuels ne sont pas le chemin à terme. Ils offrent des corrélations mais pas des explications – il déclare que c'est la véritable mesure de l'intelligence humaine et est l'élément manquant des tentatives actuelles d'AGI.
Il fait une séparation très nette entre la correspondance de motifs et le raisonnement créatif. Il s'agit d'une distinction incroyablement importante.
C'est la nature humaine de s'attendre à ce que les modèles actuels continuent à l'infini. Étant donné que les LLM sont actuellement basées sur des connaissances humaines agrégées, ce biais est déjà cuit.
Le célèbre test de Turing – lorsqu'un juge humain est invité à interagir avec une autre entité par texte et à déterminer si l'intimé est humain ou machine – est une méthode souvent utilisée pour «tester» la capacité de l'IA à comparer ses progrès.
Bien que certains aient réussi le test, Deutsch souligne qu'il est assez facile pour que les machines imitent la parole et le raisonnement humain sans réfléchir. Les résultats seuls, selon Deutsch, ne peuvent pas prouver l'intelligence.
La revendication la plus provocante de Deutsch est que lorsque le vrai AGI sera atteint, les machines seront devenues des gens:
«Chaque AGI est une personne. Si nous le reconnaissons comme une personne, ce que ce sera, alors la toute première chose qu'il possède est l'ordinateur sur lequel il fonctionne.
«Il ne voudra pas faire un clone de lui-même, car il aura une propriété – à moins qu'il ne soit considéré comme un esclave, qui serait une erreur catastrophique de la société.»
Il va jusqu'à dire que nous ne serions plus en mesure de considérer AGI «propriété», suggérant que les gens devraient utiliser le programme – et ainsi attribuer des droits des travailleurs et similaires – il pourrait donc faire des choses comme l'achat d'expansion à son matériel pour augmenter ses capacités.
Risque sans destin
Deutsch ne rejette pas les risques – il attend de nombreuses erreurs alors que nous tâtons vers des systèmes plus puissants. Mais il repousse contre le récit «Ai apocalypse».
Il pense que si les humains continuent d'évoluer au cours des prochaines millions d'années, ils auront conquis la galaxie, mais cela sera imprégné de l'intelligence artificielle, plutôt que consommée par elle.
Comme toutes les technologies, l'IA nécessite une surveillance minutieuse, des critiques et une correction des erreurs. Le danger n'est pas que les machines se rebellent soudainement, mais que nous puissions répéter l'erreur la plus ancienne de l'humanité: refuser les droits aux êtres capables de pensée et d'action libre.
S'il a raison, le premier vrai AGI ne changera pas seulement la technologie – cela nous obligera à redéfinir la moralité, le droit et le sens de l'intelligence elle-même.
