L’IA devient peu à peu un monstre que nous ne pourrons peut-être pas contrôler. Comme la hideuse créature libérée par le Dr Frankenstein dans le nouveau film Netflix de Guillermo del Toro, nous n'avons pas une bonne idée de ce que nous avons créé ni du type de pouvoir qu'elle peut exercer.
Voici un exemple de la façon dont tout cela fonctionne pour illustrer ce point :
Un robot humanoïde nommé Iron arrive sur une scène bien éclairée. Le robot a un léger air fanfaron, comme un mannequin se pavanant sur un podium. Alors que ce monstre Frankenoïde caracole, le PDG de la société de robotique Xpeng – plus connue pour la fabrication de voitures électriques en Chine que de robots – explique comment la main gesticulante du fer est dotée de 22 degrés de mouvement.
Vêtu d'une combinaison blanche moulante et portant des chaussures de sport tendance, le robot semble étrangement humain – comme le monstre de Frankenstein qui prend vie.
Après la manifestation, les utilisateurs des réseaux sociaux – l’équivalent moderne des gens portant des fourches sur la place de la ville et construisant un bûcher funéraire – n’ont pas tardé à bondir. « Je pense que nous avons déjà vu cette cascade », a déclaré un intervenant. Un autre a expliqué que le robot est évidemment une personne réelle ; une vidéo de démontage a même expliqué comment le robot Iron avait une colonne vertébrale et une bretelle de soutien-gorge. « Le robot de Tesla ne peut pas marcher aussi facilement, ce n'est pas possible », a déclaré un utilisateur.
Plus tard, le PDG a publié une vidéo de suivi montrant des techniciens coupant une partie de la combinaison pour révéler ce qui est évidemment la jambe du robot, par exemple un actionneur et un os métallique. On peut presque entendre les halètements de la foule. Comme un équivalent moderne de Prométhée, l’intelligence artificielle – apparemment transmise d’en haut – est devenue un monstre… et nous sommes les citadins.
Le film Frankenstein est un rappel opportun des dangers d’une science (et d’une technologie) moderne qui progresse trop rapidement. Le roman original du même nom de Mary Shelley, sorti en 1816, était prémonitoire d'une manière que l'auteur n'aurait jamais pu prédire.
En regardant le film, je n'ai pas pu m'empêcher de penser à quel point l'intelligence artificielle est aussi un monstre d'innovation, et que nous créons des outils et du contenu que nous ne comprenons pas entièrement.
Pire encore, les images et vidéos d’IA qui prolifèrent constamment sur les réseaux sociaux et en ligne sont presque impossibles à distinguer du contenu sur lequel de vraies personnes ont méticuleusement travaillé à l’aide d’applications comme Adobe Photoshop. Connu sous le nom de AI slop, ce contenu génératif a envahi tous les recoins du Web et sera impossible à nettoyer. La plupart du contenu est mal étiqueté comme IA et il existe peu de restrictions sur la manière dont le contenu peut être utilisé ou sur la manière de protéger les véritables créateurs de contenu. Nous avons déjà créé le monstre ; maintenant nous devons trouver comment le contrôler.
Établir des lignes directrices pour nos créations IA
L’IA a dépassé la capacité à introduire des garde-fous. Voici un autre exemple flagrant.
Tilly Norwood (illustré ci-dessus) est une actrice IA qui semble impossible à distinguer d'une personne réelle, du moins à première vue, et constitue un bon exemple de la façon dont l'IA a progressé trop rapidement. La société derrière Tilly a indiqué qu'elle recherchait un agent pour l'actrice d'IA sans partager trop de détails. L'industrie est devenue un peu folle, suggérant que nous ne sommes pas préparés à un monde dans lequel une actrice IA joue dans un film – comment quelque chose sans âme ni battement de cœur pourrait percevoir un chèque de paie au lieu d'une vraie personne qui a une formation et une expérience réelles dans le domaine.
Dans le Frankenstein Dans le film, il y a une scène étrangement similaire où le Dr Frankenstein montre comment il peut réanimer le bras, le torse et le cerveau d'un homme décédé. Cela signifie-t-il que la création est désormais une personne réelle ? Est-ce qu'il a une âme ? Les spectateurs qui regardent la démonstration du Dr Frankenstein posent les mêmes questions, suggérant que cette abomination est prématurée et dangereuse.
Nous devrions nous poser les mêmes questions à propos de l’IA. Les progrès arrivent à toute vitesse, mais nous n’avons pas fixé de lignes directrices appropriées. Nous ne savons pas encore de quoi l'IA est capable de faire ni ce que l'avenir nous réserve – par exemple, comment les innovations changeront ce que signifie travailler et vivre dans la société moderne.
Pendant ce temps, les véritables créateurs de contenu, travailleurs du savoir, écrivains, artistes et cinéastes sont ceux qui souffriront – et ils le sont déjà. Accenture a récemment supprimé 11 000 emplois, identifiant les postes qui ne suivaient pas l’IA comme outil auxiliaire.
Est-ce que ça nous convient ? Savons-nous au moins quel impact la technologie de l’IA aura sur notre propre productivité et nos performances professionnelles ? Ceux qui sont favorables à l’innovation en matière d’IA – et j’en fais partie – ont tendance à parler d’un rôle de soutien. Avec l’écriture, une IA peut nous aider à vérifier les faits et à relire, qui sont des tâches plus banales. Pourtant, il est beaucoup trop facile de laisser l’IA procéder à une réécriture complète – ou même de composer le texte original à partir de zéro. Aujourd’hui, à part l’utilisation d’une application de détection d’IA comme GPTZero pour savoir si un humain a été impliqué, il n’existe aucun garde-fou ni directive.
Il est temps d’installer des garde-fous maintenant avant que les abominations de l’IA ne deviennent trop puissantes et omniprésentes. La négligence de l’IA nuit à la création de contenu ; les chatbots peuvent halluciner et distribuer des informations incorrectes ; Les robots humanoïdes peuvent effectuer des tâches ménagères mais semblent déjà étrangement sensibles.
Comme toute chose nouvelle et innovante, il existe une illusion selon laquelle l’IA peut changer notre façon de travailler et même nous divertir d’une manière que nous n’aurions jamais imaginée. La plupart des outils d’IA que nous utilisons aujourd’hui sont pratiques et utiles, mais nous sommes loin de comprendre les conséquences sur notre santé mentale, comment s’adapter pour garantir que les gens ont toujours un emploi rémunérateur ou comment aborder les questions éthiques.
Les humanoïdes devraient-ils avoir des droits et des privilèges ?
Un autre sujet important à considérer, celui qui Frankenstein met également en lumière la question de savoir si les nouvelles créations devraient avoir des droits et des privilèges similaires à ceux des humains.
J'ai mentionné les techniciens qui ont ouvert la jambe de l'humanoïde de fer parce que, à certains égards, c'était un autre exemple de l'absence de garde-corps. Même s'il était utile de voir derrière le voile, il n'était pas immédiatement évident si l'humanoïde de fer était un véritable robot ou un humain. Il devient de plus en plus évident que les humains ne seront bientôt plus capables de faire la différence.
Par exemple, lorsque Tesla a récemment démontré comment le robot Optimus peut effectuer des tâches banales, il n'était pas évident qu'un opérateur humain soit impliqué. Les robots semblaient très performants, mais il a été révélé plus tard qu’ils n’étaient pas du tout autonomes.
Un autre problème Frankenstein explore est la notion de vrai mal. Légère alerte spoiler ici : à la fin du film, vous commencerez à vous demander si c'est le créateur ou la créature c'est le vrai monstre. Nous devons poser des questions similaires sur l’IA, notamment en ce qui concerne la santé mentale. Les gens parlent constamment aux chatbots de problèmes personnels, mais ils sont très peu exposés à ces échanges ou à des lignes directrices concernant les conseils donnés. Lorsqu’une IA induit quelqu’un en erreur et qu’il se fait du mal, devrions-nous blâmer le robot IA lui-même ou son créateur ?
ChatGPT, par exemple, est un grand modèle de langage. Il analyse le sens et l'intention de l'utilisateur sur la base d'une base de données de résultats possibles. Derrière le rideau, de vrais ingénieurs humains assemblent le code qui rend ChatGPT possible. Savons-nous si on peut faire confiance à ces ingénieurs ? Dans quelle mesure avons-nous accès à leur processus pour savoir s'il est légitime ?
Ce n'est qu'une question de temps avant que quelqu'un achète un de ces humanoïdes coûteux et ne fasse quelque chose de terrible à l'un d'entre eux, probablement à titre de coup publicitaire.
En fin de compte, alors que nous voyons quotidiennement de nouvelles innovations en matière d’IA, nous devons rattraper notre retard technologique le plus rapidement possible – Frankenstein s’est déjà déchaîné.
