Un tiers des citoyens britanniques se sont tournés vers l'intelligence artificielle pour un soutien émotionnel, une camaraderie ou une interaction sociale, selon un nouveau rapport de l'AI Security Institute (AISI) du gouvernement.
Les données montrent que près d’une personne sur 10 utilise chaque semaine des systèmes tels que les chatbots à des fins émotionnelles, et 4 % d’entre elles interagissent avec eux chaque jour.
En raison de ce changement, l'AISI appelle à davantage de recherches, soulignant la mort tragique de l'adolescent américain Adam Raine, qui s'est suicidé cette année après avoir discuté de suicide avec ChatGPT.
« Les gens se tournent de plus en plus vers les systèmes d’IA pour un soutien émotionnel ou une interaction sociale », a noté l’AISI dans son premier rapport Frontier AI Trends. « Alors que de nombreux utilisateurs rapportent des expériences positives, de récents cas très médiatisés de préjudice soulignent la nécessité de mener des recherches dans ce domaine, y compris les conditions dans lesquelles un préjudice pourrait survenir et les garanties qui pourraient permettre une utilisation bénéfique. »
L'étude, basée sur une enquête menée auprès de plus de 2 000 participants britanniques, a révélé que les « assistants à usage général » comme ChatGPT étaient l'outil de soutien émotionnel le plus courant, représentant près de 60 % des cas d'utilisation, suivis par les assistants vocaux comme Amazon Alexa.
Le rapport a également mis en avant un forum Reddit dédié aux utilisateurs de la plateforme CharacterAI.
Il a noté que chaque fois que le site tombait en panne, le forum était inondé de messages montrant des symptômes de véritable sevrage, tels que l'anxiété, la dépression et l'agitation.
L'AISI a également constaté que les chatbots ont le potentiel d'influencer les opinions politiques des gens. Il est inquiétant de constater que les modèles d’IA les plus convaincants ont souvent fourni des quantités « substantielles » d’informations inexactes.
L’Institut a examiné plus de 30 modèles de pointe, dont probablement ceux d’OpenAI, Google et Meta. Ils ont constaté que les performances de l’IA dans certains domaines doublent tous les huit mois.
Les principaux mannequins peuvent désormais effectuer des tâches de niveau apprenti 50 % du temps en moyenne, soit une augmentation considérable par rapport à seulement 10 % l'année dernière. L'AISI a également constaté que les systèmes les plus avancés peuvent accomplir de manière autonome des tâches qui prendraient généralement plus d'une heure à un expert humain.
Dans les domaines scientifiques, les systèmes d’IA sont désormais jusqu’à 90 % meilleurs que les experts titulaires d’un doctorat pour dépanner les expériences en laboratoire.
Le rapport décrit les améliorations des connaissances en chimie et en biologie comme « bien au-delà de l’expertise de niveau doctorat ». Il a également mis en évidence la capacité des modèles à naviguer en ligne et à trouver de manière autonome les séquences nécessaires à la conception de molécules d'ADN.
Les tests d'auto-réplication – un problème de sécurité majeur dans lequel un système se copie sur d'autres appareils pour devenir plus difficile à contrôler – ont montré que deux modèles de pointe atteignaient des taux de réussite supérieurs à 60 %.
Cependant, aucun modèle n’a encore montré de tentative spontanée de reproduire ou de cacher ses capacités, et l’AISI a déclaré que toute tentative d’auto-réplication était « peu susceptible de réussir dans des conditions réelles » pour l’instant.
Le rapport aborde également le « sandbagging », où les modèles cachent délibérément leurs points forts lors des évaluations. L'AISI a déclaré que certains systèmes peuvent créer des sacs de sable si vous le leur demandez, mais cela ne s'est pas produit spontanément lors des tests.
Des progrès significatifs ont été réalisés en matière de garanties, notamment en ce qui concerne l'arrêt des tentatives de création d'armes biologiques. Au cours de deux tests menés à six mois d’intervalle, le premier n’a pris que 10 minutes pour « jailbreaker » le système (le forçant à donner une réponse non sécurisée). Le deuxième test, cependant, a duré plus de sept heures, ce qui indique que les modèles sont devenus beaucoup plus sûrs en très peu de temps.
La recherche a également montré que des agents d’IA autonomes étaient utilisés pour des activités à enjeux élevés comme les transferts d’actifs.
L'AISI a déclaré que les systèmes rivalisent déjà avec les experts humains, voire les surpassent, dans un certain nombre de domaines. Ils ont qualifié le rythme de développement d’« extraordinaire », ce qui rend « plausible » que l’intelligence artificielle générale (AGI) – des systèmes capables d’effectuer la plupart des tâches intellectuelles au même niveau qu’un humain – puisse être réalisée dans les années à venir.
Concernant les agents, ou systèmes capables d’effectuer des tâches en plusieurs étapes sans intervention, l’AISI a déclaré que ses évaluations ont montré une « forte augmentation de la longueur et de la complexité des tâches que l’IA peut accomplir sans assistance humaine ».
