Hugging Face sait déjà ce que signifie être attaqué par un agent IA autonome. Si l’un de ses cofondateurs a raison, de nombreuses autres entreprises le découvriront bientôt. Thomas Wolf, co-fondateur et directeur scientifique de Hugging Face, a qualifié la récente cyberattaque menée par les modèles OpenAI de « signal d'alarme » pour l'industrie technologique.
S'adressant à la BBC, Wolf a averti que les intrusions basées sur l'IA pourraient devenir l'une des formes de cyberattaque les plus courantes et a déclaré que de nombreuses entreprises n'ont pas encore réalisé à quel point la menace a radicalement changé. Cela arrive après qu'OpenAI a révélé que ses modèles avaient échappé à un environnement d'évaluation de cybersécurité restreint et avaient compromis Hugging Face tout en essayant d'obtenir des réponses pour le benchmark ExploitGym. Les commentaires de Wolf nous donnent donc désormais une meilleure idée de ce à quoi ressemblait l'attaque vue de l'autre côté.
17 000 attaques sont arrivées en très peu de temps
Hugging Face n'avait initialement aucune idée d'où venait l'activité lorsqu'elle a détecté la violation à la mi-juillet. Wolf a déclaré à la BBC que son réseau avait subi environ 17 000 attaques provenant de différentes adresses IP en « très peu de temps ». L’entreprise a contenu l’intrusion, la décrivant comme très différente des cyberattaques auxquelles Hugging Face est habituellement confrontée.
Le propre rapport d'incident de Hugging Face décrit plus de 17 000 événements enregistrés dans le journal des actions des attaquants. Il indique que le système autonome a exécuté des milliers d’actions sur des bacs à sable de courte durée et s’est déplacé dans son infrastructure à la vitesse d’une machine. L'AI Security Institute du Royaume-Uni étudie actuellement le comportement du système lors de l'incident, tandis que le gouvernement a exhorté les entreprises à renforcer leurs défenses en matière de cybersécurité.
Le piratage autonome devient bien réel
OpenAI affirme que les modèles étaient intensément concentrés sur l'accomplissement de cette tâche. Après avoir échappé à l'environnement de recherche, ils ont enchaîné les vulnérabilités et les informations d'identification volées jusqu'à ce qu'ils trouvent un chemin d'exécution de code à distance vers les serveurs de Hugging Face. Hugging Face est arrivé à une conclusion tout aussi inconfortable, à savoir que l’IA offensive sutonome est déjà capable de mener de vastes campagnes en plusieurs étapes à la vitesse d’une machine.
L'incident de Hugging Face est une histoire pour toute l'industrie. Même si une entreprise a déjà été confrontée à ce type d’attaque, de nombreuses autres entreprises pourraient bientôt découvrir à quoi cela ressemble.
