La société derrière le populaire Claude de chat de l'IA a émis un avertissement effrayant sur l'utilisation croissante des outils d'IA par les cybercriminels à mesure que la technologie devient de plus en plus sophistiquée.
Dans son dernier rapport de renseignement sur les menaces, Anthropic a détaillé le cas récent de la façon dont un pirate a utilisé ses outils d'IA pour lancer une cyberattaque ciblant de nombreuses entreprises et organisations.
Selon Anthropic, le pirate a utilisé un agent de codage AI (dans ce cas Claude Code), un outil capable d'écrire, d'édition et d'exécution du code avec une entrée humaine minimale.
Il a déclaré qu'au cours du dernier mois, le pirate a utilisé l'agent pour automatiser les «reconnaissances, la récolte d'identification et la pénétration du réseau à grande échelle», volant des données sensibles d'au moins 17 entreprises et organisations à travers le gouvernement, les soins de santé, les services d'urgence et les institutions religieuses.
L'auteur a pu obtenir des dossiers personnels des gens, y compris les données de santé, les informations financières et les informations d'identification du gouvernement avant de demander des paiements de rançon tout en menaçant d'exposer les données en ligne si les demandes n'étaient pas satisfaites.
L'agent Claude AI a même analysé les données financières volées pour déterminer le montant de la rançon approprié – jusqu'à 500 000 € a été exigée dans certaines des attaques – et a également créé des billets de rançon «visuellement alarmants» qui apparaissaient sur les écrans d'ordinateur des cibles.
Anthropic a déclaré que l'opération audacieuse démontre «une évolution préoccupante dans la cybercriminalité assistée par l'IA» et «représente un changement fondamental dans la façon dont les cybercriminels peuvent évoluer leurs opérations» maintenant que l'IA peut être utilisée pour automatiser une grande partie du processus de piratage, bien que sous la direction humaine.
Bien qu'il ne soit pas clair si l'une des objectifs de cette affaire particulière versée, Anthropic a déclaré qu'il avait maintenant pris des mesures pour empêcher ce type de mauvaise utilisation. Mais il a ajouté que cette méthode d'attaque est susceptible de devenir de plus en plus courante «car l'IA réduit la barrière à l'entrée pour des opérations de cybercriminalité sophistiquées».
Son dernier rapport de renseignement sur les menaces a également souligné comment les agents nord-coréens ont utilisé Claude pour sécuriser frauduleusement des postes d'emploi à distance dans les sociétés technologiques américaines Fortune 500, et un autre cas dans lequel un cybercrimiral a utilisé ses outils d'IA pour créer et commercialiser divers produits de ransomware, les vendant à d'autres cybercriminaux pour jusqu'à 1 200 € par pièce.
De nombreux pirates utilisent l'IA sous une forme ou une autre depuis des années. Cependant, des chatbots comme Chatgpt, qui ont été publiés en 2022, ont facilité le lancement des attaques, et maintenant la montée des agents de l'IA représente une menace encore plus grande. Heureusement, la technologie même exploitée par les attaquants est également exploitée par les entreprises de cybersécurité pour construire une ligne de défense critique, bien que c'est clairement une bataille constante pour suivre le rythme.
