L'intelligence artificielle est rapidement devenue l'outil incontournable pour tout, depuis la rédaction d'e-mails et la synthèse de réunions jusqu'à l'aide aux étudiants dans l'étude ou aux développeurs pour déboguer le code. Mais la même technologie qui fait gagner du temps aux gens peut également être utilisée à mauvais escient, et un nouveau rapport suggère que les organisations terroristes trouvent des moyens d’y parvenir.
Selon un document de recherche partagé avec le New York Times avant sa publication, les chercheurs ont trouvé des preuves que des membres de Boko Haram utilisent des chatbots IA populaires pour soutenir à la fois leurs activités quotidiennes et leurs tâches liées au combat. Des entretiens avec 27 anciens membres menés au Nigeria au cours des deux dernières années suggèrent que des outils tels que ChatGPT, Gemini, Claude, Grok, Meta AI et DeepSeek ont été utilisés pour recueillir des informations techniques, dépanner des armes et même aider à planifier des attaques.
Ce n'était pas seulement quelques mauvais acteurs qui s'amusaient
Ce qui rend ces résultats particulièrement préoccupants, c’est qu’ils n’ont pas été décrits comme le travail de quelques individus expérimentant l’IA. Le rapport affirme que l'utilisation de l'IA par le groupe est devenue organisée, avec des équipes dédiées, une formation interne et des connaissances partagées entre les membres. Les chercheurs affirment également que certains utilisateurs ont réussi à contourner les protections de sécurité intégrées conçues pour empêcher l'IA de répondre aux demandes liées à la violence.
Cela ne signifie pas nécessairement que les chatbots IA d’aujourd’hui distribuent des instructions dangereuses à la demande. Une grande partie de la recherche se concentre sur l’activité jusqu’à la fin de 2024, et les sociétés d’IA affirment que les nouvelles versions de leurs modèles incluent des garanties plus strictes. Ils soulignent également que de nombreuses invites tombent dans une zone grise. Par exemple, demander à une IA comment réparer une moto ou comprendre la chimie de base n’est pas dangereux en soi, même si des informations similaires pourraient être utilisées à mauvais escient.
Le défi est désormais de garder une longueur d'avance
OpenAI a déclaré au New York Times que l'utilisation de ChatGPT pour soutenir le terrorisme ou la violence viole ses politiques et a déclaré qu'elle continue d'améliorer ses défenses contre les abus. Meta a également noté que la recherche portait principalement sur des versions plus anciennes de ses modèles d'IA et a déclaré avoir renforcé les mesures de sécurité depuis lors. Pendant ce temps, xAI et DeepSeek n'ont pas répondu aux demandes de commentaires, selon le rapport.
Les experts en sécurité mettent également en garde contre l’hypothèse que l’IA confère soudainement aux groupes terroristes des capacités surhumaines. La planification et la réalisation d’attaques dépendent toujours de la logistique, du financement, de la communication et de la coordination humaine du monde réel – des choses qu’un chatbot ne peut pas remplacer. Au lieu de cela, les chercheurs pensent que l’IA est plus susceptible de rendre les membres moins expérimentés plus capables que de changer radicalement le paysage des menaces. Néanmoins, le rapport rappelle une fois de plus que le débat sur la sécurité de l’IA ne concerne pas seulement les étudiants qui trichent sur leurs devoirs ou les personnes qui génèrent de fausses images. À mesure que les modèles d’IA deviennent plus performants et accessibles, les entreprises continueront à subir des pressions pour garantir que les outils puissants restent utiles aux utilisateurs légitimes tout en devenant de plus en plus difficiles à exploiter pour les acteurs malveillants.
