Les fausses reportages et les campagnes de désinformation motivées par l'IA génératrice présentent un risque important pour causer des courses bancaires, selon une nouvelle étude du Royaume-Uni
Selon le cabinet de recherche, dites non à DISINFO, et la société de communication Fenimore Harper, des systèmes d'IA génératifs peuvent facilement être exploités pour créer de fausses histoires apparaissant sur les réseaux sociaux qui suggèrent que les banques souffrent de carences de sécurité spécifiques ou que l'argent de leurs déposants n'est pas sûr.
« Comme l'IA rend les campagnes de désinformation plus faciles, moins chères, plus rapides et plus efficaces que jamais, le risque émergent pour le secteur financier augmente rapidement mais souvent négligé », indique le rapport. Il note également que les transactions bancaires en ligne et mobile peuvent transférer les fonds d'un compte en quelques secondes. Plus précisément, l'étude a révélé que pour chaque ~ 12 € de publicité sur les réseaux sociaux dépensée, les escrocs pouvaient tirer jusqu'à 1,2 million de dollars de dépenses frauduleuses.
Ce danger potentiel exige que les banques et autres institutions financières surveillent les retraits de compte pour identifier quand les fausses informations provoquent leur comportement client, selon l'étude. « Bien que nous pensons qu'un événement de l'industrie comme celui-ci est peu probable, il est toujours possible, il est donc essentiel que les institutions financières soient préparées », a déclaré à Reuters Woody Malouf, responsable du crime financier de Revolut.
Cependant, les institutions financières seraient restées optimistes sur la technologie émergente. « Les banques travaillent dur pour gérer et atténuer les risques autour de l'IA et les autorités réglementaires examinent les défis potentiels de stabilité financière que poses la technologie », a déclaré à Reuters UK Finance. Cette nouvelle intervient alors que les entreprises et les défenseurs de l'IA se réunissent à Paris dans le cadre du sommet de l'IA en France cette semaine où JD Vance a précédemment fait valoir que les États-Unis pouvaient et doivent produire des processeurs d'intelligence artificielle «les plus puissants» au monde.
