Ce message suspect concernant un péage impayé, un colis retardé ou l'expiration de points de récompense n'est peut-être plus l'œuvre d'un escroc solitaire. Ces SMS frauduleux inondent les téléphones américains depuis des années, mais quelque chose a changé.
Google affirme que l’intelligence artificielle aide les fraudeurs à mener des opérations plus importantes et plus convaincantes que jamais. La société a maintenant intenté une action en justice contre un réseau de cybercriminalité qui a utilisé Gemini AI pour créer des sites Web de phishing et lancer une campagne d'escroquerie massive ciblant des millions d'utilisateurs.
Les arnaques à l’IA sont de plus en plus difficiles à détecter
Le procès de Google vise un réseau de cybercriminalité chinois appelé Outsider Enterprise. Le groupe s'est coordonné via Telegram et a distribué des kits de phishing aux criminels du monde entier.
À l'aide de l'IA Gemini de Google, ils ont créé de faux sites Web usurpant l'identité de marques de confiance comme Google, YouTube et même le service postal américain. Ils ont utilisé l’IA pour créer des centaines de sites Web frauduleux à une échelle qui n’était tout simplement pas possible auparavant.
Le groupe a créé plus de 9 000 faux sites Web et plus d’un million d’URL frauduleuses. En seulement deux semaines, jusqu'au 1er juin, les utilisateurs d'Android ont signalé 55 000 SMS suspects et Outsider Enterprise a envoyé 2,5 millions de messages contenant des liens vers de faux sites Web.
Le FBI estime que l'opération a permis de voler 3,87 millions de numéros de cartes de crédit à des victimes dans des dizaines de pays, avec des pertes totales atteignant 1,9 milliard de dollars depuis juillet 2023 (via le WSJ).
Que fait Google à ce sujet ?
Google demande à un tribunal fédéral de New York d'arrêter complètement l'opération. La société travaille aux côtés du FBI et des opérateurs AT&T, T-Mobile et Verizon pour bloquer ces SMS avant qu'ils n'atteignent votre téléphone.
Les défenses de messagerie intégrées de Google interceptent déjà plus de 10 milliards de messages malveillants chaque mois, et l'outil de détection des escroqueries d'Android signale les appels et contacts suspects en temps réel.
Google fait également pression en faveur de sept projets de loi bipartites au Congrès pour rendre ces protections permanentes, arguant que les actions en justice ne suffiront pas à elles seules à mettre un terme à une menace que l'IA a effectivement rendue illimitée.
