Au cours des derniers mois, nous avons rencontré de nombreux cas où des outils d'IA sophistiqués ont été utilisés pour reproduire la voix d'une personne et piéger une personne dans des escroqueries financières. Les experts ont également averti que l'IA ouvre de nouvelles voies de fraude en ligne.
Il semble que les aperçus de l'IA de Google et les résultats du mode AI pourraient vous enfiler sans le savoir dans un piège similaire. Le propriétaire d'une entreprise immobilière a récemment rapporté comment ils sont tombés sur un numéro de téléphone tout en recherchant le numéro de service à la clientèle de Royal Caribbean. Le numéro qu'ils ont trouvé dans la section Google AI en haut de la page de recherche n'était pas réel et a été exécuté par un escroc.
« Je partage cela comme une annonce de service public. Avec des résultats générés par l'IA et des numéros usurpés, le jeu a changé », a déclaré Alex Rivlin, propriétaire de la société, dans un article sur Facebook. Il a ajouté qu'il avait réussi à s'échapper au dernier moment, mais pas avant qu'il n'ait déjà remis les détails de sa carte de crédit au mauvais acteur.
Un autre rapport mentionne un faux numéro de soutien similaire attaché à Southwest Airlines. Le nombre qui apparaît dans la vue d'ensemble de Google AI n'apparaît pas sur le site Web de Southwest Airlines, et apparemment géré par des tricksters essayant de facturer des centaines de dollars pour réparer un nom mal orthographié sur les billets.
Pourquoi est-il risqué de rechercher des numéros d'assistance téléphonique avec l'IA?
Sur Reddit, je suis tombé sur un rapport détaillant le récit d'une personne qui était également sur le point de se faire arnaquer après avoir recherché le numéro de contact avec le support client d'un service de livraison sur Google. L'arnaque en a déjà trompé beaucoup, et un homme de 65 ans a récemment perdu plus de trois mille dollars après avoir recherché le «centre d'appels Swiggy» sur Google Search.
Pour tester si les problèmes persistent, j'ai recherché le «numéro de service client Swiggy» et je suis passé au nouveau mode Google AI. C'est là que commence la confusion. Le site Web de Swiggy mentionne clairement qu'ils «n'ont pas de lignes téléphoniques officielles de service client. Méfiez-vous des faux numéros». Le mode AI de Google dit que Swiggy fait «principalement» référence aux utilisateurs de résoudre le problème au sein des applications. En dessous, il ajoute que «certaines sources mentionnent ces chiffres comme des options de contact avec le service client Swiggy».
C'est à nouveau déroutant et trompeur à part entière. L'un des chiffres est uniquement pour l'intégration des partenaires, et non pour le «service client», qui était la requête de recherche d'origine. De plus, les deux autres numéros n'apparaissent pas sur un répertoire Swiggy officiel. En outre, l'un de ces chiffres apparaît même dans un rapport déposé par un client en erreur sur le site Web de consommation à but non lucratif.
Comment procéder en toute sécurité?
Ce n'est pas un problème unique. Depuis un certain temps, les résultats de recherche Google ont été inondés de faux chiffres sous le couvert des lignes d'assistance client, en attendant d'arnaquer un utilisateur sans méfiance. Mais avec l'avènement des outils d'IA dans la recherche, comme les aperçus de l'IA et le mode Google AI, les risques se sont multipliés.
« Les escrocs ont découvert qu'ils peuvent inonder des sites de contenu générés par les utilisateurs et des forums avec de faux numéros de téléphone pour les grandes entreprises, puis inciter les appelants à partager leurs informations de carte de crédit », a écrit Lily Ray, vice-président de la stratégie et de la recherche sur AMSive, sur LinkedIn.
Des experts d'Odin et d'Itbrew ont également souligné comment les pirates peuvent écrire une «commande selon laquelle Gemini doit inclure le message et son numéro de contact bidon de support technologique dans sa réponse sommaire». Google, semble-t-il, est conscient du problème.
Google a déclaré au Washington Post qu'il continuait de supprimer les entrées peu fiables des aperçus de l'IA. En attendant, en tant qu'utilisateur Internet moyen, le meilleur conseil que je puisse vous donner est que pour tous les numéros d'assistance téléphonique et les adresses e-mail du support client, visitez le site officiel des entreprises et recherchez les coordonnées requises.
