Un raccourci recommandé par ChatGPT a laissé deux randonneurs coincés sur le flanc d'une montagne en Pologne ce mois-ci, et ils avaient besoin d'un hélicoptère pour redescendre. Il s’agit du dernier cas d’un chatbot IA dirigeant les voyageurs vers des itinéraires qu’il n’a aucun moyen réel d’évaluer.
Le raccourci de ChatGPT mène tout droit à une impasse
Selon Cybernews, les deux randonneurs lituaniens tentaient d'atteindre la vallée des Cinq Lacs dans les Tatras et ont demandé à ChatGPT de leur trouver un chemin plus rapide pour y arriver. La réponse du chatbot les a conduits vers Niebieska Turnia et sur la traversée de Świnicka Ławka, une section qui exigeait une expérience d'escalade qu'aucun d'eux n'avait.
Une fois arrivés sur place, ils ne pouvaient ni avancer ni reculer seuls et ont dû contacter Tatra Volunteer Search and Rescue (TOPR), une organisation polonaise de sauvetage à but non lucratif, le 4 juillet. TOPR a confirmé que les deux hommes s'en sont sortis sains et saufs en hélicoptère.
Un modèle de mauvais conseils de voyage de l'IA
C’est loin d’être un incident ponctuel. Un couple en Colombie-Britannique a rencontré des problèmes similaires l'année dernière, lorsqu'un itinéraire planifié par l'IA les a laissés bloqués sur une montagne inutile sans l'équipement ni les prévisions requises par le terrain, obligeant une équipe de secours locale à intervenir. Le système de suivi des incidents par l'IA de l'Organisation de coopération et de développement économiques a également enregistré des chatbots inventant des destinations entières, comme un « Canyon sacré de Humantay » au Pérou qui n'existe tout simplement pas.
Le problème ne se limite pas à la randonnée ou à ChatGPT. Un rapport publié plus tôt cette année a révélé que les résumés des critiques rédigés par l'IA de TripAdvisor minimisaient les graves plaintes en matière de sécurité dans les hôtels, décrivant les propriétés comme étant impeccables malgré les rapports des clients faisant état de manquements en matière d'hygiène et de harcèlement. Dans les deux cas, l’IA a produit une réponse claire et sûre à une situation qui n’a jamais été claire ou simple au départ, qu’il s’agisse de l’état d’un hôtel ou d’un terrain dangereux.
Si vous laissez ChatGPT ou un outil similaire vous aider à planifier une randonnée ou un voyage, ces incidents suggèrent que vous ne devriez pas faire aveuglément confiance à ce qu'il dit. Faites vos propres recherches et rassemblez des informations auprès de sources fiables avant de partir.
