Planifier un voyage est déjà assez stressant sans se demander si le résumé élogieux de l'hôtel que vous venez de lire a été rédigé par une IA qui a ignoré les parties effrayantes. Il s’avère que c’est peut-être exactement ce qui se passe sur TripAdvisor.
Selon une enquête menée par le groupe de consommateurs Which?, rapportée par le Guardian, les résumés d'avis générés par l'IA de TripAdvisor atténuent les plaintes sérieuses des clients et, dans certains cas, celles carrément dangereuses.
Pouvez-vous faire confiance à un résumé IA des avis sur vos hôtels ?
Prenez par exemple le Riu Palace Santa Maria au Cap-Vert. Le résumé de l'IA l'a qualifié de impeccable, avec divers restaurants recevant des critiques élogieuses. Les vrais invités, en revanche, ont décrit avoir servi du poulet cru, des mouches et des oiseaux près du buffet, et même des souris mortes près du coin salon.
La chaîne hôtelière est actuellement poursuivie devant la Haute Cour par des centaines de clients pour des maladies présumées liées à des manquements en matière d'hygiène. Vous ne sauriez rien de tout cela grâce au joyeux résumé de l’IA, qui a depuis été supprimé.
Si vous pensiez que c'était mauvais, je suis triste de vous informer que la situation empire. Dans un hôtel en Turquie, des clients ont signalé un harcèlement sexuel répété de la part du personnel masculin. Le résumé de l'IA a qualifié le service de convivial avec seulement quelques erreurs.
Si quelqu’un réservait l’hôtel sur la base de l’aperçu des avis des utilisateurs par l’IA, il n’aurait aucune idée de l’horreur à laquelle il serait confronté. L’enquête a découvert plusieurs autres exemples similaires.
Pourquoi l’IA continue-t-elle d’atténuer les mauvaises critiques ?
Duncan Brumby, professeur d'interaction homme-machine à l'UCL, a proposé une explication simple. Les modèles d’IA ont tendance à atténuer les critiques sévères, car la plupart de leurs données de formation sont fades et polies. Ainsi, lorsqu’un client écrit un avis négatif, l’IA le traite parfois comme un inconvénient mineur.
TripAdvisor affirme qu'il examine les résumés incompatibles et que ses systèmes suppriment les aperçus de l'IA lorsque les avis mentionnent des incidents de sécurité graves. Il soutient également que ces résumés n’ont jamais été destinés à remplacer de véritables examens.
Pourtant, le point à retenir est simple. Ne laissez pas les résumés de l'IA prendre vos décisions de voyage à votre place. Faites-le défiler, lisez les critiques d’une étoile et consultez également d’autres sites. Les résumés de l'IA se sont révélés à maintes reprises semés d'incohérences, et il est toujours bon de faire vos propres recherches, de peur que vos vacances ne se transforment en cauchemar.
