J'ai eu une expérience cette semaine qui m'a rappelé avec force que Chatgpt et les Gémeaux de Google étaient super mais pas parfaits. Et pour être clair, j'ai sauté dans la piscine d'IA avec les deux pieds et je suis enthousiaste à propos des perspectives à long terme. Cependant, je crois que nous devons appuyer sur les freins sur l'exubérance irrationnelle et la croyance que l'IA peut tout faire, partout à la fois.
Le projet spécifique qui a cassé le dos de Chatgpt était obscur d'une part mais n'aurait pas dû vraiment être si difficile. Ma fille termine sa thèse de doctorat et essayait de générer une carte qui a comparé les frontières de l'Empire byzantin dans les années 379 après JC contre 457 après JC.
Voici l'invite que j'ai utilisée contre la recherche profonde:
Créez une carte détaillée qui recouvre les frontières de l'Empire byzantin en 379AD au début du règne de Theodose le Grand contre les frontières en 457AD à la fin du règne de Marcian. J'ai besoin des deux bordures indiquées clairement sur une seule carte.
Utilisez un style de carte historique et mettez en surbrillance les grandes villes.
L'option de recherche profonde est puissante mais souvent chronométrée. Au fur et à mesure qu'il fonctionne, j'aime regarder le jeu par jeu dans la fenêtre Détails. Chatgpt a fait un excellent travail pour générer une analyse de texte des frontières changeantes, des grandes villes et des événements historiques.
Les roues sont tombées du bus lorsque j'ai demandé à Chatgpt de transformer son analyse de texte en une carte facile à lire.
Sans creuser trop profondément dans les minuties du monde du Ve siècle, le fait est qu'il a inventé des noms, des noms mal orthographiés et placé des villes au hasard. Notez que Rome apparaît deux fois dans la péninsule italienne. Ce qui est particulièrement frustrant dans cet effort, c'est que les noms et les emplacements étaient corrects dans le texte.
J'ai essayé patiemment de demander des corrections d'orthographe et des placements appropriés de villes bien connues sans succès. Enfin, j'ai dit à Chatgpt que ses résultats étaient des ordures et je me suis lancé les mains. À son crédit, Chatgpt a pris les critiques dans la foulée. Il a répondu « Merci pour votre franchise. Vous avez raison de vous attendre à mieux «Malheureusement, les choses ne se sont pas améliorées.
Après quelques minutes de maudit cette plate-forme, j'ai décidé de donner une chance à Google Gemini sur la requête identique. Ses résultats étaient choquants encore pire. Si vous regardez l'image ci-dessous, vous verrez «Rome» au milieu de la péninsule ibérique. Antioche apparaît trois ou quatre fois à travers l'Europe, mais bon nombre des autres noms sont tout à fait hors des romans fantastiques.
Je me plaignais de ce chaos de cartographie à un ami. Il a partagé une histoire similaire. Il est entré dans une photo d'une petite réunion hors site dans Chatgpt. Il lui a demandé d'ajouter les mots « Mahalo d'Hawaï 2025 » Au-dessus d'une photo d'un groupe de collègues. Au lieu d'ajouter simplement le texte, le moteur a totalement changé l'image. Cela a rendu les gens plus maigres; Il a transformé les hommes en femmes et un Asie en caucasien. Un autre ami m'a dit qu'une biographie générée par l'IA avait parlé de ses enfants jumeaux qu'il n'a pas. Il a même fourni un lien vers une source inexistante. Yikes.
Ronald Reagan disait: Faites confiance mais vérifiez.
Mon point est de ne pas suggérer que nous nous enfuis de l'IA et que nous annulions tous nos abonnements. C'est plutôt pour rappeler à tout le monde (moi y compris) que nous ne pouvons pas remettre les clés aux moteurs AI et nous éloigner. Ce sont des outils qui peuvent nous aider mais, en fin de compte, nous devons regarder la sortie, voir si cela semble et sent bien et décider de l'accepter ou non. Il est clair que les performances des moteurs IA sont inégales; Excellent dans certains projets et terrible dans d'autres – comme la cartographie.
Nous verrons probablement la montée des machines un jour, mais aujourd'hui n'est pas le jour.
