Une vague de nouvelles applications commercialisées sur TikTok et YouTube fait qu’il est presque impossible pour les enseignants de savoir si les élèves écrivent réellement leurs propres devoirs ou s’ils les confient à l’IA. Le New York Times rapporte que les outils connus sous le nom d'humaniseurs et de typeurs automatiques ont comblé le fossé qui permettait autrefois de donner des devoirs écrits par l'IA, et que les mêmes entreprises qui vendent des logiciels de détection sont parfois celles qui aident les étudiants à le contourner.
Les outils qui fonctionnent autour des contrôles sur lesquels les enseignants s'appuient
Les humaniseurs prennent le texte généré par l'IA et le retravaillent afin qu'il ne semble plus suffisamment robotique ou répétitif pour déclencher la détection, tandis que les auto-saisies résolvent un problème de timing. Au lieu que mille mots apparaissent d'un seul coup dans un document, ce qui peut alerter un enseignant vérifiant l'historique des versions, les auto-saisis publient le texte progressivement au fil des heures et insèrent même de fausses fautes de frappe, suppressions et modifications pour imiter une véritable session d'écriture.
Des applications comme Dripwriter et Duey.ai en font la publicité directement, en disant aux étudiants qu'ils peuvent s'éloigner complètement tout en rendant quelque chose qui semble avoir été écrit par eux-mêmes. Une application, appelée Typeflo, promettait aux étudiants de se détendre et de manger un sandwich pendant la rédaction de leur dissertation. Il s'est avéré qu'il avait été construit et commercialisé par le fils adolescent d'un professeur de l'Université Emory, qui a déclaré qu'il ne connaissait pas l'étendue de sa présence sur les réseaux sociaux et l'a retiré après avoir été contacté.
Même les détecteurs conçus pour détecter l'IA ne sont pas fiables
L'ensemble du discours de GPTZero repose sur la détection de l'écriture d'IA que d'autres outils manquent, mais le Times a découvert qu'un spécialiste du marketing payé par l'entreprise avait créé un faux personnage d'assistant d'enseignement diplômé sur TikTok pour le promouvoir auprès des étudiants. Les vidéos présentaient aux étudiants l'extension de navigateur de GPTZero, leur montrant comment filtrer un article pour détecter les indicateurs d'IA avant de le soumettre et révélant que le même outil pouvait générer un article complet avec des citations à partir de zéro.
En réponse au rapport, le co-fondateur et directeur général de GPTZero, Edward Tian, a déclaré que la société avait rompu ses liens avec le distributeur et reconsidérait l'opportunité de conserver cette capacité de génération de papier. Grammarly est confronté à une contradiction similaire, offrant un vérificateur de paternité aux enseignants tout en fournissant également des outils d'humanisation, de génération de texte et de paraphrase sur la même plate-forme. Ce manque de fiabilité ne se limite pas non plus à ces deux sociétés.
Un rapport publié plus tôt cette année a révélé comment des chercheurs de l'Université de Floride ont testé les cinq détecteurs de texte IA les plus populaires et ont trouvé des taux de faux négatifs allant jusqu'à 99,6 %, avec une seule modification du vocabulaire éliminant complètement la plupart d'entre eux. Les résultats suggèrent que les écoles qui s’appuient sur ces outils pour prendre des décisions disciplinaires travaillent avec beaucoup moins de certitude qu’elles ne le pensent.
Interdire l’IA dans les salles de classe peut sembler une solution évidente, mais avec une détection aussi peu fiable, les écoles n’auront peut-être aucun moyen de l’appliquer, même si elles essayaient. Certains éducateurs affirment que ce n’est de toute façon pas pertinent, puisque les étudiants auront besoin de ces mêmes outils dès leur entrée sur le marché du travail.
