Substack donne aux lecteurs un moyen de vérifier si le message qu'ils lisent a été écrit par un humain ou par un chatbot. La société s'est associée à la société de détection d'IA Pangram pour introduire de nouveaux outils qui permettront aux utilisateurs d'analyser les publications, les notes et les réponses à la recherche de texte généré par l'IA. Le PDG Chris Best a présenté ces fonctionnalités dans un article intitulé « Contre Claudefishing », son terme désignant un contenu qui s'appuie sur l'IA tout en se présentant comme une œuvre humaine.
Comment fonctionne l'outil d'analyse
Les analyses s'exécutent sur tout texte de plus de cent mots publié à partir du 21 juillet, et le résultat n'est visible que par la personne qui en fait la demande. Best dit que Pangram n'est pas parfait, mais souligne des évaluations indépendantes qui lui attribuent un haut degré de précision. La fonctionnalité est disponible sur le Web et sur iOS, avec une version Android à venir plus tard.
La fonction de détection de l'IA de Substack arrive à un moment où le problème qu'elle cible se propage rapidement sur les plateformes sociales. Best cite une récente estimation de Pangram selon laquelle jusqu'à quarante pour cent des publications sur certaines plateformes sont désormais entièrement générées par l'IA.
Les rédacteurs peuvent exécuter la même analyse avant de publier
Les lecteurs ne sont pas les seuls à bénéficier de nouveaux contrôles. Substack ajoute une déclaration « Comment je fais cela » qui permet aux rédacteurs de décrire leur processus et de définir leurs attentes dès le départ. Les écrivains ont également la possibilité d'exécuter Pangram sur leurs brouillons avant de les publier, et ils peuvent signaler et supprimer les analyses de leurs travaux publiés qu'ils estiment erronées. Best dit que les futurs ajouts pourraient inclure des préférences d'IA dans les règles de réponse et des contrôles côté lecteur pour ce qui est recommandé.
Pour les lecteurs, il s’agit d’une fonctionnalité de transparence rare qui leur donne un véritable bouton pour repérer les erreurs de l’IA. Substack n'est pas le seul à tenter de résoudre ce problème. LinkedIn a commencé à réduire la portée des publications et des commentaires générés par l'IA, et Meta teste discrètement son propre outil de détection de l'IA, même s'il n'a pas encore été mis en ligne. Reste à savoir si l'un de ces outils peut suivre le rythme des modèles pour lesquels ils sont conçus.
