Si vous avez discuté avec ChatGPT récemment et que vous avez remarqué qu'il laisse apparaître des références étrangement spécifiques à des gobelins, des gremlins, des ogres ou des trolls, vous n'imaginez rien. OpenAI a maintenant expliqué pourquoi ChatGPT a développé cette étrange habitude et comment elle est corrigée.
Comment une bizarrerie « ringard » est devenue le problème de tout le monde
Le problème a commencé discrètement avec GPT-5.1, publié en novembre. Après ce lancement, l'utilisation du mot « gobelin » dans les réponses ChatGPT a bondi de 175 %, tandis que « gremlin » a augmenté de 52 %. Le coupable s'est avéré être l'un des paramètres de personnalité facultatifs de ChatGPT appelé « Nerdy », conçu pour rendre l'IA ludique et intellectuellement curieuse.
Au cours de la formation, OpenAI a accidentellement attribué au modèle des récompenses inhabituellement élevées pour les réponses incluant des métaphores basées sur les créatures, et l'habitude s'est rapidement installée.
Comment un seul paramètre de personnalité a-t-il provoqué autant de discussions entre gobelins ?
C'est ici que cela devient intéressant. Même les utilisateurs qui n'ont jamais activé la personnalité Nerdy ont commencé à voir des références à des gobelins apparaître dans leurs discussions. En effet, la formation en IA ne se limite pas à un seul paramètre. Une fois que le modèle ChatGPT a été récompensé pour ce style, le comportement s'est traduit par des réponses générales à tous les niveaux.
OpenAI indique que la personnalité Nerdy ne représente que 2,5 % de toutes les réponses ChatGPT, mais représente 66,7 % de toutes les mentions gobelines.
Alors, comment OpenAI résout-il réellement ce problème ?
OpenAI a retiré la personnalité Nerdy en mars avec ChatGPT-5.4, ce qui a provoqué une forte baisse des références aux gobelins. La société a également supprimé le signal de récompense qui dictait le comportement et filtré les données d'entraînement pour réduire les références à d'autres créatures magiques.
Son outil de codage, Codex, nécessitait cependant une instruction de remplacement distincte, car il avait déjà commencé la formation avant que la cause première ne soit identifiée. Les fans de Fantasy peuvent toujours déverrouiller manuellement le mode gobelin dans le Codex, si c'est votre truc.
OpenAI est également confronté à d'autres décisions liées à la personnalité, notamment la suspension indéfinie de son mode adulte précédemment taquiné pour les utilisateurs vérifiés.
