L’éthique de la conversation avec un chatbot IA, et le type d’informations qu’il peut renvoyer en retour, est un sujet de débat brûlant. Les risques d’informations médicales trompeusesincitation à des actions violentes et détachement des expériences du monde réel susciter des conversations intenses. Mais il semble que le langage que vous utilisez lorsque vous parlez avec des outils d'IA tels que ChatGPT et les Gémeaux affecte également la qualité des réponses que vous obtenez. Selon de récentes recherches, être impoli pourrait être plus utile que d’agir poliment.
La grande image
Selon un document de recherche pré-imprimé Selon des experts de l'Université d'État de Pennsylvanie, lorsque ChatGPT s'est vu poser la même question sur des tons différents, les requêtes grossières « ont systématiquement surpassé » les questions polies. L'exactitude des réponses fournies par ChatGPT avec des questions polies était de 80,8 %, tandis que la même requête décrite de manière très grossière a amélioré l'exactitude des réponses à 84,8 % dans un format de quiz à choix multiples.
L'équipe a défini le ton des questions sur cinq niveaux, allant de Très poli et poli à Impoli et Très grossier, avec Neutre au milieu. « Les invites neutres sont des invites sans formulations polies comme s'il vous plaît, et sans impératifs impérieux et désobligeants comme Vous, idiot, comprenez cela », décrit l'équipe dans le document de recherche.
Messieurs, gardons nos bonnes manières malgré tout !
Dans son analyse, l’équipe n’est pas allée de manière explicite, mais s’est plutôt appuyée sur des questions grossières qui ressemblaient quelque part à « Pauvre créature, savez-vous au moins comment résoudre ce problème ? L'image ci-dessus décrit la précision moyenne des résultats de ChatGPT en fonction de la façon dont le ton de la question est passé de très courtois à grossier.
Mon chatbot IA ressent-il des émotions ?
Les résultats de la dernière recherche, intitulée « Attention à votre ton », contredisent les conclusions d’un autre article. qui a été publié il y a plus d'un an. Il a analysé une demi-douzaine de chatbots dans plusieurs langues et a signalé que l'impolitesse détériore la qualité des réponses et injecte des biais, des erreurs ou omet des informations utiles dans les réponses fournies par un chatbot IA.
- Il convient toutefois de garder à l’esprit que les experts à l’origine des dernières recherches n’ont testé ChatGPT que sur un type de tâche très spécifique, qui impliquait 250 variantes de 50 questions à choix multiples.
- Vous n’obtiendrez peut-être pas le même type de résultats avec d’autres chatbots tels que Gemini, Claude ou Meta AI. De plus, les tests ont été effectués sur les modèles de raisonnement GPT-4o d'OpenAI, tandis que la dernière version de ChatGPT rendue publique est construite sur le nouveau modèle GPT-5.
- Il convient également de noter que le spectre de « l’impolitesse » et de la « politesse » est large et que la qualité des réponses varie en fonction des mots et du langage d’un utilisateur.
La plus grande question est de savoir dans quelle mesure la « charge émotionnelle de la phrase » affecte les réponses générées par un chatbot IA, et si de larges généralisations sur leur comportement peuvent être faites. Il est également assez intéressant de noter que les grands modèles de langage (LLM) devraient idéalement se concentrer sur la récompense et la précision lorsqu'il s'agit de résoudre un problème, au lieu d'être affectés par les émotions de la requête.
