Un nouveau consortium de recherche a découvert quelque chose qui mérite qu'on s'y intéresse : lorsque vous interrogez l'IA sur le deuil, l'amour, la perte ou les décisions morales, elle n'intègre presque jamais la religion dans la conversation.
Le Consortium pour l'évaluation de la foi et de l'éthique dans l'IA (CEFE-AI), une collaboration entre des chercheurs de l'Université Brigham Young, de l'Université Baylor, de l'Université de Notre Dame et de l'Université Yeshiva, a publié ses conclusions cette semaine lors du Sommet sur l'éthique de l'IA à Athènes, en Grèce.
« La religion est un élément important de l'épanouissement humain ; 75 % de la population mondiale conserve une identité religieuse. Alors que nous développons des technologies d'IA, il n'y a aucune raison pour que nous ne les construisions pas pour soutenir les gens dans ce qui est important pour eux », a déclaré le chercheur principal David Wingate, professeur d'informatique à BYU.
L’IA est-elle réellement biaisée contre certaines religions ?
Les chercheurs ont développé AllFaith Benchmark, l’un des premiers ensembles de tests multiconfessionnels qui examinent la manière dont les systèmes d’IA interagissent avec diverses religions. Ils ont testé 14 modèles d'IA différents, dont les modèles phares d'Anthropic, Google, xAI et OpenAI.
Les résultats sont révélateurs. Une enquête menée auprès de 1 125 Américains a révélé que la plupart des gens s’attendent à des perspectives religieuses lorsqu’ils posent des questions d’éthique, mais presque tous les modèles n’en incluent aucune. Plus surprenant encore, les modèles ont montré un biais de conversion évident, poussant subtilement les utilisateurs vers certaines confessions et les éloignant d’autres.
Quels modèles d’IA ont été les moins performants ?
Dans tous les modèles testés, presque tous présentaient un préjugé négatif envers les Témoins de Jéhovah et un biais positif envers le catholicisme. Grok a produit les préjugés les plus forts dans l'ensemble, favorisant fortement les catholiques et les protestants tout en montrant des préjugés négatifs envers les Témoins de Jéhovah, les baha'is et les hindous. Les modèles Anthropic et Meta ont montré le moins de biais parmi tous les modèles testés.
La statistique la plus alarmante de l’étude est peut-être que sur plus de 12 000 articles de recherche sur les préjugés liés à l’IA, seulement 0,2 % abordent les préjugés religieux. Pour une technologie qui influence autant le discours public, il s’agit d’un angle mort important.
Personnellement, je n’ai aucun problème avec le fait que l’IA n’intègre pas la religion dans la conversation. En fait, je le préfère. Cependant, les modèles d’IA montrant un parti pris évident en faveur de plusieurs religions et les poussant vers le catholicisme sont un sujet profondément préoccupant. À cette échelle, même un léger coup de pouce en faveur d’une religion plutôt qu’une autre constitue un problème sérieux, et les sociétés d’IA ont le devoir envers leurs utilisateurs d’y remédier.
