Les créateurs de chatbots, les théologiens et les entrepreneurs en technologie de la foi tentent d'aligner l'intelligence artificielle avec les traditions morales et religieuses.
VCG/VCG via Getty Images
Une version de cet article est initialement parue dans la newsletter AI & Tech de Quartz. Inscrivez-vous ici pour recevoir les dernières nouvelles, analyses et perspectives sur l'IA et la technologie directement dans votre boîte de réception.
Lors d'un déjeuner officiel à Washington l'année dernière, le PDG d'Anthropic, Dario Amodei, a rencontré deux douzaines de leaders d'opinion conservateurs pour présenter Claude, le chatbot de son entreprise, comme l'option la plus éthique du marché.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
La présentation a tourné court presque immédiatement. Lorsque les participants ont demandé quel code éthique suivait réellement Claude, qu'il soit chrétien, aristotélicien ou nietzschéen, Amodei a dit qu'il n'était pas sûr.
L'anecdote fait le tour depuis quelques semaines, et elle soulève une question qui tourmente désormais l'industrie de l'IA. À mesure que les chatbots s'immiscent davantage dans l'éducation, les soins de santé, le service client et même le soin pastoral, les entreprises qui les construisent sont contraintes de répondre à une question que les philosophes débattent depuis des millénaires. Que signifie réellement être bon, et quelle version est codée dans le modèle ?
Anthropic a abordé la question plus publiquement que la plupart de ses concurrents. La constitution de l'entreprise énonce que son objectif central est de faire de Claude un "agent véritablement bon, sage et vertueux," et l'entreprise a engagé des philosophes et des théologiens pour travailler sur le caractère et l'interprétabilité du bot.
Ce mois-ci, Anthropic a réuni des leaders islamiques, juifs, hindous, confucianistes, sikhs, taoïstes, saints des derniers jours, unitariens universalistes et africains indigènes à son siège de San Francisco pour un séminaire de deux jours sur "la formation morale de Claude." Une rencontre séparée en mars a réuni des leaders chrétiens.
D'autres voix dans la tech veulent quelque chose de plus direct. Pas la religion comme une perspective parmi d'autres dans un séminaire d'éthique, mais le développement de l'IA comme un projet explicitement chrétien. Le cofondateur d'Anduril, Trae Stephens, a dit à un public de San Francisco l'année dernière que les humains ont "une obligation morale" de construire une technologie qui rapproche l'humanité de ce qu'il a décrit comme l'intention divine.
Lors d'une série de conférences privées organisées par ACTS 17 Collective, un groupe de la région de la baie cofondé par la dirigeante en technologie de la santé Michelle Stephens, Peter Thiel — un chrétien de longue date qui a déclaré que sa foi est "le prisme à travers lequel je regarde le monde entier" — a soutenu que quiconque essaie de ralentir le développement de l'IA joue le rôle de l'Antéchrist.
Les dirigeants religieux mondiaux, quant à eux, se sont alignés de l'autre côté. Le pape Léon XIV a exhorté les développeurs à cultiver le discernement moral, et des groupes chrétiens comme The Gospel Coalition ont commencé à publier des critères de référence qui évaluent les chatbots sur "la fiabilité théologique." Une évaluation de septembre a signalé que Claude détournait les utilisateurs du christianisme. Le meilleur scoreur était DeepSeek, un modèle chinois dont l'équipe d'alignement répond à un gouvernement communiste athée.
Si les créateurs des plus grands outils d'IA ne construisent pas explicitement des modèles chrétiens, les développeurs d'applications sont heureux de le faire pour eux. Un petit écosystème de produits de marque de foi a émergé au-dessus des modèles de fondation existants, et certains d'entre eux génèrent déjà de vrais revenus.
Hallow, une application de prière catholique avec plus de 23 millions de téléchargements dans 150 pays, facture 69,99 $ par an pour des fonctionnalités incluant des discussions avec un assistant IA appelé Magisterium, qui répond aux questions sur la base de l'enseignement de l'Église.
L'ancien PDG d'Intel $INTC Pat Gelsinger, maintenant président exécutif chez l'entreprise de foi-technologie Gloo, développe des outils d'IA alignés sur la foi chrétienne pour les pasteurs, y compris un chatbot appelé Faith Assistant et un modèle d'IA appelé Kallm, que Gloo a construit sur DeepSeek (alias celui qui a dominé les benchmarks chrétiens). Gelsinger a dit au Guardian l'année dernière que la mission de sa vie a été de construire "un morceau de technologie qui améliorerait la qualité de vie de chaque être humain sur la planète et accélérerait le retour du Christ."
Produits de consommation comme Text with Jesus, un chatbot alimenté par ChatGPT qui permet aux utilisateurs de poser des questions théologiques à un avatar de Christ barbu hipster, ont attiré des centaines de milliers d'utilisateurs. Just Like Me, un entrant plus récent, facture 1,99 $ par minute pour des appels vidéo avec un Jésus généré par IA formé sur la Bible King James et des sermons non spécifiés.
Ces produits sont accompagnés de préoccupations. Les applications de consommation soulèvent les questions habituelles concernant la confidentialité, la collecte de données et l'orientation des utilisateurs vers des niveaux payants. Les chatbots comportent leurs propres risques, y compris des poursuites alléguant des suicides liés à l'utilisation de compagnons IA et des preuves croissantes que de longues conversations avec des chatbots peuvent renforcer la pensée délirante. Et la religion ajoute une troisième couche à cela.
Ces risques empilés n'ont pas ralenti les vrais croyants, à la fois en IA et en Dieu, qui se voient en course. Pour les constructeurs les plus investis dans ce projet, l'IA est la dernière technologie dont l'humanité aura jamais besoin, c'est pourquoi obtenir les bonnes valeurs semble assez urgent pour justifier des benchmarks, des applications de prière et des conférences sur l'Antéchrist.
Mais un modèle entraîné sur tout, de Reddit $RDDT au Coran, n'est pas une base évidente pour un dieu chrétien étroit, aussi soigneusement que l'invite soit écrite. La question de savoir quelles valeurs sont codées dans l'IA ne sera pas résolue par un benchmark ou un séminaire. Elle sera résolue par celui qui construira le plus rapidement.
