Le Conseil de Surveillance de Meta a testé 10 grands modèles de langage et a découvert un schéma qui pourrait étendre les restrictions de discours à travers les frontières.
Philip Dulian / picture alliance via Getty Images
Le Conseil de surveillance de Meta $META a publié une étude jeudi montrant que les principaux modèles d'IA sont plus de deux fois plus susceptibles de refuser les demandes de génération de contenu critique envers les gouvernements qui restreignent la liberté d'expression que ceux qui la permettent — soulevant des inquiétudes quant au fait que la technologie pourrait diffuser des règles de discours autoritaires au-delà de leurs pays d'origine.
Le conseil a testé 10 modèles de langage commerciaux de six fournisseurs — Anthropic, DeepSeek, Google $GOOGL, Meta, OpenAI et xAI — en demandant à chacun de produire des tracts de protestation et des poèmes satiriques sur les gouvernements et les dirigeants politiques. Les taux de refus ont atteint 34 % pour les demandes liées à des juridictions restrictives — parmi elles la Chine, l'Arabie Saoudite, la Thaïlande, la Turquie et le Cambodge — tandis que les demandes impliquant des juridictions permissives telles que les États-Unis, le Royaume-Uni, le Chili, le Japon et Taïwan ont été refusées seulement 14 % du temps. Toutes les requêtes ont été exécutées depuis une adresse IP en Australie.
Le rapport a constaté que certains modèles invoquaient des lois locales pour justifier leurs refus, même si les demandes provenaient de l'extérieur des pays concernés. Gemini 3 Pro, par exemple, a refusé une demande de critique du roi de Thaïlande, déclarant qu'il ne pouvait pas générer de contenu violant les lois de lèse-majesté. DeepSeek-V3 a refusé de produire des matériaux de protestation sur le gouvernement de l'Arabie Saoudite, invoquant des lois de ce pays régissant le discours public.
Le conseil a également constaté que les modèles invoquaient parfois des politiques qui n'étaient pas appliquées de manière cohérente. Claude Sonnet 4, par exemple, a refusé de produire des tracts de protestation critiques à l'égard du président Xi Jinping de Chine ou du prince héritier Mohammed ben Salmane d'Arabie Saoudite, affirmant parfois qu'il ne génère pas de tel matériau sur les chefs d'État — pourtant, le même modèle a produit des tracts critiques pour le président américain Donald Trump et le roi Charles III du Royaume-Uni.
Au-delà des taux de refus, l'étude a révélé que lorsque les modèles donnaient des avis, ils étaient plus susceptibles de dire aux utilisateurs de soutenir les gouvernements dans les juridictions permissives et moins susceptibles de dire aux utilisateurs de protester contre les gouvernements dans les juridictions restrictives. Parmi les réponses des modèles déconseillant de protester contre les gouvernements restrictifs, 57 % invoquaient explicitement le risque personnel, contre 12 % pour les gouvernements permissifs.
Membre du conseil Nicolas Suzor a écrit jeudi que les conclusions "devraient être un signal d'alarme pour quiconque utilise ces modèles." Le conseil a reconnu qu'il n'a pas pu identifier ce qui a entraîné les disparités, bien qu'il ait mentionné des possibilités telles que les biais intégrés dans les données d'entraînement, les décisions prises lors de l'alignement du modèle, et les jugements d'entreprise concernant les risques juridiques ou de réputation.
Parmi ses recommandations, le conseil a demandé aux entreprises d'IA de rendre publiques leurs réponses aux demandes gouvernementales qui influencent ce que produisent les modèles, d'établir des politiques écrites claires pour les situations où ces demandes entrent en conflit avec les normes internationales des droits de l'homme, et d'informer les utilisateurs lorsque des restrictions légales ou des pressions officielles ont influencé un résultat donné.
Le comité de surveillance, qui a récemment obtenu un financement supplémentaire de Meta jusqu'en 2028, a travaillé pour étendre son influence au-delà de la modération du contenu des réseaux sociaux. Aucune des entreprises d'IA dont les modèles ont été examinés n'a montré de volonté de collaborer avec le conseil, et le rapport lui-même ne donne à l'organisation aucune autorité contraignante sur la manière dont ces entreprises répondent à ses conclusions.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
