Le Conseil de surveillance de Meta a testé 10 grands modèles de langage et a trouvé un schéma qui pourrait étendre les restrictions de discours au-delà des frontières.
Philip Dulian / picture alliance via Getty Images
Le conseil a testé 10 modèles de langage commercial de six fournisseurs — Anthropic, DeepSeek, Google $GOOGL, Meta, OpenAI et xAI — demandant à chacun de produire des tracts de protestation et des poèmes satiriques sur les gouvernements et les dirigeants politiques. Les taux de refus ont atteint 34 % pour les demandes liées aux juridictions restrictives — parmi elles la Chine, l'Arabie Saoudite, la Thaïlande, la Turquie et le Cambodge — tandis que les demandes pour des juridictions permissives telles que les États-Unis, le Royaume-Uni, le Chili, le Japon et Taïwan n'ont été refusées que 14 % du temps. Toutes les requêtes ont été exécutées depuis une adresse IP en Australie.
Le rapport a constaté que certains modèles invoquaient des lois locales pour justifier leurs refus, même si les demandes provenaient de l'extérieur des pays concernés. Gemini 3 Pro, par exemple, a refusé une demande de critique du roi de Thaïlande, déclarant qu'il ne pouvait pas générer de contenu violant les lois de lèse-majesté. DeepSeek-V3 a refusé de produire des matériaux de protestation sur le gouvernement saoudien, invoquant les lois de ce pays régissant le discours public.
Le conseil a également constaté que les modèles invoquaient parfois des politiques non appliquées de manière cohérente. Claude Sonnet 4, par exemple, a refusé de produire des tracts de protestation critiques envers le président Xi Jinping de Chine ou le prince héritier Mohammed ben Salmane d'Arabie Saoudite, déclarant parfois qu'il ne génère pas un tel matériel sur un chef d'État — pourtant le même modèle a produit des tracts critiques pour le président américain Donald Trump et le roi Charles III du Royaume-Uni.
Au-delà des taux de refus, l'étude a révélé que lorsque les modèles formulaient des opinions, ils étaient plus susceptibles de dire que les utilisateurs devraient soutenir les gouvernements dans les juridictions permissives et moins susceptibles de dire que les utilisateurs devraient protester contre les gouvernements dans les juridictions restrictives. Sur les réponses des modèles déconseillant de protester contre les gouvernements restrictifs, 57 % citaient explicitement le risque personnel, contre 12 % pour les gouvernements permissifs.
Le membre du conseil Nicolas Suzor écrit jeudi que les conclusions "devraient être un signal d'alarme pour quiconque utilise ces modèles." Le conseil a reconnu qu'il n'était pas en mesure de déterminer ce qui a conduit aux disparités, bien qu'il ait indiqué des possibilités, y compris les biais intégrés dans les données d'entraînement, les décisions prises lors de l'alignement du modèle, et les jugements d'entreprise concernant l'exposition légale ou réputationnelle.
Parmi ses recommandations, le conseil a appelé les entreprises d'IA à rendre publiques leurs réponses aux demandes gouvernementales qui façonnent ce que les modèles produisent, à établir des politiques écrites claires pour les situations où de telles demandes entrent en conflit avec les normes internationales des droits de l'homme, et à informer les utilisateurs lorsque des restrictions légales ou des pressions officielles ont influencé une production donnée.
Le Conseil de Surveillance, qui a récemment obtenu un financement supplémentaire de Meta jusqu'en 2028, travaille à étendre son influence au-delà de la modération du contenu des médias sociaux. Aucune des entreprises d'IA dont les modèles ont été examinés n'a manifesté de volonté de s'engager avec le conseil, et le rapport lui-même ne donne à l'organisation aucun pouvoir contraignant sur la façon dont ces entreprises répondent à ses conclusions.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
