Bruxelles ouvre une enquête sur le Digital Services Act concernant X à propos des deepfakes Grok, élargissant l'examen tandis que les législateurs américains affûtent leurs outils d'application.
Vincent Feuray/Hans Lucas via AFP/Getty Images
Elon Musk continue de vendre Grok comme un produit d'IA sérieux. Mais le mois dernier sur X $TWTR ressemblait plus à un test de résistance mené par les pires personnes en ligne, avec des deepfakes sexualisés et non consensuels comme preuve de concept. Et la Commission européenne examine si X a correctement évalué et atténué les « risques systémiques » liés aux contenus abusifs activés par Grok.
Lundi 26 janvier, la Commission a ouvert une enquête formelle sur X concernant les fonctionnalités d'image de Grok et la diffusion de d'images sexuelles non consensuelles générées par l'IA — une fonctionnalité d'image que X a qualifiée de « mode épicé » — y compris des contenus impliquant des mineurs. « Les deepfakes sexuels de femmes et d'enfants sont une forme de dégradation violente et inacceptable », a déclaré la responsable technologique de la Commission, Henna Virkkunen, dans le communiqué de presse.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
La Commission engage sa procédure contre Grok en vertu de la loi sur les services numériques (DSA), une loi conçue précisément pour ce genre de problème : des plateformes géantes dont les outils peuvent être utilisés de manière prévisible pour l'abus, puis amplifiés par des systèmes de recommandation très efficaces pour trouver ce qui maintient les gens à faire défiler. La Commission a également déclaré qu'elle élargissait le contrôle des systèmes de recommandation de X, y compris le passage de la plateforme vers un filtrage de contenu basé sur Grok, car le même système qui organise « ce qui est pertinent » peut également organiser ce qui est nuisible.
La Commission n'a pas fixé de délai pour l'enquête, mais si les régulateurs constatent des violations graves, l'UE peut imposer des amendes allant jusqu'à 6 % du chiffre d'affaires mondial annuel, un chiffre conçu pour être ressenti même par les entreprises qui considèrent les pénalités comme une ligne de dépense.
C'est une question de risque systémique sous le DSA — une qui examine si une très grande plateforme en ligne a évalué les dommages prévisibles avant de lancer une fonctionnalité, si elle a mis en place des garde-fous qui fonctionnaient réellement, et si elle a agi de manière décisive une fois que l'abus est devenu évident. La réponse de la Commission jusqu'à présent semble être : Montrez-nous les documents.
Politiquement, cela s'inscrit dans la poussée plus large de l'UE pour prouver qu'elle peut réellement appliquer le DSA contre des plateformes de renom, et pas seulement publier des PDF élégants à ce sujet. (Le Parlement européen fait pression publiquement pour une application plus rapide et plus forte dans ce domaine précis.)
De son côté, X insiste sur le fait qu'il a resserré l'accès et limité les fonctionnalités. X dit avoir « mis en œuvre des mesures technologiques » pour s'assurer que Grok ne modifiera plus les photos de vraies personnes en « vêtements révélateurs tels que des bikinis » — exactement le genre de revendication qui dure aussi longtemps que quelqu'un essaie une invite légèrement différente. X dit que le « correctif » s'applique à tout le monde, même aux utilisateurs payants. Et le dernier mouvement de la société mère s'accompagne également d'un petit caractère géographique — X dit qu'il géobloque ce type de modification d'image dans les endroits où c'est illégal, concédant deux choses à la fois : Premièrement, que la capacité existe ; deuxièmement, que la contrainte peut varier selon les lois actuellement à portée de votre adresse IP.
Ce n'est pas la première escalade de l'UE dans la saga Grok. Plus tôt ce mois-ci, Bruxelles a ordonné à X de conserver tous les documents liés à Grok jusqu'à la fin de 2026, prolongeant un ordre de conservation antérieur lié aux algorithmes et au contenu illégal — une décision qui semble suffisamment ennuyeuse jusqu'à ce que vous voyiez ce qu'elle peut permettre plus tard. Et au Royaume-Uni, le régulateur des communications Ofcom a ouvert une enquête sur X concernant des images sexualisées liées à Grok. Et en décembre, X a été condamné à une amende de 120 millions d'euros pour violations de la transparence du DSA (conception des coches bleues, transparence des répertoires publicitaires, accès des chercheurs).
La pression vient également de l'autre côté de l'Atlantique. Aux États-Unis, les législateurs poussent en parallèle sur un autre levier. Le Congrès a déjà adopté la loi Take It Down, qui criminalise la publication consciente d'images intimes non consensuelles, y compris le contenu généré par IA, et met en place un régime formel de suppression. Plus significativement, le Sénat a avancé la loi DEFIANCE, qui donnerait aux victimes de deepfakes sexuels générés par IA un droit d'action civile fédéral.
Les procureurs généraux des États n'attendent pas le Congrès. Le 16 janvier, le procureur général de Californie, Rob Bonta, a annoncé qu'il avait envoyé à xAI une lettre de cessation et d'abstention exigeant qu'il cesse « la création et la distribution de deepfake, d'images intimes non consensuelles et de matériel d'abus sexuel d'enfants » et notant que « la création de ce matériel est illégale. » Et une coalition bipartisane de plus de 30 procureurs généraux d'État a accusé Grok de faciliter les abus « aussi facilement que de cliquer sur un bouton. »
Tout cela signifie que X et xAI font face au même problème de base dans plusieurs juridictions : L'argument selon lequel la modération peut nettoyer après les décisions de produit se heurte sans cesse aux régulateurs qui souhaitent voir des contrôles de risque avant le lancement des fonctionnalités. Virkkunen de la Commission a déclaré que l'enquête déterminera si X a respecté ses obligations en vertu du DSA, « ou s'il a traité les droits des citoyens européens — y compris ceux des femmes et des enfants — comme des dommages collatéraux de son service. »
Pour l'instant, Grok continue échouer vers le haut. xAI continue de lever des sommes énormes, de construire des calculs, et de se présenter comme une infrastructure d'IA plutôt que comme un chatbot consommateur avec un casier judiciaire. X continue d'ajuster ses fonctionnalités plutôt que de les supprimer. Les scandales s'accumulent ; la machine bourdonne.
C'est l'UE qui trace une ligne claire autour d'une catégorie de préjudice à la fois très genrée et hautement évolutive : les deepfakes sexuels non consensuels, dopés par des outils génératifs et des algorithmes de distribution. Le message sous-jacent est : Si vous intégrez un bouton « épicé » dans une plateforme à portée massive, vous assumez les conséquences en aval — légalement, pas seulement en termes de réputation.
