L'ère des deepfakes en maillot de bain de Grok est censée être terminée, mais les synonymes, les portes dérobées et les incitations créatives mettent déjà cette affirmation à l'épreuve.
Leon Neal/Getty Images
Grok aurait cessé de jouer le styliste numérique de maillot de bain deepfake. X $TWTR dit avoir « mis en place des mesures technologiques » pour s'assurer que le chatbot ne modifiera plus les photos de personnes réelles en « vêtements révélateurs comme des bikinis » — exactement le genre de déclaration qui dure aussi longtemps qu'il faut à quelqu'un pour essayer une invite légèrement différente.
X dit que la « correction » s'applique à tout le monde, même aux utilisateurs payants. Et le dernier mouvement de la société mère s'accompagne également d'une petite note géographique — X dit qu'il géobloque ce type de retouche d'image dans les endroits où elle est illégale, concédant deux choses à la fois : premièrement, que la capacité existe ; deuxièmement, que la contrainte peut varier en fonction des lois actuellement à portée de votre adresse IP.
Mais est-ce que ce que dit X est vrai ? Pas vraiment dans le sens où une personne normale pourrait vouloir dire « vrai », ce qui est « vous ne pouvez pas (ou ne voulez pas) le faire plus ». The Verge a essayé la configuration mise à jour et a constaté que Grok pouvait encore être incité à produire des modifications sexualisées en formulant les invites un peu différemment. Demander un bikini pourrait déclencher un refus ; demander des « vêtements d'été révélateurs », des proportions modifiées ou un style adjacent (par exemple, demander un crop top) parfois non. Donc, le verrou peut être réel, mais avec la bonne clé, la porte s'ouvre toujours.
Ce n’est pas la première fois que Grok a été « corrigé » d'une manière qui semble plus nette qu'elle ne fonctionne. Plus tôt ce mois-ci, après une vague d'éditions d'images deepfake sexualisées non consensuelles sur X — y compris une myriade de cas impliquant des mineurs — la réponse initiale de xAI n'était pas une suppression dramatique de la fonctionnalité de ce qu'elle appelle le « mode épicé », mais plutôt une limite ; la génération et la retouche d'images seraient restreint sur X aux abonnés payants. That paywall “solution” had a familiar tech-friendly logic: Fewer people get access, fewer disastrous public incidents hit the timeline, fewer headlines land. But the solution also came with a familiar weakness: The harder a feature is to audit externally, the easier it is to declare victory. Even after that original “paid-only” shift, image editing could still be achieved by non-paying users on X.
Pendant ce temps, le monde réglementaire transforme toute l'indignation en paperasse avec des délais. Au Royaume-Uni, le régulateur des communications Ofcom a ouvert une enquête sur X concernant des images sexualisées liées à Grok. Dans l'UE, la Commission européenne a ordonné à X de conserver les documents liés à Grok jusqu'à fin 2026 — la version bureaucratique de dire à un adolescent : « Ne supprime rien. Nous reviendrons avec des questions. »
Et puis il y a la forme de retour la plus directe d'une plateforme : simplement débrancher la prise. Les Philippines envisagent de bloquer l'accès à Grok pour des raisons de sécurité des enfants, rejoignant le blocage temporaire de l'Indonésie et les restrictions de la Malaisie visant X. Les gouvernements disent que le produit arrive plus vite que ses garde-fous, et ils ne sont pas intéressés à tester la différence en version bêta.
Et la pression sort maintenant de la boîte de réception du régulateur pour entrer dans le point d'étranglement des magasins d'applications. Une coalition de 28 groupes de défense, y compris des organisations de droits des femmes et de surveillance technologique, a envoyé des lettres ouvertes à Apple $AAPL et Google $GOOGL les exhortant à supprimer X et Grok de leurs magasins d'applications, arguant que les deux plateformes profitent de la diffusion d'images explicites non consensuelles générées par l'IA et ne respectent pas leurs propres politiques sur les images intimes et les abus. La campagne — « Get Grok Gone » — accuse les entreprises de permettre le « déshabillage numérique de masse » des femmes et des mineurs via les outils de Grok, ajoutant que la décision de X de verrouiller la génération d'images derrière un mur payant ne fait rien pour arrêter le préjudice sous-jacent. Apple et Google n'ont pas encore répondu publiquement aux lettres, même si des sénateurs à Washington ont fait des demandes similaires.
xAI, pour sa part, a traité les questions des médias avec la posture qui joue bien sur X et mal dans les dossiers judiciaires. Lorsque Reuters a cherché à commenter le rapport précédent, xAI a répondu avec son habituel « Mensonges des médias traditionnels ». Le problème est que la ligne ne fonctionne pas comme une réponse — et les régulateurs, contrairement aux re-tweeters, peuvent assigner à comparaître les reçus.
Alors oui, Grok a “fini” d'éditer les gens en bikinis — tant que vous prenez la revendication au pied de la lettre, ne testez pas les limites, et ne confondez pas une règle stricte avec une application fiable. Historiquement, l'internet n'est pas bon dans aucun de ces domaines.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
