Elon Musk fait des images d'IA sexualisées de Grok un 'service premium' pour les abonnés X

Cela fait suite à une vague de critiques cette semaine concernant l'utilisation de Grok pour créer des images sexualisées et non consensuelles, y compris des représentations de femmes et d'enfants, dans ce que X a précédemment qualifié de « mode épicé ».

Quand Reuters a demandé de générer une image modifiée d'un journaliste en bikini, Grok a répondu que la fonctionnalité était désormais réservée aux utilisateurs payants, le média a rapporté vendredi. Bien que cette mesure puisse viser à limiter le rythme de création d'images sexualisées par les utilisateurs de X, l'application autonome de Grok autorise toujours la création d'images sans abonnement, ce qui soulève des doutes quant à savoir si l'entreprise s'attaque au problème fondamental.

Restreindre l'outil de génération d'images de Grok aux abonnés payants fait de la création de deepfakes un « service premium » et « n’est pas une solution », a déclaré un porte-parole du premier ministre britannique dit vendredi, ajoutant que la mesure est "insultante" pour les victimes de misogynie et de violence sexuelle.

Grok est développé par xAI, la startup d'intelligence artificielle de Musk, et est étroitement intégré à X — une plateforme que Musk a souvent présentée comme un pilier de la liberté d'expression et de modération limitée. Cela a rendu Grok populaire parmi les utilisateurs frustrés par des outils d'IA plus strictement contrôlés, et a fait du bot un test de résistance pour voir comment une IA sans contraintes se comporte à grande échelle, les utilisateurs taguant directement Grok dans des publications pour générer ou éditer des images en temps réel.

Mais les répercussions ont été internationales, les législateurs européens condamnant l'outil et appelant à des actions légales.

Le régulateur britannique des télécommunications Ofcom a déclaré lundi qu'il était au courant des "préoccupations sérieuses" soulevées à propos de la fonctionnalité.

"Nous avons pris contact d'urgence avec X et xAI pour comprendre quelles mesures ils ont prises pour se conformer à leurs obligations légales de protéger les utilisateurs au Royaume-Uni", a déclaré un porte-parole dans un communiqué partagé sur X.

« Ce n'est pas épicé. C'est illégal. C'est révoltant. C'est dégoûtant. Voilà comment nous le voyons, et cela n'a pas sa place en Europe », a déclaré le porte-parole de la Commission européenne, Thomas Regnier, aux journalistes lundi. Le ministre allemand des médias, Wolfram Weimer, a décrit le phénomène comme l’« industrialisation du harcèlement sexuel ».