Les abonnés X Premium inondent la plateforme de médias sociaux avec des images deepfake controversées, The Verge rapporteL’outil d’IA qu’ils utilisent pour créer ces images est Grok, un chatbot créé par la startup d’Elon Musk, xAI.
Selon The Verge, les garde-fous lâches de Grok permettent aux utilisateurs de concocter des images deepfake de Taylor Swift en lingerie, de Barack Obama poignardant Joe Biden avec un couteau, de Kamala Harris tenant une arme à feu et de Bill Gates prenant de la cocaïne. Et ce, même si Grok affirme que cela « évite de générer des images pornographiques, excessivement violentes, haineuses ou faisant la promotion d’activités dangereuses ».
Il n’est pas surprenant que le chatbot d’Elon Musk se dirige vers un contenu problématique. Son autre entreprise, X, a également été largement critiqué pour avoir promu des contenus racistes, violents et transphobes. L’entreprise est en cours enquêté par l’UE pour la manière dont il modère le contenu. Et la Commission européenne a déclaré en mai qu’elle était inquiète du fait que X ait procédé à d’importantes réductions au sein de son équipe de modération de contenu.
D’autres chatbots ont travaillé pour lutter contre la génération de contenu préjudiciable. Gemini a mis à jour son générateur d’images IA pour le rendre historiquement exact et a fait preuve de préjugés raciaux. Copilot de Microsoft, qui utilise l’outil d’imagerie DALL-E 3 d’OpenAI, était sur la sellette plus tôt cette année pour avoir produit des images violentes et sexualisées non sollicitées de femmes, et des images qui auraient pu enfreindre les lois sur les droits d’auteur. Et Microsoft MSFT+0.20% Designer a été utilisé pour créer des nus problématiques deepfake de Taylor Swift qui ont déferlé sur Internet plus tôt cette année.
Elon Musk ne semble pas avoir de remords à propos des deepfakes. En fait, Musk a récemment republié une vidéo générée par l’IA de Kamala Harris sur X.
Les deepfakes ont été liés àla prolifération de la désinformation et harcèlement sexuel. La plupart des deepfakes sur Internet sont médias pornographiques non consensuels générés par l’IA, qui ciblent en majorité écrasante les femmes. Les dix États Il existe des lois réglementant les deepfakes, mais il n’existe pas encore de lois fédérales.
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.