La poursuite conteste une loi qui doit entrer en vigueur le 1er août et qui infligerait une amende de 500 000 $ aux développeurs chaque fois qu'un utilisateur génère un deepfake sexuel sans consentement.
Marc Piasecki/Getty Images
SpaceXAI, la société issue de la fusion des entreprises d'IA et spatiales d'Elon Musk, a déposé une plainte fédérale contre le procureur général du Minnesota, Keith Ellison, lundi, pour bloquer une loi d'État qui interdirait les applications et sites web capables de générer des images intimes non consensuelles.
La loi du Minnesota, décrite comme la première du genre dans le pays, doit entrer en vigueur le 1er août. Elle impose des amendes de 500 000 $ aux développeurs chaque fois qu'un utilisateur crée des deepfakes explicites d'une personne réelle sans son consentement. À titre d'exemple de la sévérité des pénalités, la plainte de la société indique qu'une plateforme dont les utilisateurs produiraient 100 000 de ces images serait confrontée à 50 milliards de dollars de responsabilité totale.
La société affirme que la loi "impose une interdiction excessive et fondée sur le contenu de la liberté d'expression et des outils d'expression visuelle dans une tentative maladroite d'interdire la 'nudification'." Bien qu'xAI ne conteste pas l'objectif sous-jacent de l'État de protéger les gens des images explicites non consensuelles, elle soutient que le statut va bien au-delà de cet objectif pour capturer l'expression protégée par la constitution, et demande à une cour fédérale de l'annuler et d'arrêter son exécution. xAI dit que sans cet allègement, elle n'aurait "aucun choix pratique que de restreindre les fonctionnalités de retouche d'image de Grok Imagine de diverses manières lorsque le statut entrera en vigueur."
La sénatrice Erin Maye Quade du Minnesota a été la force motrice derrière la législation, qui a été adoptée en avril ; elle a dit que ses efforts ont été motivés par la découverte qu'un homme avait récolté des photos sur les comptes de médias sociaux de femmes pour produire des images et des vidéos sexualisées de plus de 80 personnes qu'il connaissait, selon CNBC.
Le procureur général Keith Ellison a rejeté le cadrage de la société. "La nudification par IA vole la dignité de la cible et pourrait leur causer un immense tort à plusieurs niveaux," a-t-il écrit sur X $TWTR. Le gouverneur Tim Walz a posté une réponse plus courte : "On se voit au tribunal, crétin."
Dans sa plainte, xAI dit qu'elle "interdit strictement" aux utilisateurs de générer des images nues ou sexualisées de personnes sans consentement et souligne les poursuites qu'elle a engagées contre des utilisateurs qui ont trouvé des moyens de contourner ses protections techniques pour produire quand même un tel contenu. xAI a précédemment monté une contestation constitutionnelle contre une loi californienne ciblant le contenu de deepfake, remportant une victoire partielle lorsqu'un tribunal fédéral a annulé la disposition restreignant le matériel généré par l'IA dans les contextes électoraux, selon CNBC.
Le procès arrive alors que xAI fait face à une pression juridique croissante sur les capacités de génération d'images de Grok. Le gouvernement de la ville de Baltimore a poursuivi xAI plus tôt cette année, soutenant que Grok a violé les lois locales sur la protection des consommateurs en produisant des deepfakes non consensuels explicites, y compris des images de mineurs. Une autre action collective proposée par des victimes alléguées affirme que Grok a été utilisé pour produire et distribuer du matériel d'abus sexuel d'enfants dérivé de leurs photos réelles, et que xAI a retenu des informations des forces de l'ordre sur les responsables.
Les régulateurs de plusieurs pays, y compris l'Ofcom du Royaume-Uni, la Commission européenne et la Commission de protection des données d'Irlande, ont également ouvert des enquêtes sur les pratiques de génération d'images de xAI, selon Engadget.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
