Le procès, l'un des premiers intentés par une entreprise d'IA contre un utilisateur à propos de contenu explicite généré par IA, demande des dommages-intérêts et une interdiction permanente de Grok.
Getty Images / NurPhoto
La startup d'IA d'Elon Musk xAI a intenté une action en justice fédérale mardi contre un homme de Caroline du Sud, alléguant qu'il a utilisé le chatbot Grok pour générer du matériel d'abus sexuel d'enfants en violation des conditions d'utilisation de l'entreprise.
Selon Reuters, le procès est parmi les premiers cas où une entreprise d'IA engage des poursuites contre un utilisateur pour la production présumée de contenu explicite avec sa technologie. Le procès a été déposé auprès du tribunal de district des États-Unis pour le district nord du Texas.
Le défendeur, Terry Wayne Harwood, a été arrêté en février pour plusieurs chefs d'accusation d'exploitation sexuelle présumée d'un mineur, selon CNN. Selon la plainte de xAI, Harwood a ouvert plusieurs comptes et soumis ce que l'entreprise appelle des "incitations trompeuses" pour contourner les "gardes intégrées" de la plateforme, en lui fournissant des photographies non sexuelles d'adultes et d'enfants comme matériel source pour des deepfakes sexuellement explicites. Les coordonnées de Terry Wayne Harwood n'étaient pas immédiatement disponibles, selon Reuters.
"Les actions du défendeur étaient un stratagème calculé pour utiliser l'outil du plaignant à des fins criminelles, exposant de vraies victimes à un tort profond et durable, tout en exposant le plaignant à un risque juridique significatif et à des dommages réputationnels", a déclaré xAI dans le procès.
xAI a demandé au tribunal d'attribuer des dommages-intérêts monétaires dont le montant sera déterminé et de délivrer une injonction permanente empêchant Terry Wayne Harwood d'accéder à Grok. La société a également demandé au tribunal de déclarer qu'il avait violé ses conditions d'utilisation.
La plainte indique que xAI a supprimé 52 222 comptes et soumis 73 604 rapports au Centre national pour les enfants disparus et exploités jusqu'à présent en 2026, des actions qui, selon la société, ont contribué à au moins 244 arrestations.
L'affaire arrive dans un contexte de pression légale soutenue sur xAI concernant les fonctionnalités de génération d'images de Grok. Le gouvernement de la ville de Baltimore a intenté une action en justice contre xAI devant le tribunal de circuit, alléguant que Grok viole les lois locales sur la protection des consommateurs en produisant des deepfakes explicites non consensuels, y compris des images de mineurs. Séparément, trois adolescents du Tennessee ont intenté une action collective devant un tribunal fédéral en Californie, alléguant qu'un auteur a utilisé une application tierce sous licence de la technologie de xAI pour générer du matériel d'abus sexuel sur des enfants les représentant. Un membre du Parlement britannique, Jess Asato, a également déposé une plainte devant la Haute Cour d'Angleterre contre xAI pour des images sexuelles deepfake non consensuelles générées d'elle.
xAI a déclaré qu'il prend des mesures contre les abus en suspendant les comptes et en signalant aux autorités les contenus présumés d'abus sexuels sur enfants. Les porte-parole de xAI n'ont pas immédiatement répondu à la demande de commentaire de Reuters.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
