Apple et Google ont supprimé les applications qui promettaient des deepfakesnus de l’App Store et de Google Play, selon un rapport de 404 Media.
404 Médias Plus tôt cette semaine, nous avons découvert qu’Instagram hébergeait des publicités pour des applications qui utilisent l’IA pour générer de faux nus profonds. Une de ces publicités utilisait une image de Kim Kardashian avec le slogan « Déshabillez n’importe quelle fille gratuitement. Essayez-le. Ce service, et d’autres semblables, semblent aux utilisateurs de télécharger de vraies photos de femmes et de générer de fausses photos d’elles nues.404 Le rapport des médias est paru quelques semaines seulement après Meta a décidé de rendre plus difficile l’envoi et la réception de photos nues via Instagram Messenger, dans un effort qui, selon lui, visait à protéger les utilisateurs adolescents des prédateurs.
Les faux nus profonds ont été un gros problème au début de l’IA générative. Des nus générés par l’IA de Taylor Swift ont inondé X en janvier, l’une de ces photos ayant récolté des dizaines de millions de vues et 24 000 republications. Deepfakes nus d’adolescentes dans des écoles du New Jersey et de Washington, et la Californie a suscité des enquêtes fin 2023. Jusqu’à présent, environ deux douzaines d’États américains ont introduit des lois pour réprimer le contenu généré par l’IA à caractère sexuel. Et le mois dernier, deux adolescents à Miami, en Floride, ont été arrêtés pour avoir utilisé des applications dites de « déshabillage » pour mettre leurs camarades de classe nus, et ils ont été accusés de crimes au troisième degré.
Il n’existe pas de loi fédérale concernant les nus créés par l’IA, mais les sénateurs américains ont présenté en janvier une législation qui permettrait aux victimes de poursuivre leurs victimes en justice. auteurs.
“Bien que les images puissent être fausses, le préjudice causé aux victimes par la distribution de deepfakes sexuellement explicites est très réel”, ont déclaré les États-Unis. les sénateurs Richard Durbin et Lindsey Graham à leur annonce du projet de loi surnommé la Loi DEFIANCE. « Les victimes ont perdu leur emploi et peuvent souffrir d’une dépression ou d’une anxiété persistante. »
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.