La semaine dernière, des photos explicites générées par l’IA de Taylor Swift ont inondé X, marquant la dernière grande notoriété contrefaçons profondes et en soulignant le défi de les arrêter.
Une fausse image du chanteur pop a été vue plus de 45 millions de fois et rediffusée à 24 000 reprises. selon le Verge. Le message aurait été diffusé sur la plateforme de médias sociaux pendant 17 heures avant sa suppression.
Que sont les deepfakes et pourquoi se produisent-ils ?
Les deepfakes utilisent une forme d’apprentissage automatique appelée apprentissage profond, grâce auquel un algorithme se nourrit d’exemples et apprend à produire des sorties qui leur ressemblent, générant une image, une vidéo ou un audio artificiel.
Un deepfake très médiatisé est une vidéo de 2022 qui semble montrer le président ukrainien Volodymyr Zelensky disant aux soldats de déposer leurs armes et retourner dans leurs familles. Un autre exemple est la publication par le Comité National Républicain d’une publicité générée par des deepfakes montrant le deuxième mandat du président américain Joe Biden. en proie à des catastrophes.
Ensuite, il y a le fameux deepfake de l’IA le pape-réalisé par un ouvrier du bâtiment de 31 ans qui jouait avec le générateur d’images IA Midjourney - qui s’est avéré être très réaliste. Cela dit, la plupart des deepfakes trouvé sur internet sont de la pornographie non consensuelle.
Quel est le problème ? Le problème est-ce que toute personne ayant la capacité de créer des deepfakes peut diffuser des informations erronées et même inciter les gens à se comporter de manière à faire avancer leur programme. On craint désormais que l’IA générative puisse permettre la création en masse de fausses images.
Bien sûr, tous les deepfakes ne sont pas mauvais. Par exemple, les plateformes éducatives utilisent la technologie pour créer des tuteurs IA qui offrent un meilleur soutien aux étudiants qu’une vidéoconférence générique.
Que s’est-il passé avec les deepfakes de Taylor Swift ?
Mercredi dernier (24 janvier), des images explicites de Swift ont commencé à proliférer sur X. Les contrefaçons étaient faciles à repérer et les Swifties ont envahi le plateforme pour essayer de les noyer avec de vraies images du chanteur, le Wall Street Journal signalé. Le lendemain, une multitude de comptes signalés par les utilisateurs pour avoir partagé les images les plus virales ont été suspendus ou restreints.
Un rapport de 404 Media a découvert que les images pourraient provenir d’un groupe sur la plateforme sociale Telegram, où les utilisateurs partagent des images explicites de femmes générées par l’IA. .
Quand les deepfakes ont-ils commencé ?
Le terme « deepfake » a été inventé en fin 2017 par un utilisateur de Reddit se faisant appeler du même nom. Sur Reddit, cette personne vidéos pornographiques partagées créées à l’aide de la technologie open source d’échange de visages de Google.
Que font les entreprises et les décideurs politiques pour les arrêter ?
En réponse aux réactions négatives contre les deepfakes de l’IA, les entreprises technologiques, notamment Google et Méta ont exigé que les publicités politiques fassent l’objet d’une divulgation écrite si elles utilisent des images, des vidéos ou des fichiers audio générés par l’IA.
Les États de Californie, du Texas et de Virginie ont porno deepfake criminalisé. Et au cours des trois premières semaines de cette année, au moins 14 États américains ont introduit une législation pour combattre les deepfakes d’IA créés lors des élections, soit via des exigences de divulgation ou des interdictions. Ailleurs, Chine et Corée du Sud réglementent également les deepfakes.
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.