7 Deepfakes controverses et des moments viraux qui touchent la musique pop, la politique et le catholicisme

Une vidéo générée par l’IA du président ukrainien Volodymyr Zelenskyy sur les réseaux sociaux en 2022 a dit aux soldats du pays qu’ils devraient déposer leurs armes et se rendre à la Russie.

La vidéo était de manifestement fausse que les plus récents, qui sont devenus plus difficiles à distinguer de la réalité. Le clip du faux Zelensky n’en a convaincu que peu, voire aucun, compte tenu de son accent étrange. et un teint de peau différent du deepfake.

Une photo chic et deepfake du Pape dans une doudoune Balenciaga à la mode, jusqu’aux genoux, début 2023, a été le premier à être véritablement viral, montrant comment la technologie a rapidement progressé pour affiner la frontière entre ce qui est organique et ce qui est de l’IA. Elle est arrivée à peu près au même moment générée par l’IA. des photos de ElonMusk tenant la main du représentant américain Alexandria Ocasio-Cortez est apparu sur les réseaux sociaux ainsi que de fausses photos de l’arrestation de Trump.

Chanson virale « Heart on My Sleeve », avec des voix imitant Drake et the Weeknd, a fait l’objet d’une inquiétude majeure de la industrie musicale au dessus des droits de propriété intellectuelle.

Plus tard en 2023, Universal Music Group (UMG), en collaboration avec ABKCO et Concord Publishing, a intenté une action en justice pour violation de droits d’auteur contre la start-up d’IA Anthropic pour avoir prétendument volé des paroles afin de former son chatbot. Et certains des plus grands noms de l’industrie de la musique — Nicki Minaj, Katy Perry, Billie Eilish, Camila Cabello, et tout un groupe d’autres (plus de 200 au total) — avoir depuis signé une lettre ouverte aux formules fortes appelant les entreprises de technologie, les développeurs d’IA et les plateformes musicales à s’engager à ne pas créer ni utiliser d’outils de génération de musique d’IA.

La campagne présidentielle du gouverneur de Floride Ron DeSantis, aujourd’hui disparue a publié une vidéo comprenant des deepfakes de Donald Trump embrassant l’ancien directeur de l’Institut national des allergies et des maladies infectieuses, Anthony Faucion X, l’été dernier. Cette décision a accru les inquiétudes persistantes. sur l’utilisation de la désinformation et de la désinformation sur l’IA à l’approche de l’élection présidentielle américaine de 2024.

«Quel tas de conneries», commençait le message.

Il s’agissait d’une voix générée par l’IA imitant le président Joe Biden, appelant des milliers d’habitants du New Hampshire à les décourager de voter au sein du parti démocrate de l’État. élections primaires. «[Votre vote fait une différence en novembre, pas ce mardi », dit la voix.

Le consultant politique démocrate qui a admis avoir payé 500 $ pour orchestrer les appels automatisés, Steven Kramer, a été inculpé de 13 chefs d’accusation de répression des électeurs. ainsi que 13 délits dans le New Hampshire jeudi. Kramer est fait également face à des accusations de la part de la Commission fédérale des communications. La FCC en février rendu illégaux les voix générées par l’IA dans les escroqueries aux appels automatisés.

« Des acteurs malveillants utilisent des voix générées par l’IA dans des appels automatisés non sollicités pour extorquer des membres vulnérables de leur famille, imiter des célébrités et désinformer les électeurs. les fraudeurs derrière ces appels automatisés avec préavis », a déclaré à l’époque la présidente de la FCC, Jessica Rosenworcel.

Des nus générés par l’IA de Taylor Swift ont inondé X en janvier, l’une de ces photos ayant récolté des dizaines de millions de vues et 24 000 republications. Les Swifties ont envahi la plateforme de médias sociaux pour noyer les deepfakes en publiant de vraies photos de la star.

S’il y a une personne qui peut unir le pays, c’est bien Taylor Swift. L’attaque contre Swift a poussé les législateurs fédéraux des deux partis à l’action. Bien qu’il n’y ait pas de loi fédérale concernant les nus créés par l’IA, les sénateurs américains a introduit une législation en janvier, cela permettrait aux victimes de poursuivre leurs auteurs en justice, citant le cas de Swift.

“Bien que les images puissent être fausses, le préjudice causé aux victimes par la distribution de deepfakes sexuellement explicites est très réel”, ont déclaré les États-Unis. les sénateurs Richard Durbin et Lindsey Graham à leur annonce du projet de loi surnommé la Loi DEFIANCE. « Les victimes ont perdu leur emploi et peuvent souffrir d’une dépression ou d’une anxiété persistante. »

À la veille des élections présidentielles et législatives à Taiwan en janvier, une opération en ligne soutenue par le Parti communiste chinois, connue sous le nom de « Spamouflage » ou « Dragonbridge » a utilisé des deepfakes IA pour essayer d’influencer les résultats. Le groupe a réalisé de faux clips audio d’un ancien candidat, qui avait abandonné la course depuis des mois. plus tôt, en soutenant quelqu’un qu’ils n’avaient pas soutenu.

En réponse, Microsoft a tiré la sonnette d’alarme sur l’utilisation par la Chine de l’IA pour créer des campagnes de désinformation et influencer des élections étrangères. que Microsoft Threat Intelligence a été témoin d’un acteur étatique utilisant du contenu d’IA pour tenter d’influencer une élection étrangère », ont écrit ses chercheurs.