Meta a détecté et perturbé six nouvelles opérations d’influence secrètes de pays, dont la Chine, l’Iran et Israël, qui ont utilisé du contenu généré par l’intelligence artificielle pour diffuser de la désinformation.
Le géant de la technologie, qui mène également des recherches en cours sur une opération d’influence secrète en provenance de Russie connue sous le nom de Doppelganger, a partagé ses recherches sur le nouveau campagnes cross-Internet dans son rapport trimestriel sur les menaces contradictoires pour le premier trimestre 2024, publié mercredi. les entreprises qui s’attaquent le problème de désinformation et contrefaçons profondes dans l’avènement de l’IA générative.
De nombreuses campagnes d’influence ont été supprimées très tôt avant de pouvoir constituer des audiences d’utilisateurs réels, a déclaré Meta, ajoutant qu’elles n’avaient pas été réalisées. J’ai vu des stratégies qui l’empêcheraient de pouvoir arrêter les réseaux. L’entreprise a déclaré qu’elle avait « observé » des photos générées par l’IA. et images, lecteurs d’actualités vidéo et textes. Cependant, Meta a déclaré qu’il n’a pas vu de tendance d’acteurs menaces utilisant l’IA photo-réaliste . Le contenu généré par les politiciens n’a pas encore été publié.
« À l’heure actuelle, nous ne voyons pas d’utilisation de l’IA de génération de manière terriblement sophistiquée », a déclaré David Agranovich, directeur des politiques de perturbation des menaces chez Meta. mardi lors d’un point de presse, selon Bloomberg. « Mais nous savons que ces réseaux sont par nature contradictoires. Ils vont continuer à faire évoluer leurs tactiques à mesure que leur technologie des changements. »
Meta n’a pas immédiatement répondu à une demande de commentaires.
Dans son rapport le plus récent, Meta a déclaré avoir constaté que les acteurs menaçants utilisaient encore des réseaux adverses génératifs, ou GAN, pour créer des photos de profil pour leurs utilisateurs. de faux comptes, mais que l’entreprise peut détecter les réseaux inauthentiques derrière ces comptes.
En Chine, Meta a déclaré avoir trouvé un réseau partageant des images d’affiches pour un mouvement activiste pro-sikh fictif qui étaient probablement générées par l’IA. Dans l’ensemble, Meta a déclaré avoir supprimé 37 comptes Facebook, 13 pages, cinq groupes et neuf comptes Instagram originaires de Chine. a déclaré, ciblant la communauté sikh dans le monde , y compris en Australie, en Inde et au Royaume-Uni.
Meta a déclaré avoir découvert un comportement coordonné et inauthentique, ou réseau CIB, basé en Israël, qui publiait des commentaires, probablement générés par l’IA, à propos du La guerre entre Israël et le Hamas et la politique au Moyen-Orient sur des pages appartenant à des organisations médiatiques et à des personnalités publiques. Les commentaires, a déclaré Meta, étaient pour la plupart rédigés en en anglais, et comprenait des « éloges pour les actions militaires d’Israël » et des « critiques de l’antisémitisme sur les campus, de l’Agence de secours et de travaux des Nations Unies (UNRWA), et des musulmans qui affirment que « l’islam radical » constitue une menace pour les valeurs libérales au Canada.
Meta a supprimé 510 comptes Facebook, 11 pages, un groupe et 32 comptes Instagram originaires d’Israël, qui ciblaient principalement un public aux États-Unis. et au Canada. Meta a également trouvé des comptes Facebook et Instagram originaires d’Iran qui ciblaient Israël et la plupart postés en hébreu critiquaient le Hamas et soutenaient l’ultra. -les politiques israéliennes conservatrices.
En plus de ces réseaux, Meta a supprimé 50 comptes Facebook et 98 pages appartenant à un réseau basé au Bangladesh ; 104 comptes Facebook, 39 Pages, et sept comptes Instagram basés en Croatie ; et 1 326 comptes Facebook , 80 pages , un groupe et un compte Instagram d’un réseau d’origine inconnue ciblant un public en Moldavie et Madagascar.
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.