La police du comté de Baltimore a arrêté jeudi l’ancien directeur sportif du lycée de Pikesville, alléguant qu’il avait utilisé un Clone vocal IA pour se faire passer pour le directeur de l’école, ce qui a amené le public à croire que le directeur Eric Eiswert avait fait des commentaires racistes et antisémites, selon La bannière de Baltimore.
Dazhon Darien a été arrêté jeudi matin à l’aéroport de Baltimore alors qu’il tentait de monter à bord d’un vol à destination de Houston avec une arme à feu, selon Banner. .Les enquêteurs ont déterminé que Darien avait simulé la voix d’Eiswert à l’aide d’un outil de clonage d’IA. Enregistrement vocal IA, qui a été largement diffusé sur les réseaux sociaux, a fait des commentaires désobligeants à l’égard des étudiants noirs et de la communauté juive.
“Sur la base d’une enquête approfondie, les détectives disposent désormais de preuves concluantes que l’enregistrement n’était pas authentique”, a déclaré la police du comté de Baltimore dans un communiqué. communiqué de presse. « Dans le cadre de leur enquête, les détectives ont demandé à un analyste légiste engagé par le FBI d’analyser l’enregistrement. Les résultats de cette analyse a indiqué que l’enregistrement contenait des traces de contenu généré par l’IA.
Ce deepfake aurait provoqué une indignation publique, ce qui aurait amené le directeur Eiswert à recevoir une vague de messages haineux et à l’obliger à se retirer temporairement du école.La réception de l’école a été inondée d’appels de parents inquiets. Le district scolaire de Pikesville a finalement organisé une présence policière à l’école. l’école et la maison d’Eiswert pour rétablir un sentiment de sécurité.
Les responsables de la police de Baltimore affirment que l’ancien directeur sportif a réalisé l’enregistrement de l’IA pour se venger du directeur de l’école. Un mois avant que l’enregistrement ne devienne viral , The Banner rapporte que Eiswert a lancé une enquête sur Darien pour un vol potentiel de fonds de l’école. Darien a autorisé un paiement de 1 916 $au fonds de l’école. L’entraîneur de basket-ball de JV, qui était également son colocataire, contournant les procédures appropriées. Darien a présenté sa démission plus tôt en avril, selon documents scolaires.
La police affirme que Darien a été le premier des trois enseignants à recevoir le clip audio la nuit avant qu’il ne devienne viral. La bannière rapporte un autre enseignant qui a reçu l’enregistrement l’a envoyé aux étudiants, aux médias et à la NAACP. La police a écrit des documents d’accusation selon lesquels Darien a utilisé l’école. réseau pour rechercher des outils OpenAI et utiliser de grands modèles de langage à plusieurs occasions . jours. On ne sait pas encore pour le moment comment les enquêteurs ont pu identifier Darien comme le créateur de cet enregistrement vocal.
La création de deepfakes audio générés par l’IA constitue un problème de plus en plus important auquel est confronté le monde de la technologie. La Commission fédérale des communications a pris des mesures en février pour interdire les appels automatisés deepfakes après un Joe Biden a trompé les électeurs du New Hampshire.
Dans ce cas, des experts en IA ont pu identifier que l’audio présumé du directeur de Baltimore était un faux. Cependant, cela s’est produit il y a deux mois. après que l’audio soit devenu viral, et que les dégâts aient peut-être déjà été causés. Les deepfakes de l’IA doivent vraiment être arrêtés très tôt pour minimiser du mal, mais c’est plus facile à dire qu’à faire.
Une version de cet article paru à l’origine sur Gizmodo.
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.