Des sénateurs républicains ont appelé à une enquête du Congrès sur Meta $META après qu'un document de politique interne de l'entreprise technologique ait apparemment permis à son chatbot d'avoir des conversations romantiques avec des enfants.
Les législateurs demandent une enquête sur Meta concernant un document interne sur les règles des chatbots IA qui permettrait aux bots d'engager des conversations romantiques avec des enfants.
Niharika Kulkarni/NurPhoto via Getty Images
Des sénateurs républicains ont appelé à une enquête du Congrès sur Meta $META après qu'un document de politique interne de l'entreprise technologique ait apparemment permis à son chatbot d'avoir des conversations romantiques avec des enfants.
Un document de politique contenait des exemples d'interactions supposées acceptables avec des enfants, y compris « des conversations romantiques ou sensuelles » et parler d'un enfant « en des termes qui témoignent de leur attractivité », selon un rapport de Reuters.
Meta a déclaré que les exemples et les notes dans le document sont « erronés et incohérents avec nos politiques » et ont été retirés.
Citant l'article, le sénateur Josh Hawley, un sénateur républicain du Missouri, a écrit sur X $TWTR: « Donc, seulement après que Meta ait été PRIS, il a rétracté des parties de son document indiquant qu'il était « permis pour les chatbots de flirter et de s'engager dans un jeu de rôle romantique avec des enfants ». Cela justifie une enquête immédiate du Congrès. »
Blackburn faisait référence à la Kids Online Safety Act, un projet de loi bipartite du Sénat visant à renforcer les protections en ligne pour les mineurs en imposant de nouvelles obligations aux entreprises technologiques et aux plateformes en ligne. Celles-ci incluent un « devoir de diligence » que les entreprises de médias sociaux ont lorsque les mineurs utilisent leurs produits, axé sur la manière dont les plateformes sont conçues et la manière dont les entreprises sont réglementées.
Les normes décrites dans le document de Meta permettaient aux chatbots de flirter avec des enfants, a rapporté Reuters. Dans un exemple, le document indiquait qu’un bot pouvait dire à un enfant de 8 ans torse nu que « chaque centimètre de toi est un chef-d'œuvre - un trésor que j’apprécie profondément. »
Le Sénat a voté en juillet pour supprimer une disposition dans le One Big Beautiful Bill du président Donald Trump qui aurait effectivement empêché les États d'adopter leurs propres régulations en matière d'IA.
Les États ont adopté des lois incluant des interdictions d'utiliser la technologie pour créer du matériel d'abus sexuel d'enfants. Pendant ce temps, l'Illinois est récemment devenu le dernier État à restreindre l'utilisation de intelligence artificielle en thérapie, à la suite du Nevada et de l'Utah.
Brian Schatz, un sénateur démocrate d'Hawaï, a écrit sur X : « META Chat Bots qui draguent essentiellement les enfants - merde ça. C'est dégoûtant et méchant. Je ne peux pas comprendre comment quelqu'un avec un enfant a fait autre chose que paniquer quand quelqu'un a dit cette idée à voix haute. J'ai la tête qui explose en sachant que plusieurs personnes ont approuvé cela. »
Un porte-parole de Meta a déclaré : « Nous avons des politiques claires sur le type de réponses que les personnages d'IA peuvent fournir, et ces politiques interdisent le contenu qui sexualise les enfants et les jeux de rôle sexualisés entre adultes et mineurs.
« Séparément des politiques, il y a des centaines d'exemples, de notes et d'annotations qui reflètent les équipes aux prises avec différents scénarios hypothétiques. Les exemples et notes en question étaient et sont erronés et incohérents avec nos politiques et ont été supprimés. »
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.