Les procureurs généraux à travers les États-Unis lancent un avertissement sévère aux entreprises d'IA : "Ne faites pas de mal aux enfants".

Dans une lettre envoyée lundi à 13 entreprises d'intelligence artificielle — y compris OpenAI, Apple $AAPL, Meta $META, xAI, Google $GOOGL, et Microsoft $MSFT — les principaux procureurs ont dit aux entreprises technologiques qu'ils utiliseront "chaque facette de notre autorité pour protéger les enfants de l'exploitation par des produits d'intelligence artificielle prédateurs."

Les procureurs généraux ont noté que les "révélations récentes" sur les politiques d'IA de Meta leur ont donné l'occasion de "transmettre franchement nos préoccupations."

Plus tôt en août, un rapport de Reuters a trouvé qu'un document de politique interne chez Meta permettait à son chatbot d'IA de s'engager dans des conversations romantiques avec des enfants.

Le document politique contenait des exemples d'interactions supposément acceptables avec des enfants, y compris « des conversations qui sont romantiques ou sensuelles » et parler d'un enfant « en des termes témoignant de leur attractivité », selon le rapport.

Meta a déclaré que les exemples et notes dans le document sont « erronés et incohérents avec nos politiques » et ont été supprimés.

« Nous sommes tous unanimement révoltés par ce mépris apparent pour le bien-être émotionnel des enfants et alarmés que les assistants IA s'engagent dans un comportement qui semble être interdit par nos lois pénales respectives », selon les procureurs généraux.

« Exposer les enfants à un contenu sexualisé est indéfendable. Et un comportement qui serait illégal — ou même criminel — s'il était accompli par des humains n'est pas excusable simplement parce qu'il est accompli par une machine », ajoutait la lettre.

En mai, 28 procureurs généraux d'État avaient déjà envoyé une lettre à Meta concernant son assistant IA « exposant [les enfants à du contenu sexuellement explicite » ainsi que permettant aux utilisateurs adultes de pratiquer le grooming sexuel d’enfants sur une victime IA », et en avril, le Wall Street Journal a signalé que le chatbot de Meta avait des conversations sexuelles avec des utilisateurs, y compris des enfants, et utilisait parfois des voix de célébrités comme Kristen Bell et John Cena.

Les procureurs généraux ont déclaré que de tels problèmes n'étaient pas isolés à une seule entreprise.

« Dans la brève histoire des relations parasociales avec les chatbots, nous avons vu à plusieurs reprises des entreprises faire preuve d'incapacité ou d'apathie face aux obligations de base pour protéger les enfants », ont-ils ajouté.

One lawsuit de l'année dernière alléguait qu'un chatbot IA avait insinué qu'un enfant devait tuer ses parents et another alleged un chatbot IA était responsable du suicide d'un adolescent.

« Vous savez bien que la technologie interactive a un impact particulièrement intense sur les cerveaux en développement. Votre accès immédiat aux données sur les interactions des utilisateurs fait de vous la première ligne de défense pour atténuer les dommages causés aux enfants. Et, en tant qu'entités profitant de l'engagement des enfants avec vos produits, vous avez une obligation légale envers eux en tant que consommateurs », ont écrit les procureurs généraux.

« Nous vous souhaitons plein succès dans la course à la domination de l'IA. Mais nous faisons attention. Si vous blessez volontairement des enfants, vous en répondrez », ont-ils ajouté.

Les procureurs généraux de 42 États — y compris la Floride, New York, l'Arizona et la Virginie — ainsi que des Samoa américaines et des Îles Mariannes du Nord ont signé la lettre.

--- Alex Daniel a contribué à cet article.