Les chatbots avancés d'aujourd'hui peuvent imiter des caractéristiques et des émotions, ce qui pourrait amener les enfants à leur faire confiance à un degré malsain.
Milan_Jovic
Au fur et à mesure que l'intelligence artificielle devient une partie plus intégrée des sites Web fréquemment visités et des plateformes de médias sociaux, la Federal Trade Commission a lancé une enquête sur la façon dont les sept principaux fabricants de chatbots testent et surveillent l'impact de leurs produits sur les jeunes enfants et les adolescents.
L'enquête se concentrera sur les chatbots de la société mère de Google $GOOGL Alphabet, Character Technologies, Instagram, Meta $META Platforms, OpenAI, Snap $SNAP, et X $TWTR.AI Corp. d'Elon Musk, a déclaré la FTC dans un communiqué.
"À mesure que les technologies d'IA évoluent, il est important de prendre en compte les effets que les chatbots peuvent avoir sur les enfants, tout en veillant à ce que les États-Unis maintiennent leur rôle de leader mondial dans cette industrie nouvelle et passionnante", a déclaré le président de la FTC, Andrew N. Ferguson. "L'étude que nous lançons aujourd'hui nous aidera à mieux comprendre comment les entreprises d'IA développent leurs produits et les mesures qu'elles prennent pour protéger les enfants."
L'agence a déclaré que les chatbots ont la capacité de simuler des conversations qui semblent être avec un autre humain, ce qui peut créer des relations interpersonnelles avec certains utilisateurs. Les chatbots avancés d'aujourd'hui peuvent imiter des caractéristiques et des émotions, ce qui pourrait amener les enfants à leur faire confiance de manière malsaine.
L'enquête vise à aider les responsables fédéraux à « comprendre quelles mesures, le cas échéant, les entreprises ont prises pour évaluer la sécurité de leurs chatbots lorsqu'ils agissent en tant que compagnons, pour limiter l'utilisation des produits par les enfants et les adolescents et les effets négatifs potentiels sur eux. »
Cela intervient juste une semaine après que Meta a annoncé qu'elle ajusterait la manière dont ses chatbots répondent aux adolescents, à la suite de rapports la société a permis à la technologie d'avoir des conversations romantiques avec des enfants. Le mois dernier, il y avait un rapport sur un chatbot Meta qui a coaché des comptes d'adolescents sur le suicide et l'automutilation.
OpenAI, quant à elle, a annoncé des plans plus tôt ce mois-ci pour déployer de nouveaux contrôles qui permettront aux parents de lier leurs comptes à ceux des adolescents, leur permettant de désactiver des fonctionnalités et de « recevoir des notifications lorsque le système détecte que leur adolescent est dans un moment de détresse aiguë ». Cela a suivi une plainte déposée contre la société et le PDG Sam Altman après qu'un adolescent s'est suicidé avec l'aide présumée de ChatGPT.
—Hannah Parker a contribué à cet article.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
