Meta $META, la maison mère de Facebook et Instagram, introduit une nouvelle fonctionnalité permettant aux parents de contrôler comment — et si — leur adolescent peut interagir avec des personnages IA.
Meta déploie de nouveaux contrôles parentaux pour les comptes d'adolescents sur Instagram, y compris des restrictions pour ses personnages d'IA et un paramètre PG-13.
Ismail Aslandag/Anadolu via Getty Images
Meta $META, la maison mère de Facebook et Instagram, introduit une nouvelle fonctionnalité permettant aux parents de contrôler comment — et si — leur adolescent peut interagir avec des personnages IA.
La nouvelle mise à jour permettra aux parents de bloquer certains personnages IA ou de couper complètement l'accès pour le compte de leur adolescent. Mais même si les parents choisissent de bloquer tout accès aux personnages IA, leur adolescent aura toujours accès à l'assistant IA de Meta. Meta a déclaré que cette fonctionnalité aura « des protections par défaut adaptées à l'âge ». La mise à jour sera d'abord déployée sur Instagram au début de l'année prochaine, a déclaré le géant de la tech vendredi.
La dernière mise à jour de Meta sur les protections des adolescents intervient quelques mois seulement après qu'un Reuters rapport a révélé qu'un document de politique interne de l'entreprise permettait à ses chatbots IA de s'engager dans des conversations romantiques avec des enfants.
En réponse à ce rapport, les procureurs généraux de 42 États et de deux territoires ont envoyé une lettre à 13 entreprises utilisant l'intelligence artificielle — y compris Meta — en disant qu'ils utiliseraient « chaque facette de notre autorité pour protéger les enfants contre l'exploitation par des produits d'intelligence artificielle prédateurs ».
Meta n'est pas la seule entreprise à rattraper son retard sur la protection des adolescents. OpenAI, l'entreprise derrière ChatGPT, a déployé une série de contrôles parentaux en septembre, y compris une version ado de ChatGPT.
En plus de la mise à jour de vendredi, Meta a annoncé mardi qu'elle avait mis à jour les « expériences IA » pour les utilisateurs adolescents en suivant les conseils des classifications PG-13. Elle a déclaré que cela signifie que les « IA ne devraient pas donner de réponses inappropriées pour les âges qui sembleraient déplacées dans un film PG-13. »
« En plus de nos politiques de longue date – qui cachent ou interdisent déjà la recommandation de contenu à caractère sexuel suggestif, d'images graphiques ou troublantes et de contenu adulte comme la vente de tabac ou d'alcool aux adolescents – nos politiques mises à jour iront désormais encore plus loin », a déclaré Meta.
Les parents auront la possibilité d'ajouter des paramètres encore plus stricts au compte de leur enfant, ce qui filtrerait « encore plus de contenu » que la version PG-13. La mise à jour est en cours de déploiement aux États-Unis, au Royaume-Uni, au Canada et en Australie en anglais. Meta a déclaré que ses personnages IA « sont déjà conçus » pour ne pas discuter d'automutilation, de suicide ou de troubles alimentaires avec des adolescents.
Meta a déclaré que les parents peuvent accéder à des « aperçus » des sujets dont leur enfant parle avec les personnages IA et l'assistant IA. La société technologique n'a pas précisé de manière plus spécifique ce que ces aperçus incluraient.
Les utilisateurs que Meta estime pouvoir être des adolescents auront ces restrictions d'âge appliquées à leurs comptes. Cependant, les chercheurs ont documenté la facilité avec laquelle il est possible de contourner les limites imposées par les entreprises de chatbot. Les règles de vérification de l'âge sont également connues pour être facilement contournées.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.