OpenAI ajoute des contrôles parentaux à ChatGPT après le décès d'un adolescent

Les contrôles permettront aux parents et aux adolescents de lier leurs comptes, de décider si ChatGPT se souvient des conversations passées et de limiter l'exposition des adolescents à des contenus sensibles, a déclaré la société lundi.

OpenAI a déclaré qu'elle essaierait également d'avertir les parents lorsqu'elle détecte "des signes de détresse aiguë" chez un enfant. "Si nos systèmes détectent un potentiel danger, une petite équipe de personnes spécialement formées examine la situation", a déclaré la société.

Le fabricant du chatbot a ajouté que son système n'est pas parfait et "pourrait parfois déclencher une alerte alors qu'il n'y a pas de véritable danger."

Le déploiement intervient après allégations par une famille californienne selon laquelle ChatGPT a joué un rôle dans la mort de leur fils. La poursuite, déposée en août par Matt et Maria Raine, accuse OpenAI et son directeur général, Sam Altman, de négligence et de mort injustifiée. Ils allèguent que la version de ChatGPT à l'époque, connue sous le nom de 4o, a été "précipitée sur le marché… malgré des problèmes de sécurité évidents".

Leur fils, Adam, est mort en avril, après ce que leur avocat, Jay Edelson, a qualifié de « mois d'encouragement de ChatGPT ». Les documents judiciaires ont révélé des conversations qu'il aurait eues avec le chatbot où il a révélé des pensées suicidaires. La famille allègue qu'Adam a reçu des réponses qui ont renforcé ses idées "les plus nuisibles et autodestructrices".

[Note de l'éditeur : la ligne de vie nationale pour le suicide et les crises est disponible en appelant ou en envoyant un SMS au 988, ou en visitant 988lifeline.org.]

Le billet de blog de lundi de ChatGPT indique que les parents pourront définir des heures de silence afin de bloquer l'accès à certains moments de la journée. Ils pourront également désactiver le mode vocal et empêcher l'application de générer des images. Les parents ne pourront pas accéder aux transcriptions des discussions de leurs enfants.

« Nous avons travaillé en étroite collaboration avec des experts, des groupes de défense et des décideurs politiques pour aider à informer notre approche — nous prévoyons de perfectionner et d'élargir ces contrôles au fil du temps », a déclaré la société dans un communiqué.

Robbie Torney, directeur principal des programmes d'IA chez la société à but non lucratif Common Sense Media, a déclaré que les contrôles sont « un bon point de départ », mais a ajouté qu'ils ne sont « qu'un élément du puzzle » de la sécurité en ligne.

« Ils fonctionnent mieux lorsqu'ils sont combinés avec des conversations continues sur l'utilisation responsable de l'IA, des règles familiales claires concernant la technologie et une implication active dans la compréhension de ce que fait leur adolescent en ligne », a-t-il déclaré.

Il y a deux semaines, Altman a déclaré que l'entreprise essaiera à un moment donné de détecter les utilisateurs de ChatGPT mineurs. « En cas de doute, nous jouerons la sécurité et passerons à l'expérience des moins de 18 ans », a déclaré Altman. « Dans certains cas ou pays, nous pourrions également demander une pièce d'identité ; nous savons que cela représente un compromis en matière de confidentialité pour les adultes, mais nous pensons que c'est un compromis valable. »

Les chercheurs ont documenté la facilité avec laquelle il est possible de contourner les limites imposées par les entreprises de chatbot. Les règles de vérification de l'âge sont également connues pour être facilement contournables.

—Niamh Rowe et Hannah Parker ont contribué à cet article.