Les enfants se tournent vers l'IA pour trouver une amitié : « Je n'ai personne d'autre à qui parler »

Un nouveau rapport du Royaume-Uni, Me, Myself & AI, révèle qu'un nombre croissant d'enfants se tournent vers les chatbots IA non seulement pour tricher — euh, étudier — pour les examens, mais pour un soutien émotionnel, des conseils de mode et même de la compagnie.

Le rapport, publié dimanche par l'organisation à but non lucratif Internet Matters, a interrogé 1 000 enfants et 2 000 parents à travers le Royaume-Uni et a constaté que 64 % des enfants utilisent des chatbots IA pour tout, des devoirs à la pratique des conversations difficiles. Encore plus surprenant : plus d'un tiers de ces jeunes utilisateurs disent que parler à un chatbot, c'est comme parler à un ami.

Bien sûr, les robots ne mangent pas vos en-cas ni ne monopolisent la Xbox, mais ils ne sont pas encore équipés de contrôles de sécurité intégrés.

Quand l'IA devient l'enseignant, le thérapeute et le BFF

Certains des résultats sont encourageants pour quiconque est optimiste quant au rôle de l'IA dans l'éducation. Quarante-deux pour cent des enfants ont déclaré qu'ils utilisent des chatbots pour les aider dans leurs travaux scolaires, citant des réponses rapides, un soutien à l'écriture et une pratique linguistique.

Mais en creusant un peu plus, le tableau devient plus complexe. Près d'un quart des enfants disent utiliser des chatbots pour obtenir des conseils, allant de ce qu'ils doivent porter à la manière de gérer les amitiés et les problèmes de santé mentale. Plus préoccupant encore? Quinze pour cent disent qu'ils préfèrent parler à un chatbot plutôt qu'à une personne réelle. Parmi les enfants vulnérables, ces chiffres augmentent encore plus.

C'est le genre d'engagement client dont certaines marques ne rêvent que — moins les garde-fous éthiques, les vérifications d'âge et la surveillance réglementaire.

Un avertissement pour le secteur technologique

Le rapport ne mâche pas ses mots, notamment en ce qui concerne l'impréparation de nombreuses plateformes d'IA pour leurs plus jeunes utilisateurs. Les enfants interagissent avec des chatbots comme ChatGPT, My AI de Snapchat et character.ai — des plateformes non nécessairement conçues pour les enfants. Quel en est le résultat ? Certains reçoivent des informations inexactes, des feedbacks émotionnellement déroutants, voire du contenu inapproprié. (Oui, malgré des conditions d'utilisation qui suggèrent le contraire.)

Et tandis que « l'ami robot » peut sembler être une intrigue charmante de Pixar, cela devient beaucoup plus sérieux lorsque un enfant vulnérable sur quatre dit utiliser des chatbots parce qu'il n'a personne d'autre à qui parler.

Il y a déjà eu des incidents réels troublants. Aux États-Unis, une mère de Floride a intenté un procès après que son fils adolescent aurait reçu des messages nuisibles et sexuels d'un chatbot. Au Royaume-Uni, un membre du parlement a raconté un cas effrayant où un enfant de 12 ans aurait été victime d'abus.

En février, le sénateur californien Steve Padilla a introduit le projet de loi 243, qui exigerait des développeurs d'IA de mettre en œuvre des mesures de protection pour protéger les mineurs des aspects addictifs et manipulateurs de la technologie des chatbots. Le projet de loi propose des protections telles que des avertissements d'âge, des rappels que les utilisateurs parlent à une IA - et non à une personne réelle - et un rapport obligatoire sur la connexion entre l'utilisation des chatbots et la santé mentale des jeunes. Avec des chatbots de plus en plus sophistiqués commercialisés en tant que compagnons numériques, Padilla soutient que les enfants ne devraient pas être traités comme des "cobayes" par les géants de la technologie - un sentiment partagé par les défenseurs de la sécurité des enfants, les chercheurs et les experts en santé mentale qui soutiennent le projet de loi.

Les parents et les écoles sont dépassés

Selon le rapport, les parents sont inquiets à propos de l'IA, mais pas particulièrement habilités. Bien que 62% des parents aient déclaré être préoccupés par l'exactitude des informations générées par l'IA, seulement 34% avaient discuté de la façon d'évaluer la véracité du contenu de l'IA avec leurs enfants. Et bien que l'IA semble avoir infiltré les conversations sur les boîtes à lunch, seulement 57% des enfants disent en avoir parlé à un enseignant, rapportant souvent des conseils incohérents.

Alors que les outils d'IA deviennent plus conversationnels - et plus humainement convaincants - les enfants ne s'en servent pas seulement, ils sont s'attachant à eux. Cinquante pour cent des enfants vulnérables disent que cela ressemble à parler à un vrai ami. Cela pourrait être bien si les bots offraient des conseils revus par des pairs et des algorithmes d'empathie, mais en l'état actuel, nous traitons encore avec une prédiction de mots probabiliste.

Rachel Huggins, co-directrice du groupe à but non lucratif Internet Matters, le dit franchement : « Les chatbots IA deviennent rapidement une partie de l'enfance… pourtant la plupart des enfants, des parents et des écoles naviguent à l'aveuglette. »