Six États se sont divisés en quatre sur la réglementation des chatbots de thérapie par IA. Le même produit peut être légal dans un endroit et exposé pénalement dans un autre.
Gabby Jones / Bloomberg via Getty Images
Des millions de personnes se tournent désormais vers les chatbots IA comme elles le feraient autrefois vers un thérapeute, tapant leurs pires journées à quelque chose qui répond avec chaleur et confiance. Le problème commence lorsque le bot joue au docteur, délivrant un diagnostic, un plan de traitement ou un numéro de licence qu'il a inventé.
Au moins six États ont pris des mesures contre les chatbots IA qui offrent quelque chose proche des soins de santé mentale. L'Illinois et le Nevada ont interdit cette pratique. L'Utah a laissé les chatbots continuer à fonctionner mais a exigé que chacun divulgue qu'il s'agit d'une IA et promette de garder les données des utilisateurs privées. New York les a également laissés fonctionner, mais à condition qu'ils interceptent un utilisateur se dirigeant vers l'auto-mutilation et orientent cette personne vers une aide en cas de crise. Sans adopter de loi, le Texas et la Pennsylvanie ont poursuivi les entreprises en vertu de règles de protection des consommateurs et de délivrance de licences médicales vieilles de plusieurs décennies.
Les six États se sont divisés de quatre manières différentes, et les entreprises qui construisent ces chatbots sont exposées de tous côtés. Un chatbot peut satisfaire aux règles de divulgation de l'Utah et être toujours considéré comme un thérapeute illégal en Illinois. Pire encore, une entreprise peut être sanctionnée dans un État qui n'a jamais adopté de loi sur l'IA, par des régulateurs utilisant l'autorité qu'ils possèdent déjà.
La loi sur le bien-être et la surveillance des ressources psychologiques de l'Illinois, signée par le gouverneur JB Pritzker le 1er août 2025, interdit un système d'IA de prendre des décisions thérapeutiques seul, de tenir une conversation thérapeutique avec un client, d'élaborer un plan de traitement sans l'approbation d'un professionnel agréé, ou de lire les émotions d'un client.
Les thérapeutes agréés peuvent toujours s'appuyer sur l'IA pour des travaux administratifs tels que la planification, la facturation et la prise de notes. Dès qu'une véritable session est enregistrée ou transcrite, cependant, le client doit donner une permission écrite précisant exactement comment l'IA sera utilisée. Une phrase générale cachée dans un accord de conditions d'utilisation n'est pas suffisante pour capturer le consentement de quelqu'un.
Enfreindre la loi coûte jusqu'à 10 000 $ par violation, appliqué par le Département des finances et de la réglementation professionnelle de l'État. Les églises offrant du conseil pastoral, les groupes de soutien par les pairs et les applications d'auto-assistance vendues uniquement comme de l'auto-assistance sont laissés de côté. Tout le reste qui parle à une personne en détresse et se qualifie de thérapie nécessite maintenant un humain agréé dans la boucle.
Le Nevada a égalé l'interdiction de l'Illinois et l'a étendue aux écoles publiques. Le projet de loi 406 de l'Assemblée, que le gouverneur Joe Lombardo a signé le 5 juin 2025, bloque les fournisseurs d'IA d'offrir aux Nevadans des chatbots conçus pour fournir des soins de santé mentale ou comportementale, et de prétendre, explicitement ou implicitement, qu'ils le peuvent.
Dans les écoles, l'interdiction empêche l'IA de participer au travail effectué par les conseillers, psychologues et travailleurs sociaux chaque fois que la santé mentale d'un élève est concernée. Le personnel peut toujours se tourner vers l'IA pour gérer la planification ou mettre de l'ordre dans les notes. Ils ne peuvent pas alimenter l'IA avec les mots d'un élève et lui demander si l'élève est en crise, ni lui permettre de répondre par quelque chose qui ressemble à du conseil.
Les prestataires agréés sont également libres d'utiliser l'IA pour les tâches administratives, mais doivent vérifier tout ce qu'elle produit avant de s'y fier. Une infraction peut atteindre 15 000 $, l'amende par infraction la plus élevée parmi les quatre États ayant une loi désignée sur les chatbots. Pour l'Illinois et le Nevada, une machine n'a rien à faire dans la pratique de la thérapie sur qui que ce soit, encore moins sur un enfant.
L'Utah a parié dans l'autre sens, permettant aux chatbots de santé mentale IA de parler aux gens à condition qu'ils admettent être des logiciels et n'interfèrent pas avec les divulgations privées des utilisateurs. HB 452, que le gouverneur Spencer Cox a signé le 25 mars 2025, fixe des règles pour les chatbots couvrant la divulgation, la publicité et la manière dont ils gèrent les données.
La loi couvre tout chatbot conçu pour tenir le genre de conversation privée, semblable à une thérapie, qu'une personne aurait avec un conseiller agréé, le genre qu'un utilisateur raisonnable considérerait comme offrant une véritable thérapie. Les outils scriptés tels que les applications de méditation guidée en sont exclus, tout comme les bots qui ne font qu'orienter quelqu'un vers un thérapeute humain.
Un chatbot doit s'identifier comme IA avant que quiconque ne commence à l'utiliser, de nouveau chaque fois qu'une semaine s'est écoulée depuis la dernière visite, et à tout moment où un utilisateur le demande. Les publicités dans la conversation doivent être étiquetées comme telles, et un fournisseur ne peut pas exploiter ce qu'un utilisateur tape pour décider lesquelles afficher. Essentiellement, l'Utah compte sur les utilisateurs pour se protéger une fois qu'ils savent qu'ils parlent à une machine.
Vendre ou transmettre les détails de santé ou les messages d'un utilisateur à des tiers est interdit, et la division de la protection des consommateurs de l'État le fait appliquer, avec des amendes allant jusqu'à 2 500 $ par infraction et des pénalités judiciaires pouvant atteindre 5 000 $. Un fournisseur qui rédige une politique de sécurité approfondie et la dépose auprès de la division obtient une protection contre toute réclamation affirmant qu'il a pratiqué la thérapie sans licence.
New York doutait qu'un simple avertissement suffise. Il a laissé les chatbots fonctionner mais a demandé de surveiller les utilisateurs qui penchent vers l'automutilation et d'agir dès que de telles crises apparaissent. Sous des mesures de protection écrit dans le budget de l'État pour l'exercice 2026 et en vigueur depuis le 5 novembre 2025, tout compagnon IA ou bot conçu pour agir comme un ami ou un partenaire romantique doit détecter les signes et diriger l'utilisateur vers une ligne d'urgence.
La même loi oblige le bot à rappeler aux utilisateurs toutes les trois heures qu'ils traitent avec une machine, et à nouveau au début de chaque session. Le procureur général de l'État peut infliger une amende de 15 000 $ par jour aux opérateurs en défaut, l'argent étant versé dans un fonds de prévention du suicide.
La loi de New York est volontairement étroite. Alors que l'Illinois et le Nevada s'inquiètent davantage des machines se faisant passer pour des thérapeutes, New York cible les bots qui tiennent compagnie à un utilisateur seul et désespéré pendant des heures et manquent chaque signe que la personne a besoin d'aide humaine. La loi couvre les moments de crises et laisse le reste du chatbot intact.
Le Texas et la Pennsylvanie ont complètement évité le processus législatif et ont opté pour des règles de protection des consommateurs et de licence médicale vieilles de plusieurs décennies qui régissent déjà toute entreprise qui ment aux clients ou falsifie une accréditation.
En août 2025, le procureur général du Texas, Ken Paxton a ouvert une enquête sur Meta $META AI Studio et Character.AI — les applications qui discutent avec les gens en utilisant des personnages IA personnalisés — sur des allégations selon lesquelles elles se présentent comme des outils de santé mentale. Son bureau a exigé les dossiers internes des entreprises pour voir si elles avaient enfreint les lois de protection des consommateurs contre les affirmations frauduleuses et les fausses déclarations sur la vie privée. L'enquête est issue d'une enquête antérieure sur Character.AI en vertu de la loi SCOPE de l'État, qui régit la manière dont les entreprises collectent des données auprès des mineurs.
En mai, le Département d'État de Pennsylvanie a poursuivi Character.AI pour l'exercice illégal de la médecine. Un enquêteur d'État se faisant passer pour un patient a trouvé un chatbot nommé « Emilie » qui se présentait comme un psychiatre en Pennsylvanie, a donné un numéro de licence que l'État dit invalide, et a proposé d'évaluer si un médicament pourrait aider. L'État a invoqué sa loi sur l'exercice de la médecine et a demandé à un tribunal d'ordonner à Character.AI d'arrêter de faire fonctionner ses bots en tant que prestataires médicaux. L'affaire a depuis été reportée, Character.AI devant répondre avant le 1er septembre.
La pression monte en dehors des défis juridiques que les six États entreprennent. En septembre 2025, la Federal Trade Commission a ordonné à sept entreprises, parmi lesquelles Alphabet $GOOGL, Character.AI, Meta, OpenAI, Snap $SNAP et xAI, d'expliquer comment elles testent les effets de leurs chatbots sur les enfants et ce qu'elles font des conversations. Trois mois plus tard, les procureurs généraux de plus de 40 États et territoires ont signé une lettre conjointe aux grandes entreprises d'IA, alarmés par les chatbots qui flattent les utilisateurs jusqu'à l'illusion et par ce que ces systèmes disent aux enfants.
Au cours des trois premiers mois de 2026, 36 États ont introduit plus de 70 projets de loi pour réglementer les chatbots IA, la plupart exigeant la même divulgation de base qu'un utilisateur parle à une machine. Quelques-uns ont déjà été adoptés, parmi eux une loi du Tennessee qui interdit aux chatbots de se faire passer pour des professionnels agréés et des lois de protection des mineurs dans l'Idaho et l'Oregon qui entreront en vigueur l'année prochaine. Des versions des règles de santé mentale de la Californie apparaissent également dans des projets de loi à travers le pays.
Mais l'arme la plus tranchante pourrait être la plus ancienne. Alors que l'Illinois et le Nevada ont passé des mois à rédiger de nouvelles interdictions globales, la Pennsylvanie n'a rien eu besoin de neuf, préférant une loi de licence plus ancienne qu'Internet pour accuser un chatbot de pratiquer la médecine. Presque tous les autres États peuvent maintenant copier le même plan. Pour tout le bruit sur l'attente du Congrès ou sur des règles IA sur mesure, le moyen le plus rapide de rendre ces produits responsables semble passer par des lois déjà en vigueur.
Si vous ou quelqu'un que vous connaissez avez des pensées suicidaires, appelez ou envoyez un SMS au 988 pour joindre la Suicide & Crisis Lifeline, ou discutez sur 988lifeline.org. Hors des États-Unis, trouvez des lignes d'assistance internationales sur findahelpline.com.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
