L'Illinois est devenu le dernier État à restreindre l'utilisation de l'intelligence artificielle dans la thérapie, après le Nevada et l'Utah, alors qu'au moins trois autres États envisagent leurs propres restrictions sur cette technologie.
La Californie, le New Jersey et la Pennsylvanie pourraient rejoindre trois autres États pour restreindre les applications thérapeutiques de l'IA.
Scott Olson/Getty Images
L'Illinois est devenu le dernier État à restreindre l'utilisation de l'intelligence artificielle dans la thérapie, après le Nevada et l'Utah, alors qu'au moins trois autres États envisagent leurs propres restrictions sur cette technologie.
L'interdiction de la thérapie par IA en Illinois, en vertu de la loi sur le bien-être et la surveillance des ressources psychologiques, interdit l'utilisation de l'IA pour "fournir des décisions en matière de santé mentale et de thérapie", selon un communiqué de presse. Toutefois, les professionnels de la santé comportementale agréés peuvent toujours utiliser la technologie pour des services de soutien administratif et complémentaire. Le gouverneur de l'Illinois, JB Pritzker, a signé le projet de loi le 1er août.
Trois autres États — Californie, New Jersey et Pennsylvanie — ont des projets de loi en cours qui restreindraient l'IA utilisée dans la thérapie. Le projet de loi proposé de la Californie exigerait que le secrétaire au sein de l'Agence des opérations gouvernementales de l'État crée un groupe de travail sur la santé mentale et l'IA pour "déterminer le rôle" de l'IA dans la thérapie.
Le projet de loi du New Jersey interdirait à quiconque "développe ou déploie" l'IA dans l'État de faire de la publicité en prétendant que sa technologie peut agir comme un professionnel de la santé mentale agréé. Projet de loi de Pennsylvanie exigerait que les écoles obtiennent d'abord le consentement parental avant d'administrer des services de santé mentale virtuels aux enfants.
Comme le Washington Post l'a rapporté, deux États autres que l'Illinois ont déjà commencé à restreindre les applications thérapeutiques de l'IA. En juin, le Nevada a signé un projet de loi en loi qui restreint l'IA dans les écoles, entre autres mesures, et limite les utilisations de l'IA par les prestataires de soins de santé mentale et comportementale. Et en mars, l'Utah a adopté une loi qui a mis en place des règlements sur les chatbots de santé mentale qui utilisent l'IA.
Ces restrictions sont mises en place alors que des chercheurs — ainsi que le dirigeant technologique Sam Altman — mettent en garde contre les risques de traiter l'IA générative comme un thérapeute.
Altman est le PDG d'OpenAI, qui possède et exploite le plus grand chatbot IA, ChatGPT. Dans un podcast interview à la fin juillet, Altman a déclaré que les sessions de thérapie avec ChatGPT ne resteront pas nécessairement toujours privées. Il a ajouté qu'il n'existe actuellement aucun fondement juridique pour protéger les informations sensibles et personnelles que quelqu'un pourrait partager avec ChatGPT si un procès nécessite qu'OpenAI partage ces informations.
Peu de temps avant l'entretien d'Altman, une étude de l'Université de Stanford a révélé que les chatbots thérapeutiques IA sont loin d'être prêts à remplacer les prestataires humains. Elle a constaté que ces chatbots expriment des stigmates et font des déclarations inappropriées sur certaines conditions de santé mentale, y compris les personnes éprouvant des délires, des pensées suicidaires, des hallucinations et des TOC, entre autres conditions.
"Les habitants de l'Illinois méritent des soins de santé de qualité dispensés par de véritables professionnels qualifiés et non par des programmes informatiques qui puisent des informations de tous les coins de l'internet pour générer des réponses qui nuisent aux patients", a déclaré Mario Treto, Jr., secrétaire au Département de la régulation financière et professionnelle de l'Illinois, dans le communiqué. "Cette législation témoigne de notre engagement à préserver le bien-être de nos résidents en veillant à ce que les services de santé mentale soient dispensés par des experts formés qui placent le soin des patients au-dessus de tout."
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.