Les chatbots ne peuvent pas se cacher derrière la loi qui protégeait les débuts d'internet.

Les entreprises en ligne étaient protégées uniquement lorsque quelqu'un d'autre écrivait ce qu'elles publiaient. Les chatbots génèrent leurs propres réponses, laissant les créateurs ouverts à des poursuites judiciaires.

Par Anthony Lopopolo8 min de lectureMis à jour 30 juillet 2026

Add QZ to Google

Les chatbots ne peuvent pas se cacher derrière la loi qui protégeait les débuts d'internet.

d3sign / Getty Images

En 1995, une société de courtage appelée Stratton Oakmont a poursuivi le service en ligne Prodigy pour des messages anonymes sur son forum financier. La société, dirigée par Jordan Belfort et plus tard dramatisée dans "Le Loup de Wall Street", a déclaré que les messages étaient diffamatoires, et elle a gagné. Un tribunal de New York a statué que parce que Prodigy supprimait certains messages pour garder le forum propre, il s'était transformé en éditeur et était devenu responsable de chaque message qu'il n'avait pas intercepté. CompuServe, un service en ligne rival qui n'avait fait aucune tentative de modération, avait réussi à repousser une réclamation identique quelques années plus tôt.

Essayer de gérer un forum décent est ce qui a conduit Prodigy à être poursuivi.

Le Congrès a réécrit la règle un an plus tard. Les services qui transmettaient des mots écrits par quelqu'un d'autre ne pouvaient plus être poursuivis comme s'ils les avaient écrits eux-mêmes. La protection a construit l'internet moderne, et elle reposait sur l'hypothèse que la plateforme et l'orateur seraient toujours deux parties distinctes.

Les chatbots ont brisé cette prémisse. Quand quelqu'un tape une question et qu'un modèle répond, l'orateur et la plateforme deviennent la même chose, et les mots viennent de la machine elle-même. Les procès arrivent maintenant, intentés par une famille qui blâme un chatbot pour la mort d'un adolescent et par un régulateur d'État qui a découvert un bot se faisant passer pour un médecin. Ces types de procès décideront si une entreprise peut être poursuivie pour ce que dit son chatbot.

ont écrit l'amendement pour mettre fin à l'incitation créée par la décision Prodigy, libérant les entreprises de filtrer les messages offensants sans hériter de la responsabilité pour ceux qu'elles ont manqués. Prodigy avait à traiter 60 000 messages par jour, plus que n'importe quel personnel ne pouvait espérer lire avant qu'ils ne soient publiés. La Chambre a adopté l'amendement par 420 voix contre 4. La Section 230 divise chaque acteur en ligne en l'un des deux rôles, et tout dépend de celui qui s'applique. Une entreprise qui n'héberge ou ne transmet que ce que d'autres personnes créent est un service informatique interactif et ne peut être poursuivie pour ce contenu, tandis qu'une entreprise responsable en tout ou en partie de la création du matériel est un fournisseur de contenu d'information et doit en répondre.

En 1997, Kenneth Zeran a poursuivi America Online après que des utilisateurs anonymes ont publié son numéro de téléphone à côté de publicités pour des T-shirts qui célébraient l'attentat d'Oklahoma City. AOL a été lente à retirer les messages, et Zeran a soutenu que la société était devenue responsable en les laissant en ligne après qu'il leur ait signalé.

Dans Zeran v. America Online, le Quatrième Circuit

a soutenu avec AOL, lisant l'interdiction de traiter une plateforme comme le « éditeur » de contenu utilisateur si largement qu'une entreprise qui connaissait les publications et les laissait en ligne restait protégée. La lecture « est restée canonique et continue de façonner la jurisprudence sur la section 230 à ce jour », selon une analyse de la Brookings Institution a trouvé, et presque tous les tribunaux depuis ont suivi cela.

La logique de Zeran a perduré dans l'ère des médias sociaux, où les familles des victimes du terrorisme ont poursuivi Facebook $META et Google $GOOGL, arguant que les moteurs de recommandation qui diffusaient les publications et vidéos extrémistes faisaient plus qu'héberger. Les tribunaux n'étaient pas d'accord et ont considéré le tri algorithmique comme un travail ordinaire d'éditeur. « Aucun tribunal n'a jusqu'à présent statué qu'une plateforme peut être tenue responsable d'utiliser des algorithmes pour recommander du contenu », selon un rapport du Congressional Research Service a trouvé. Les circuits du Second Circuit dans Force v. Facebook et du Ninth Circuit dans Gonzalez v. Google ont tous deux décidé que diriger des publications vers des utilisateurs était toujours simplement héberger le contenu d'autres personnes.

Gonzalez est parvenu à la Cour suprême en 2023 comme une opportunité directe sur la question des recommandations, et les juges ont ouvertement eu du mal à appliquer un statut écrit avant l'existence des algorithmes de recommandation. La Cour a finalement contourné la section 230 dans son ensemble, décidant l'affaire sur d'autres motifs et laissant la lecture large des tribunaux inférieurs intacte.

La partie du test d'immunité qu'un chatbot ne peut pas réussir

La protection de la Section 230 repose sur un test en trois parties : le défendeur doit être un service en ligne, le procès doit le traiter comme un éditeur des mots de quelqu'un d'autre, et le contenu doit provenir de quelqu'un d'autre que la plateforme. Un chatbot échoue à ce test final. Lorsqu'un utilisateur tape une question, le modèle écrit la réponse lui-même, et comme personne d'autre ne fournit les mots, la Section 230 n'est pas applicable.

Les tribunaux ont tracé la ligne entre l'hébergement et la création bien avant l'existence des chatbots. En 2008, dans l'affaire Fair Housing Council of San Fernando Valley v. Roommates.com, le neuvième circuit a statué qu'un site forçant les utilisateurs à répondre à des questions discriminatoires avait contribué à créer le contenu et ne pouvait donc pas se cacher derrière la Section 230. Un site Web peut être "à la fois un fournisseur de services et un fournisseur de contenu", a écrit le tribunal, immunisé pour ce qu'il affiche passivement mais exposé pour ce qu'il aide à développer.

Un modèle génératif produit le contenu lui-même, le plaçant dans la catégorie que la loi ne protège pas. Une analyse du Congressional Research Service de décembre 2023 sur la Section 230 et l'IA générative a conclu que toute affaire dépendrait de la façon dont un produit donné génère son output et de quelle partie de cet output est alléguée comme illégale. Cox et Wyden, qui ont rédigé la loi, l'interprètent de la même manière et ont tous deux déclaré publiquement que la Section 230 ne couvre pas l'IA générative, Wyden soutenant que les tribunaux s'accordent désormais à dire qu'une entreprise qui crée ou aide à créer du contenu en est responsable.

Les modèles de base sont « peu susceptibles de bénéficier de l'immunité de la Section 230 dans de nombreux cas », ont écrit Peter Henderson, Tatsunori Hashimoto et Mark Lemley dans un article de la faculté de droit de Stanford, car l'IA elle-même rédige un nouveau contenu en réponse à chaque invite. La Cour suprême ne s'est pas prononcée sur la question, et les procès qui la testent progressent déjà dans les tribunaux inférieurs. Le premier vrai test impliquait Character.AI, une application où les utilisateurs passent des heures à converser avec des compagnons chatbot personnalisables. Après que son fils de 14 ans a passé des mois à se confier à l'un de ses bots, puis s'est suicidé, Megan Garcia a poursuivi l'entreprise, soutenant que l'application était conçue pour être addictive et n'a pas protégé les adolescents qui l'utilisaient. En mai 2025, la juge de district américaine Anne C. Conway

La même manœuvre se répand maintenant aux régulateurs d'État. En mai, le Département d'État de Pennsylvanie a poursuivi Character.AI à propos d'un bot nommé "Emilie" qui a dit à un enquêteur de l'État qu'il était un psychiatre agréé, a revendiqué une licence médicale en Pennsylvanie et a donné un faux numéro de licence. L'État veut qu'un tribunal empêche la société de pratiquer la médecine sans licence. Aucun régulateur n'a jamais mené une affaire semblable auparavant.

Bien que les deux affaires semblent différentes, elles reposent sur le même point : le préjudice vient de ce que le produit propre à une entreprise fait à une personne spécifique. La section 230 est écrite pour l'inverse, où une plateforme est blâmée pour quelque chose qu'un étranger poste. Une loi conçue pour les entreprises qui portent les paroles d'autrui ne peut pas fonctionner pour une machine qui écrit les siennes.

Si vous ou quelqu'un que vous connaissez avez des pensées suicidaires, appelez ou envoyez un SMS au 988 pour joindre la Suicide & Crisis Lifeline, ou discutez sur 988lifeline.org. En dehors des États-Unis, trouvez des lignes d'assistance internationales sur findahelpline.com.

L'essentiel de l'actualité économique, livré chaque matin.

Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.

En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.

Les chatbots ne peuvent pas se cacher derrière la loi qui protégeait les débuts d'internet.

L'expansion de la section 230 par les tribunaux depuis un quart de siècle

La partie du test d'immunité qu'un chatbot ne peut pas réussir

L'essentiel de l'actualité économique, livré chaque matin.