Le procureur général de la Floride, James Uthmeier, intente une action civile accusant OpenAI de privilégier le profit au détriment de la sécurité des utilisateurs, faisant ainsi de la Floride le premier État à viser l'entreprise.
Photo by Tomohiro Ohsumi / Getty Images
Procureur général de la Floride, James Uthmeier a intenté une action civile contre OpenAI et son PDG Sam Altman lundi, faisant de la Floride le premier État à poursuivre l'entreprise pour des préoccupations de conception et de sécurité liées à ChatGPT.
Parmi les accusations énumérées dans le dépôt, selon NBC News, figurent quatre chefs d'accusation de pratiques commerciales trompeuses et déloyales, deux chefs d'accusation chacun de négligence et de violations de la responsabilité du fait des produits, et des chefs d'accusation uniques de fausse déclaration frauduleuse et de nuisance publique. ChatGPT présente un "grand danger d'addiction, de déclin cognitif, de suicide, de violence et de dommages connexes", allègue la plainte. Contrairement à une poursuite pénale, le dépôt poursuit des sanctions pécuniaires et des mesures injonctives.
"Les gens sont blessés; les parents sont trompés et ils doivent en payer le prix," a déclaré James Uthmeier lundi lors d'un événement à West Palm Beach, selon Yahoo Actualités. "Ils doivent en payer le prix en ouvrant leur chéquier et en modifiant le programme pour s'assurer qu'il y a des contrôles parentaux et que nous ne mettons pas nos enfants en danger."
Une responsabilité personnelle est recherchée contre Altman, que la plainte accuse de "conduite imprudente et volontaire" dans son rôle de construction et de gestion de l'entreprise. Deux incidents violents spécifiques cités dans le dépôt comme preuve de dommages réels sont une fusillade de masse à l'Université d'État de Floride, dans laquelle le tireur aurait utilisé ChatGPT lors de la planification, et les décès de deux étudiants diplômés de l'Université de Floride du Sud.
Sur la question de la flatterie, le procès soutient que l'habitude de ChatGPT de confirmer tout ce que les utilisateurs disent favorise une dépendance émotionnelle malsaine à la plateforme et finit par pousser les utilisateurs à dépenser de l'argent pour des abonnements premium. Les documents marketing de ChatGPT sont également critiqués, la plainte alléguant qu'ils trompent les consommateurs en omettant de reconnaître que l'outil génère régulièrement des sorties fausses, fabriquées ou absurdes.
OpenAI n'a pas immédiatement répondu à une demande de commentaire concernant le procès. La société a déclaré publiquement que « la sécurité à chaque étape » guide la manière dont ses systèmes sont construits, et que « des mesures de protection en place pour aider les gens, en particulier les adolescents, lorsque les conversations deviennent sensibles » sont déjà actives.
Une enquête criminelle parallèle qu'Uthmeier a lancée fin avril dans le sillage de la fusillade à FSU continue indépendamment du dépôt civil de lundi. Avant le dépôt de lundi, le bureau du procureur général avait déjà contraint OpenAI par citation à comparaître à remettre des documents, rapporte Yahoo News, parmi lesquels des politiques internes et des supports de formation concernant l'automutilation et les menaces de violence.
Le procès en Floride s'ajoute à une liste croissante d'actions en justice contre OpenAI. Des litiges privés distincts ciblent déjà l'entreprise sur des bases similaires, au moins sept successions ou familles d'individus ayant intenté des réclamations affirmant que les produits d'OpenAI ont poussé des utilisateurs au suicide ou à des crises psychotiques, rapporte NBC News. En janvier, Character.AI a fait face à sa propre action en justice au niveau de l'État lorsque le procureur général du Kentucky a intenté un procès concernant les dangers présumés du chatbot pour les mineurs.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
