Le PDG d'OpenAI souhaite que les mêmes protections de confidentialité accordées aux médecins et aux avocats soient appliquées pour protéger les données des utilisateurs de ChatGPT contre les poursuites judiciaires.
Kyle Grillot/Bloomberg via Getty Images
Les utilisateurs hebdomadaires de ChatGPT représentent 10 % de la population adulte mondiale, et Sam Altman veut que leurs conversations avec le chatbot restent privées. Le PDG d'OpenAI a déclaré à plusieurs reprises qu'il souhaitait les mêmes protections de confidentialité pour les chatbots IA que celles généralement accordées aux médecins, avocats et thérapeutes, afin d'éviter de devoir remettre des données utilisateur compromettantes aux tribunaux.
Dans un récent article de blog présentant ChatGPT pour les adolescents, Altman a réitéré sa position sur les protections de la vie privée des IA : « Les gens parlent à l'IA de choses de plus en plus personnelles ; c'est différent des générations précédentes de technologies, et nous pensons qu'il se peut que ce soit l'un des comptes les plus sensibles sur le plan personnel que vous ayez jamais eus. »
« Si vous parlez à un médecin de vos antécédents médicaux ou à un avocat d'une situation juridique, nous avons décidé qu'il est dans l'intérêt de la société que ces informations soient privilégiées et bénéficient de niveaux de protection plus élevés », a écrit Altman. « Nous croyons que le même niveau de protection doit s'appliquer aux conversations avec l'IA auxquelles les gens se tournent de plus en plus pour des questions sensibles et des préoccupations privées. »
Mais il n'existe à ce jour aucune protection juridique de ce type pour les utilisateurs de chatbots ; dans un entretien de juillet avec le podcasteur Theo Von, Altman a averti que les tribunaux pourraient contraindre OpenAI à partager les conversations privées de ses utilisateurs. Déjà, OpenAI a été ordonné par un tribunal fédéral de gardez les journaux de chat privés, et cela met OpenAI au risque à la fois d'aliéner les utilisateurs et de se retrouver dans des batailles juridiques.
Cela dépend de qui vous demandez et de ce qu'ils veulent.
« Les entreprises préfèrent toujours avoir des règles qui les protègent de la responsabilité, et les défenseurs veulent toujours avoir accès à des informations qu'ils peuvent utiliser pour lutter contre les problèmes », a déclaré Peter Swire, professeur de droit au Georgia Tech Scheller College of Business, spécialisé dans la vie privée et la cybersécurité. « Cela se produit dans tous les secteurs tout le temps. »
La route vers les protections de la vie privée de l'IA ne sera pas facile. Au cours des derniers mois, les entreprises d'IA ont été confrontées à des chatbot poursuites, répression étatique sur la thérapie IA, une étude de Stanford appelant aux risques de l'utilisation de chatbots de thérapie, et des auditions au Congrès sur les dommages plus larges de l'IA. Pendant ce temps, OpenAI repousse activement les limites autour de son accès aux données sensibles des utilisateurs. Les défenseurs en faveur de la réglementation de l'IA ont une longue liste de raisons pour restreindre jusqu'où les entreprises d'IA peuvent aller, poussant potentiellement le scénario idéal d'Altman encore plus loin.
Des protections strictes de la vie privée existent pour les médecins, avocats et thérapeutes car "il est si important que les individus parlent honnêtement à ces personnes," a déclaré Swire. Quant aux chatbots qui obtiennent ces mêmes privilèges, Swire a expliqué qu'il pouvait imaginer un système où les privilèges sont étendus dans des "circonstances limitées," où il y a une "annonce claire" que le chatbot va agir comme un avocat ou un médecin. Mais ceci est une "proposition très différente" que de traiter chaque interaction avec un chatbot "comme la conversation psychiatrique la plus sensible," a-t-il dit.
.
« Si le chatbot doit jouer le rôle d'un médecin ou d'un avocat, il vaut la peine d'explorer la protection privilégiée dans ces circonstances spécifiques », a déclaré Swire.
Selon Mayu Tobin-Miyaji, une juriste spécialisée dans l'IA et les droits de l'homme au centre à but non lucratif Electronic Privacy Information Center, les protections de la vie privée pourraient éventuellement être étendues aux LLM vérifiés sous la supervision de médecins, entre autres, « qui sont agréés et qualifiés ». Tobin-Miyaji pense que les chatbots d'aujourd'hui n'obtiendront pas de telles protections, mais ceux qui « supervisent ce processus » pourraient.
Pourtant, les défenseurs de la santé mentale semblent pousser les législateurs dans une toute autre direction.
Mitch Prinstein, responsable de la stratégie et de l'intégration en psychologie à l'American Psychological Association, a exhorté le Congrès lors d'une récente audition à interdire à l'IA de « se présenter à tort comme psychologue ou thérapeute » et à « mandater » des divulgations selon lesquelles « les utilisateurs interagissent » avec un bot.
« [Les préoccupations en matière de sécurité] ne vont pas disparaître s'il y a des protections de confidentialité en place », a déclaré Tobin-Miyaji.
« Il devrait y avoir plus de transparence et de mécanismes de responsabilité pour que le public comprenne quand il saisit des données, comment ces données sont utilisées, où elles sont partagées, [et] comment cela peut affecter les droits à la vie privée et à l'autonomie des personnes », a-t-elle poursuivi.
Si les utilisateurs de chatbots pensent que leurs conversations privées pourraient devenir des preuves judiciaires, se sentiront-ils toujours à l'aise de partager autant ? Certains utilisateurs semblent déjà hésitants.
Un mois de mai ordonnance du tribunal obligeait OpenAI à conserver indéfiniment les conversations de ChatGPT — même celles supprimées. OpenAI a déclaré que les données ne peuvent être consultées que sous des « protocoles légaux stricts » et qu'il conteste l'ordonnance, mais les utilisateurs ont immédiatement commencé à exprimer leurs préoccupations sur Reddit $RDDT, montrant à quelle vitesse la perception publique de ChatGPT peut changer.
« Même si cela ne voit jamais le jour, le fait qu'un avocat individuel devrait potentiellement examiner les discussions temporaires des gens semble être un préjudice pour la vie privée en soi », un utilisateur de Reddit a écrit.
Un autre a mis en garde que les utilisateurs devraient « supposer que tout ce que vous publiez en ligne sera public sous une forme ou une autre. » Un troisième a dit : « Jamais. Faites confiance. Aux entreprises. Avec. Des données sensibles. »
Une étude récente sur les utilisateurs de ChatGPT d'OpenAI et des chercheurs de Harvard a révélé qu'environ 77 % des conversations tournent autour de conseils pratiques, d'écriture et de recherche d'informations, tandis que seulement 1,9 % des messages analysés sont liés aux relations et aux « questions socio-émotionnelles ». Bien que cela représente un petit pourcentage de la manière dont les utilisateurs passent actuellement leur temps avec le chatbot, OpenAI affirme que les conversations sensibles sont en hausse ; l'absence de protections et la sensibilisation croissante au fait que les journaux de chat pourraient être impliqués dans des batailles juridiques pourraient changer la manière dont les utilisateurs interagissent finalement avec ChatGPT, portant un coup au discours axé sur la confidentialité qu'OpenAI — et Altman — misent.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
