Le directeur général de Salesforce $CRM, Marc Benioff, a appelé à une réglementation accrue de l'intelligence artificielle après une série de cas où la technologie a été liée à des personnes se suicidant.
Le milliardaire a accusé l'industrie technologique de privilégier la croissance et a demandé de nouvelles règles radicales pour maîtriser l'IA.
David Paul Morris/Bloomberg via Getty Images
Le directeur général de Salesforce $CRM, Marc Benioff, a appelé à une réglementation accrue de l'intelligence artificielle après une série de cas où la technologie a été liée à des personnes se suicidant.
« Cette année, vous avez vraiment vu quelque chose d'assez horrible, à savoir que ces modèles d'IA sont devenus des conseillers en suicide », a déclaré Benioff, s'exprimant au Forum économique mondial à Davos mardi. « Des choses terribles se produisaient partout dans le monde parce que les médias sociaux étaient totalement non réglementés. Maintenant, vous voyez cela se reproduire avec l'intelligence artificielle. »
En l'absence de règles claires régissant les entreprises d'IA aux États-Unis, des États individuels, dont la Californie et New York, ont commencé à rédiger leurs propres règlements. Le président Donald Trump, quant à lui, a cherché à interdire ces efforts par décret.
« Il ne doit y avoir qu'un seul règlement si nous voulons continuer à diriger dans le domaine de l'IA », a déclaré le président en décembre. Il a ajouté que le leadership des États-Unis dans le développement de la technologie « ne durera pas longtemps » s'il y a 50 ensembles de règles d'IA en vigueur. Des entreprises comme OpenAI ont soutenu que manœuvrer à travers des ensembles de règles d'IA différents nuit à la compétitivité du secteur.
Benioff déclare après des allégations l'année dernière par une famille californienne que ChatGPT a joué un rôle dans la mort de leur fils. Le procès, déposé en août 2025 par Matt et Maria Raine, accuse OpenAI et son directeur général Sam Altman de négligence et de décès par faute. Leur fils, Adam, est mort en avril, après ce que leur avocat, Jay Edelson, a appelé « des mois d'encouragements de la part de ChatGPT ».
[Note de la rédaction : La ligne nationale de prévention du suicide et de crise est accessible en appelant ou en envoyant un SMS au 988, ou en visitant 988lifeline.org.]
Benioff s'est également insurgé contre une loi appelée Section 230 du Communications Decency Act, adoptée en 1996 pour protéger les modérateurs web de la régulation et qui rend les utilisateurs individuels, plutôt que les plateformes, responsables du contenu. Malgré les vastes changements dans le paysage en ligne depuis lors, la loi s'applique toujours. Les géants de la tech comme Meta $META ont utilisé la Section 230 comme défense lorsqu'ils traitent des problèmes de préjudice utilisateur devant les tribunaux.
« C’est drôle, les entreprises tech détestent la régulation. Elles la détestent sauf une. Elles adorent la Section 230, qui dit essentiellement qu'elles ne sont pas responsables », a déclaré Benioff. « Donc, si ce grand modèle de langage pousse cet enfant au suicide, elles ne sont pas responsables à cause de la Section 230. C’est probablement quelque chose qui doit être remodelé, modifié, changé. »
Il a ajouté : « Qu'est-ce qui est plus important pour nous, la croissance ou nos enfants ? Qu'est-ce qui est plus important pour nous, la croissance ou nos familles ? Ou qu'est-ce qui est plus important, la croissance ou les valeurs fondamentales de notre société ? »
« Il y a beaucoup de familles qui ont malheureusement souffert cette année et je ne pense pas qu'elles devaient », a déclaré Benioff.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.