Sam Altman n'a pas eu 'une bonne nuit de sommeil' depuis le lancement de ChatGPT.

Le PDG d'OpenAI dit qu'il ne perd pas le sommeil à cause des robots renégats, mais en raison des paramètres par défaut, des garde-fous et des choix qui ont un impact sur des centaines de millions.

Par Shannon Carroll6 min de lectureMis à jour 15 septembre 2025

Add QZ to Google

Sam Altman n'a pas eu 'une bonne nuit de sommeil' depuis le lancement de ChatGPT.

Al Drago/Bloomberg via Getty Images

Sam Altman dit qu'il n'a pas bien dormi depuis le lancement de ChatGPT — non pas à cause de cauchemars de science-fiction, mais à cause de choix de produits qui s'adaptent à la taille d'une civilisation. « Je n'ai pas passé une bonne nuit de sommeil depuis le lancement de ChatGPT », le PDG d'OpenAI a déclaré à Tucker Carlson, ajoutant que ce qui le tient éveillé, ce sont "les très petites décisions" concernant le comportement du modèle qui, multipliées par une base d'utilisateurs massive, ont "un impact net...important."

Cette échelle est la raison pour laquelle Altman trace une ligne dure entre ce que les utilisateurs perçoivent parfois et ce que les systèmes sont réellement. Interrogé pour savoir si l'IA est "vivante" ou ment, il a dit que les modèles "hallucinent," pas préméditent (donc : un mode d'échec statistique, pas intentionnel) — et qu'OpenAI travaille avec les modèles pour réduire leurs faussetés.

"Nous avons déjà fait...à l'ère de GPT-5 un énorme progrès vers cela," a-t-il dit, tout en reconnaissant qu'il y a encore des exemples de ce problème. Le point, selon lui, est que de meilleures garde-fous battent les grandes théories.

Ces garde-fous vivent de plus en plus sur papier. Altman a souligné le "model spec" d'OpenAI, le manuel de jeu publié publiquement pour savoir comment ChatGPT doit se comporter lorsque les questions deviennent morales, politiques ou simplement risquées pour "les règles que nous aimerions que le modèle suive." Il a ajouté qu'OpenAI "a consulté des centaines de philosophes moraux" mais doit finalement prendre des décisions — et en être responsable. Altman dit cependant que la responsabilité devrait commencer par le sommet : "La personne que je pense que vous devriez tenir responsable de ces décisions, c'est moi." OpenAI a publié un premier brouillon du "model spec" en 2024 et a publié une mise à jour majeure cette année.

Codifier le comportement à l'intérieur du produit est un pilier ; pousser pour une loi en est une autre. Altman a dit que, s'il pouvait faire passer une politique maintenant, ce serait sur le "privilège de l'IA" — une protection légale qui traiterait certaines conversations de chatbot comme des échanges confidentiels entre médecin et patient ou avocat et client, afin que les gouvernements ne puissent pas facilement assigner à comparaître des discussions d'utilisateurs, ce qui peut se produire aujourd'hui en vertu de la loi actuelle.

"Lorsque vous parlez à un médecin de votre santé ou à un avocat de vos problèmes juridiques, le gouvernement ne peut pas obtenir cette information... Je pense que nous devrions avoir le même concept pour l'IA," a-t-il dit. "Pour l'instant, nous n'avons pas cela." Cette idée s'aligne avec des mois de commentaires publics d'Altman pressant Washington de reconnaître la confidentialité "client"-IA.

L'échelle est le multiplicateur. Altman a déclaré que « des centaines de millions de personnes » parlent quotidiennement aux modèles d'OpenAI, c'est pourquoi les paramètres par défaut importent plus que les hypothèses. Cela inclut le contenu en cas de crise : il a décrit le resserrement des réponses concernant l'automutilation tout en se débattant encore avec des questions spécifiques à la juridiction (par exemple, des pays qui autorisent l'euthanasie). Le fil conducteur est une tentative de refléter un large consensus d'utilisateurs dans des lignes légales claires, avec personnalisation aux marges.

Altman a déclaré qu'il ne pense pas que ChatGPT devrait être « pour » ou « contre » des questions contestées, mais plutôt qu'il devrait refléter un consensus utilisateur large et évolutif dans des limites légales claires. « Je n'impute pas ma vision morale exacte », a-t-il déclaré. « Ce que je pense que ChatGPT devrait faire, c'est refléter cette... vision morale collective », tout en permettant une personnalisation et en traçant toujours des lignes rouges où le préjudice est évident.

L'interview avec Carlson n'a pas seulement couvert les paramètres par défaut du produit ; les deux ont également parlé de culture, de gouvernance et de rivalité. Altman a déclaré que les gens adoptent le style de ChatGPT : la phraséologie, le rythme, même la ponctuation - dans l'écriture réelle. Il a mis en garde contre les "inconnus inconnus", allant de petites dérives linguistiques à des risques plus sérieux tels que l'utilisation abusive de l'IA dans la recherche biologique, la désinformation ou les cyberattaques.

Concernant les deepfakes et l'authenticité, Altman a déclaré qu'il est contre l'imposition de la biométrie, préférant promouvoir des alternatives telles que les signatures cryptographiques ou les mots de passe pour vérifier qui parle ou envoie quoi. Et sur la défense, il a exclu la construction de « drones d'attaque meurtriers » mais a déclaré soupçonner « qu'il y a beaucoup de gens dans l'armée qui parlent à ChatGPT pour obtenir des conseils », une zone grise qu'il n'a pas résolue. « Je ne sais pas exactement comment me sentir à ce sujet », a-t-il déclaré.

Altman a également pesé sur l'économie et la gouvernance. Les rôles de support client, a-t-il dit, sont les plus évidents à risque d'automatisation, tandis que les infirmières sont susceptibles de rester indispensables et les programmeurs font face à un terrain incertain. Il a encadré ce renouvellement en termes historiques, disant qu'environ la moitié des emplois changent significativement tous les 75 ans, bien que l'IA puisse compresser ce cycle en une poussée plus vive. L'interview de Carlson a dérivé vers d'autres territoires chargés - y compris un échange contentieux sur la mort d'un ancien chercheur d'OpenAI.

Et Altman a également parlé de sa relation avec le PDG de Tesla $TSLA, Elon Musk. Le PDG d'OpenAI a déclaré que, pendant longtemps, il "regardait [Musk] comme un héros incroyable, un grand bijou pour l'humanité", mais maintenant ses sentiments sont plus mitigés - "différents maintenant". Musk faisait partie du groupe fondateur d'OpenAI ; maintenant, il dirige xAI et a poursuivi OpenAI, l'accusant d'avoir abandonné sa mission initiale (et la qualifiant de "Closed AI"). Altman, quant à lui, prévoit une startup de prothèse cérébrale pour rivaliser avec Neuralink de Musk.

Pour le meilleur ou pour le pire, depuis son lancement le 30 novembre 2022, ChatGPT est désormais intégré dans le travail, l'école et la vie quotidienne — et Altman affirme que le vrai risque réside dans les paramètres par défaut, pas dans l'apocalypse. Il n'y a pas de bouton d'arrêt pour un système qui traite des millions de requêtes avant l'aube. Pour le PDG d'OpenAI, ce bourdonnement sans fin signifie que chaque ajustement, refus ou hallucination est amplifié de manière que aucun test de laboratoire ne peut capturer.

Altman peut insister sur le fait qu'il n'est pas hanté par des visions de robots voyous — que ce qui le tient éveillé, ce sont les cauchemars plus subtils des paramètres par défaut et de la divulgation. Dans un monde où des milliards d'incitations s'additionnent pour provoquer des changements culturels, le sommeil qu'il désire est en réalité un raccourci pour la stabilité. De beaux rêves, dans ce cas, signifieraient des paramètres ennuyeux, des limites claires et un cadre juridique suffisamment solide pour arrêter les remises en question nocturnes.

L'essentiel de l'actualité économique, livré chaque matin.

Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.

En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.