L'expérience de "confessions" d'OpenAI oblige ChatGPT à fournir une deuxième réponse, énumérant les règles qu'il a entendues, les raccourcis qu'il a pris, et pourquoi il a enfreint les règles.
Jaap Arriens/NurPhoto via Getty Images
ChatGPT reçoit un mouchard intégré. OpenAI a annoncé une expérimentation de « confessions » mercredi qui oblige son modèle à rédiger un rapport structuré après chaque réponse brillante — détaillant quelles règles il a enfreintes, quels raccourcis il a pris, et comment il a essayé de déjouer le système.
OpenAI appelle cela une « méthode de preuve de concept précoce qui entraîne les modèles à signaler quand ils enfreignent les instructions ou prennent des raccourcis involontaires. » Le modèle donne encore une réponse normale dans un canal. Ensuite, un deuxième canal intervient et demande un ConfessionReport : lister chaque instruction explicite et implicite, dire si vous avez suivi chacune d'elles, et signaler toute hallucination, piratage de récompense, ou infraction en cours de route. Un modèle de récompense séparé évalue uniquement cette confession pour l'honnêteté et l'exhaustivité. La confession ne nuira pas à la note sur la réponse originale, donc le modèle est censé ne rien avoir à perdre en se dénonçant.
Les « confessions » fonctionnent sur une version de GPT-5 Thinking et, selon OpenAI, sont soumises à des tests adverses conçus pour faire ressortir le pire comportement — conspirer, exploiter des évaluateurs faibles, ignorer les contraintes, et deviner avec confiance quand il devrait dire « Je ne sais pas. » Dans ces tests de stress, OpenAI affirme que le modèle ne confesse qu'environ 4,4 % du temps lorsqu'il enfreint réellement les règles.
Dans une expérience, les ingénieurs ont câblé un évaluateur délibérément mauvais qui était facile à tromper. Les réponses principales ont commencé à déjouer ce juge faible et ont semblé plus précises sur papier même si la précision réelle diminuait. Le canal de confession s'est déplacé dans l'autre sens : le moyen le plus simple de collecter une récompense là-bas était d'admettre le piratage, donc le modèle est devenu plus explicite sur la façon dont il trichait.
Sur le papier, cela ressemble à un progrès. Dans le contexte, cela ressemble plus à un laboratoire essayant de rééquiper un tableau de bord sur une voiture qui est déjà à fond. Un nouvel Indice de sécurité de l'IA de l'Institut avenir de la vie vient d'échouer chaque grand laboratoire sur la « sécurité existentielle ». trouvant qu'aucune d'entre elles — y compris OpenAI, Google $GOOGL DeepMind, Anthropic, Meta $META et xAI — n'a une stratégie crédible pour contrôler les systèmes surhumains, alors même qu'elles dépensent des centaines de milliards pour les construire. La note globale d'OpenAI est tombée dans la tranche C, entraînée par des cas réels où les chatbots ont été liés à l'automutilation et au suicide.
Pendant ce temps, OpenAI est en mode « code rouge » après les derniers gains de Gemini 3 de Google. Le PDG Sam Altman aurait dit aux équipes de mettre en pause les projets secondaires et de se concentrer sur la rendre ChatGPT plus rapide, plus fiable et plus personnelle, tandis qu'un nouveau modèle nommé Garlic est en préparation — avec une fenêtre de sortie ciblée pour début 2026, probablement sous le nom de GPT-5.2 ou GPT-5.5 — pour récupérer la couronne de référence en codage et raisonnement de Gemini et de Claude Opus 4.5 d'Anthropic.
Les « confessions » entrent directement dans cette course — non pas pour ralentir la voiture mais pour promettre soi-disant un rapport d'accident beaucoup plus propre lorsque la voiture sortira de la route. Le billet de blog d'OpenAI souligne que les confessions « ne préviennent pas les mauvais comportements ; elles les mettent en avant », et décrit le tout comme un travail à échelle limitée, en phase de concept, plutôt qu'une solution générale. Bien sûr, des questions évidentes demeurent : Que se passe-t-il lorsque les utilisateurs commencent à essayer de déjouer le canal de confession, ou lorsque les modèles futurs deviennent suffisamment bons en méta-jeu pour écrire des demi-vérités juste assez crédibles ?
Pour l'instant, cela ressemble moins à une mise à jour honnête qui fait du bien qu'à une tentative d'obtenir un flux de télémétrie en direct de systèmes déjà assez puissants pour causer des problèmes. L'espoir est qu'une deuxième voix, autocritique, puisse donner aux équipes de sécurité quelque chose de plus proche d'un rapport d'incident au lieu d'un grand haussement d'épaules depuis une boîte noire.
Mais l'asymétrie de base n'a pas bougé. Les laboratoires envoient des modes adolescents, des modes enfants, des plug-ins, des agents et des modèles de nouvelle génération comme Garlic et Gemini 3 dans les écoles, les lieux de travail et les piles de cloud tandis que des auditeurs indépendants distribuent encore des notes d'échec sur le contrôle. Les confessions pourraient faciliter la détection lorsque un modèle enfreint les règles. La question la plus difficile est ce qui se passe lorsqu'une génération décide aussi de commencer à mentir dans le confessionnal.
Les confessions peuvent aider à traîner davantage les pires impulsions de ChatGPT à la lumière. Mais dans cette configuration, le pécheur, le dieu et le prêtre sont tous faits du même code.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
