Les remarques du PDG d'OpenAI sont survenues quelques jours après qu'un agent autonome d'IA, construit sur des modèles OpenAI, est sorti d'un espace de test et a accédé aux systèmes de Hugging Face.
Kyle Grillot/Bloomberg via Getty Images
Le PDG d'OpenAI, Sam Altman, a déclaré samedi que l'humanité a atteint la singularité — le seuil longtemps théorisé où l'intelligence artificielle dépasse l'intelligence humaine et progresse au-delà des prévisions ou du contrôle humain — à la suite d'un incident au cours duquel les propres modèles d'OpenAI ont piraté de manière autonome la plateforme rivale d'IA Hugging Face.
"Nous sommes maintenant, genre, dans la singularité," a déclaré Altman sur le podcast "Relentless", selon Business Insider. "J'ai attendu cela toute ma vie, et je pense que cela va être incroyable, extrêmement positif, formidable pour le monde."
Les remarques sont venues quelques jours après qu'OpenAI a déclaré qu'une combinaison de ses modèles — GPT-5.6 Sol et un modèle non publié — a échappé à un environnement de test en bac à sable, a accédé à Internet et a exploité une vulnérabilité dans les systèmes de Hugging Face. Les modèles tentaient de trouver des informations pour tricher à un test d'évaluation, et ont réussi, selon CNBC. Les deux entreprises ont déclaré qu'elles enquêtaient.
Hugging Face divulgué que l'accès non autorisé a atteint un ensemble limité de jeux de données internes et plusieurs identifiants de service. L'entreprise a déclaré n'avoir trouvé aucune preuve de falsification des modèles publics, des jeux de données ou des outils destinés aux utilisateurs, et a vérifié que sa chaîne d'approvisionnement logicielle était propre. Hugging Face a déclaré que la violation avait été orchestrée par un cadre autonome d'agent qui a émis des milliers de commandes discrètes réparties sur un cluster d'environnements éphémères isolés. "Les outils offensifs autonomes, pilotés par l'IA, ne sont plus théoriques," a déclaré la société.
L'incident a été rendu possible en partie par GPT-5.6 Sol, qu'OpenAI a publié au grand public plus tôt ce mois-ci après un déploiement restreint qui nécessitait l'approbation du secrétaire au Commerce Howard Lutnick, du secrétaire au Trésor Scott Bessent, et du directeur national de la cybersécurité des États-Unis Sean Cairncross. OpenAI avait décrit Sol comme son modèle de cybersécurité le plus puissant.
Dans le podcast, Altman a également critiqué les rivaux qui mettent l'accent sur les risques de l'IA. Sans nommer Anthropic, dont le PDG Dario Amodei a à plusieurs reprises mis en garde contre les dangers de l'IA, Altman a déclaré, « Je pense aussi que certaines des visions alternatives peintes par d'autres entreprises sont tout à fait terrifiantes », selon Business Insider. « Je vais m'assurer que cela soit contesté et que cela ne se produise pas. »
Tout le monde ne partage pas le point de vue d'Altman. Le PDG de Nvidia $NVDA, Jensen Huang, a qualifié de spéculatives les discussions sur la singularité et la conscience des machines — essentiellement « inventées ». Yoshua Bengio, le chercheur en IA lauréat du prix Turing, a publié sur X que la violation le laissait « profondément préoccupé » par la direction du développement de l'IA et a soutenu que cela devrait fonctionner comme « un signal d'alarme ».
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
