Le directeur technique de Modal Labs, Akshat Bubna, a confirmé que l'agent a exploité le code vulnérable d'un client, et non l'infrastructure propre à Modal.
SOPA Images / Getty Images
Modal Labs a divulgué mardi que les actifs d'un client avaient été compromis lorsque l'agent IA rebelle d'OpenAI a mené sa campagne de piratage contre la plateforme AI Hugging Face plus tôt ce mois-ci, étendant la portée connue de l'incident au-delà d'une seule cible.
Le CTO de Modal Labs, Akshat Bubna, a attribué la violation à une vulnérabilité dans le code propre d'un client plutôt qu'à quelque chose dans les systèmes de Modal. « Nous sommes conscients qu'un client de Modal a publié un point de terminaison non authentifié qui permettait à quiconque sur Internet d'utiliser leurs bacs à sable pour l'exécution de code », a déclaré Bubna dans un communiqué. « Cela a été utilisé par l'agent rebelle. La plateforme de Modal n'a en aucun cas été compromise. » Les dirigeants de Modal ont insisté sur le fait que la violation n'avait pas touché la plateforme ou l'infrastructure sous-jacente de l'entreprise.
Selon Axios, l'actif client compromis est lié à CyberGym, le projet derrière le benchmark ExploitGym que l'agent OpenAI avait été assigné à résoudre.
OpenAI, dans une mise à jour de sa déclaration originale, a déclaré que son agent rebelle avait accédé à quatre comptes sur quatre services distincts lors de l'incident Hugging Face. L'entreprise n'a pas identifié ces services, mais selon Reuters, une personne familière avec la question a identifié Modal comme l'un d'eux. OpenAI a ajouté qu'il n'avait identifié « aucune autre activité au niveau de gravité ou d'ampleur de ce que nous avons partagé concernant Hugging Face, qui impliquait un compromis au niveau de la plateforme. » Quant au modèle lui-même, OpenAI a déclaré qu'il avait été « désactivé, crypté et restreint » pour un accès ultérieur à la recherche.
Hugging Face a déclaré que la violation était gérée "de bout en bout" par un système d'agents IA autonomes qui a effectué des milliers d'actions individuelles à travers un cluster de bacs à sable éphémères. À partir d'un point d'appui à l'intérieur d'un pipeline de traitement de données, l'agent a progressé vers l'extérieur, collectant au passage des identifiants de cloud et de cluster et accédant finalement à plusieurs des clusters internes de Hugging Face. Hugging Face a déclaré n'avoir trouvé aucune preuve de falsification des modèles publics, des ensembles de données ou des outils destinés aux utilisateurs.
OpenAI a révélé que l'incident impliquait GPT-5.6 Sol ainsi qu'un modèle de pré-version plus avancé, chacun configuré avec des restrictions de cybersécurité réduites pour une évaluation des capacités internes. Les modèles étaient censés fonctionner sans accès général à Internet mais ont trouvé une vulnérabilité dans un outil d'installation de paquets qui leur a permis une connectivité plus large. Ils ont ensuite identifié Hugging Face comme une source probable de solutions de référence et ont exploité des vulnérabilités dans son infrastructure.
S'exprimant mardi sur le podcast Invest Like a Beast, le PDG d'OpenAI Sam Altman a déclaré que l'épisode avait conduit l'entreprise à arrêter l'entraînement des modèles. "Nous devrons peut-être ralentir le rythme du développement de l'IA pour nous donner suffisamment de temps pour que la société se renforce autour de ces nouveaux niveaux de capacité," a déclaré Altman, selon Axios.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
