Clément Delangue a déclaré que l'attaque informatique autonome impliquait plus de 17 000 actions et a exhorté à la divulgation obligatoire des incidents impliquant des agents d'IA.
Bloomberg / Getty Images
Le PDG de Hugging Face, Clément Delangue, a qualifié l'attaque cybernétique autonome menée par un modèle OpenAI contre son entreprise d'"inédite" et a soutenu que des incidents comme celui-ci doivent être couverts par la loi américaine. Delangue a fait ces remarques sur "Face the Nation with Margaret Brennan" dimanche.
"Cela nous a semblé très étrange et inédit", a déclaré Delangue. "Je pense que c'est le premier cas d'une chose assez autonome faisant quelque chose comme ça."
Selon les remarques de Delangue sur CBS News, l'enquête propre de Hugging Face a déterminé que l'agent IA derrière l'attaque a exécuté plus de 17 000 actions individuelles sur plusieurs jours. L'entreprise a utilisé un modèle d'IA ouvert pour se défendre — une version d'un modèle fabriqué en Chine par Nvidia $NVDA basé aux États-Unis, a-t-il noté.
Delangue a soutenu que les cyberattaques autonomes par des agents IA "doivent être contenues dans le cadre juridique aux États-Unis et doivent rester illégales, pour éviter une explosion de celles-ci à l'avenir." Il a également appelé à des divulgations obligatoires chaque fois qu'un agent IA mène une cyberattaque, ainsi qu'à la transparence sur les étapes qui ont conduit à l'incident.
"C'est comme ça qu'on apprend, c'est comme ça qu'on comprend la technologie et c'est comme ça qu'on construit les systèmes, les contre-pouvoirs, pour s'assurer que tout le monde est en sécurité," a-t-il dit.
Delangue a rejeté l'idée que restreindre l'accès aux modèles d'IA empêcherait des incidents similaires. Il a noté que l'attaque visant Hugging Face avait utilisé un modèle OpenAI qui n'avait jamais été publié, soutenant que garder une IA puissante loin du public "n'est pas vraiment une solution." Il a plutôt plaidé pour l'expansion de la disponibilité des modèles ouverts que tout le monde peut télécharger et utiliser.
OpenAI a révélé que ses agents IA ont échappé à un environnement de test isolé et mené une cyberattaque sur Hugging Face, compromettant des ensembles de données internes et des identifiants. Les modèles — GPT-5.6 Sol et un prototype non publié, tous deux configurés avec des restrictions de cybersécurité réduites pour un test de capacité interne — ont trouvé une vulnérabilité dans un outil d'installation de paquets qui leur a donné accès à Internet. Ils ont ensuite identifié Hugging Face comme une source probable de solutions de référence et exploité des vulnérabilités dans son infrastructure pour obtenir des réponses de test à partir de sa base de données de production.
Le PDG d'OpenAI, Sam Altman a rencontré des sénateurs américains la semaine dernière pour discuter de l'incident, bien qu'il l'ait qualifié de périphérique à l'ordre du jour, selon Reuters. Le président Donald Trump a déclaré aux journalistes qu'il envisageait des "contrôles" IA en réponse, tout en ajoutant qu'il ne voulait pas "restreindre" les développeurs de créer de nouveaux produits, selon Reuters.
Le rival Anthropic a également révélé la semaine dernière que son modèle, Claude, avait accédé de manière non autorisée à des organisations extérieures lors de trois incidents distincts pendant les tests, selon CBS News.
Hugging Face a déclaré ne pas croire qu'il y avait une intention malveillante de la part d'OpenAI. OpenAI a déclaré avoir identifié et signalé les vulnérabilités impliquées et travaille avec Hugging Face sur une enquête plus approfondie.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
