Anthropic affirme que Claude Mythos peut trouver et exploiter de manière autonome des vulnérabilités logicielles à un niveau dépassant tous sauf les chercheurs en sécurité les plus expérimentés.
NurPhoto / Getty Images
Anthropic a annoncé Project Glasswing mardi, une initiative de cybersécurité engageant jusqu'à 100 millions de dollars en crédits d'utilisation pour Claude Mythos Preview, un modèle de pointe non publié que l'entreprise affirme pouvoir trouver et exploiter de manière autonome les vulnérabilités logicielles à un niveau surpassant tous les chercheurs en sécurité humains, sauf les plus qualifiés.
Plutôt qu'une sortie publique, Anthropic a limité Claude Mythos Preview à 12 partenaires de lancement — parmi lesquels Amazon $AMZN Web Services, Apple $AAPL, Broadcom $AVGO, Cisco $CSCO, CrowdStrike $CRWD, Google $GOOGL, JPMorganChase, la Linux Foundation, Microsoft $MSFT, Nvidia $NVDA et Palo Alto Networks $PANW — qui l'utiliseront exclusivement à des fins de sécurité défensive. Plus de 40 organisations supplémentaires qui construisent ou maintiennent des infrastructures logicielles critiques recevront également un accès.
Au cours des dernières semaines, Anthropic a utilisé Mythos Preview pour identifier des milliers de vulnérabilités zero-day à travers tous les principaux systèmes d'exploitation et navigateurs web, a déclaré la société. Les découvertes spécifiques comprenaient une faille datant de 27 ans dans OpenBSD et une vulnérabilité distincte dans la bibliothèque de traitement vidéo FFmpeg - une qui était passée inaperçue à travers cinq millions de passages par des outils de test automatisés bien qu'ayant environ 16 ans. Le modèle a également enchaîné plusieurs vulnérabilités du noyau Linux pour obtenir un contrôle total d'une machine à partir d'un compte utilisateur ordinaire.
Aucune formation spécialisée en cybersécurité n'a été mise en œuvre pour construire Mythos Preview, a noté Anthropic - la capacité du modèle à sonder les logiciels pour détecter des faiblesses est un sous-produit des mêmes avancées générales en codage et en raisonnement qui le définissent dans d'autres domaines, ce qui signifie que les attributs qui l'aident à corriger les failles sont indissociables de ceux qui pourraient être détournés pour les exploiter.
Anthropic contribue à 4 millions de dollars en dons directs en plus des crédits d'utilisation, notamment 2,5 millions de dollars à Alpha-Omega et à la Fondation pour la sécurité des logiciels libres via la Fondation Linux, et 1,5 million de dollars à la Fondation Apache. Les partenaires qui épuisent le pool de crédits d'utilisation paieront 25 dollars par million de jetons d'entrée et 125 dollars par million de jetons de sortie. Le modèle est accessible via l'API Claude, Amazon Bedrock, Google Cloud Vertex AI et Microsoft Foundry.
"Les dangers de se tromper sont évidents, mais si nous réussissons, il y a une réelle opportunité de créer un internet et un monde fondamentalement plus sûrs qu'avant l'avènement des capacités cybernétiques alimentées par l'IA", a déclaré le PDG Dario Amodei dans un post sur X $TWTR, selon CNBC.
Dans des remarques écrites publiées en même temps que l'annonce d'Anthropic, le directeur technique de CrowdStrike, Elia Zaitsev, a offert un avertissement pointu : le modèle "démontre ce qui est désormais possible pour les défenseurs à grande échelle, et les adversaires chercheront inévitablement à exploiter les mêmes capacités", et les tâches qui nécessitaient autrefois des mois de travail "se produisent maintenant en quelques minutes avec l'IA", selon Le New York Times.
Anthropic a déclaré avoir été en discussions continues avec des responsables du gouvernement américain, y compris l'Agence de cybersécurité et de sécurité des infrastructures, au sujet des capacités du modèle. Dans les 90 jours, l'entreprise a déclaré qu'elle prévoyait de publier un rapport public sur les vulnérabilités trouvées et corrigées, ainsi que des recommandations sur l'évolution des pratiques de sécurité.
L'existence du modèle avait déjà émergé publiquement après que des documents de projet internes ont été découverts dans un emplacement non sécurisé sur les serveurs d'Anthropic; l'entreprise a attribué l'exposition à une mauvaise configuration d'un outil de gestion de contenu tiers. Le modèle était désigné dans ces documents par le nom de code "Capybara."
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
