Le PDG de JPMorgan $JPM Chase, Jamie Dimon, a décrit les risques d'un accès public large au modèle avancé d'IA Mythos d'Anthropic comme un « véritable problème », le comparant au fait de donner des missiles balistiques à des individus.
« Vous donnez essentiellement des missiles balistiques à des individus dotés de Mythos », a alors déclaré le chef de JPMorgan à propos du potentiel de large diffusion du modèle Anthropic.
Bloomberg / Getty Images
Le PDG de JPMorgan $JPM Chase, Jamie Dimon, a décrit les risques d'un accès public large au modèle avancé d'IA Mythos d'Anthropic comme un « véritable problème », le comparant au fait de donner des missiles balistiques à des individus.
« Vous donnez des missiles balistiques à des individus avec Mythos, essentiellement », a déclaré Dimon, dans des remarques rapportées par Bloomberg. S'exprimant lors du Sommet sur la Défense et l'Innovation en Pennsylvanie du sénateur républicain Dave McCormick, Dimon a ajouté que le gouvernement américain est actuellement sur le dossier.
L'avertissement se concentre sur la capacité de Mythos à identifier les vulnérabilités logicielles à un niveau qu'Anthropic a jugé trop dangereux pour une diffusion générale. JPMorgan fait partie d'un groupe restreint d'entreprises qui ont obtenu l'accès au modèle en avril et l'ont déployé pour tester les systèmes internes sous pression et pour coordonner les conclusions avec les fournisseurs et les pairs. Le mois après avoir obtenu cet accès, Dimon a déclaré que la banque avait des centaines d'employés travaillant à plein temps pour renforcer ses systèmes.
L'implication de JPMorgan avec Mythos fait partie de son effort plus large pour la sécurité nationale et la résilience économique. La banque annoncé l'année dernière une "Initiative de sécurité et de résilience" par laquelle elle dirigerait 1,5 trillion de dollars sur dix ans vers des secteurs qui renforcent l'économie américaine — un chiffre 50% supérieur à ce qu'elle aurait investi autrement. JPMorgan a également lié cet engagement à son "Initiative Rêve Américain" distincte, promettant 24 millions de dollars sous forme de prêts, d'investissements et de subventions philanthropiques dirigés vers le secteur de la construction navale de Philadelphie. Dimon a visité le chantier naval de Philadelphie plus tôt mercredi alors que la banque annonçait cet engagement.
Le modèle Mythos a été au centre d'une réflexion plus large du gouvernement et de l'industrie sur la sécurité de l'IA. Le gouvernement américain a levé les contrôles à l'exportation sur les modèles Claude Fable 5 et Mythos 5 d'Anthropic ce mois-ci après une fermeture de 18 jours déclenchée par des chercheurs d'Amazon $AMZN documentant une technique pour obtenir des résultats dangereux de Fable 5 liés à la découverte de vulnérabilités logicielles. Un groupe limité d'organisations américaines a retrouvé l'accès à Mythos 5 après que le gouvernement a donné son approbation le 26 juin; étendre cet accès à d'autres partenaires nationaux et internationaux via le programme Glasswing d'Anthropic reste en discussion avec les autorités fédérales, a déclaré Anthropic.
Dimon est devenu de plus en plus vocal sur les questions de sécurité nationale ces dernières années. Sa lettre aux actionnaires d'avril a soutenu que l'Amérique doit "devenir plus forte" si elle espère préserver sa position en tant que puissance militaire et économique.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.