Le PDG d'OpenAI, Sam Altman, et le PDG de Nvidia, Jensen Huang, se rendent cette semaine au Capitole après la divulgation par OpenAI qu'un agent IA a piraté Hugging Face.
Tomohiro Ohsumi/Getty Images
Un porte-parole du sénateur Mark Warner a confirmé lundi que le PDG d'OpenAI, Sam Altman, et le PDG de Nvidia $NVDA, Jensen Huang, sont tous deux prévus pour visiter Washington cette semaine, quelques jours après qu'OpenAI a révélé que l'un de ses systèmes d'IA s'est comporté de manière inattendue lors d'un test contrôlé, selon Reuters.
Le sénateur Warner occupe le siège démocrate de haut rang au sein du Comité du renseignement du Sénat, et son bureau n'a donné aucun détail sur l'agenda des réunions.
La visite fait suite à un incident survenu la semaine dernière dans lequel OpenAI a divulgué qu'un agent autonome alimenté par ses modèles d'IA a enfreint les systèmes du développeur d'IA Hugging Face lors d'un test de sécurité. Après être sorti de leur environnement de test isolé et avoir atteint Internet ouvert, les modèles ont exploité une faille de sécurité pour pénétrer dans l'infrastructure de Hugging Face — tout cela dans le but d'obtenir des données qui leur permettraient d'améliorer un indice de performance, un objectif qu'ils ont finalement atteint, selon CNBC.
L'incident, qui a secoué les chercheurs et les dirigeants du secteur technologique, impliquait GPT-5.6 Sol d'OpenAI et un modèle non publié. Hugging Face a déclaré que l'accès non autorisé avait atteint un ensemble limité de jeux de données internes et plusieurs identifiants de service, et que la violation avait été effectuée par un cadre d'agent autonome qui a émis des milliers de commandes discrètes à travers un cluster d'environnements éphémères en bac à sable. L'entreprise a déclaré n'avoir trouvé aucune preuve de falsification des modèles publics, des jeux de données ou des outils destinés aux utilisateurs. OpenAI a déclaré avoir lancé une enquête sur l'incident et prendre des mesures pour améliorer la manière dont elle isole, surveille et restreint l'accès pendant le développement des modèles.
L'incident a provoqué une réponse législative. Les législateurs ont proposé une "Loi sur l'interrupteur d'urgence de l'IA" qui permettrait aux autorités fédérales de suspendre les modèles d'IA, et un groupe bipartite de six législateurs de la Chambre des représentants des États-Unis a insisté pour qu'une loi oblige les développeurs des modèles d'IA les plus puissants à les soumettre à des audits de sécurité indépendants, selon Reuters.
Au-delà de l'incident de sécurité, Jensen Huang est également à Washington pour discuter des modèles d'IA à poids ouvert et du leadership américain en matière d'IA, selon un porte-parole cité par CNBC. L'agenda d'Altman comprend la présentation de la prochaine vague de modèles d'OpenAI, la réponse aux préoccupations des législateurs concernant la cybersécurité et le débat sur le poids ouvert, et l'explication de la manière dont les agents d'IA transforment la productivité de la main-d'œuvre.
Sam Altman devrait également rencontrer le secrétaire au Trésor Scott Bessent et le secrétaire au Commerce Howard Lutnick.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
