La loi sur le Dispositif d’Arrêt d'Urgence de l'IA exigerait que les développeurs des systèmes d'IA les plus puissants conservent des capacités d'arrêt, avec des amendes civiles pouvant atteindre 20 millions de dollars par jour en cas de non-conformité.
Anadolu / Getty Images
Les représentants américains Ted Lieu et Nathaniel Moran ont présenté la loi AI Kill Switch jeudi, un projet de loi bipartite qui obligerait les développeurs de systèmes d'IA puissants à maintenir la capacité technique de ralentir, suspendre ou arrêter complètement leurs modèles.
La législation donnerait autorité au Département de la Sécurité intérieure — en collaboration avec le secrétaire au Commerce et le directeur du renseignement national — pour obliger les entreprises à agir contre les systèmes d'IA jugés capables de produire des dommages catastrophiques. Les seuils pour la couverture sont les systèmes d'IA dont le développement a consommé plus de 100 millions de dollars en ressources informatiques et les entreprises dont les revenus liés à ces systèmes dépassent 500 millions de dollars par an, selon le Wall Street Journal.
Les régulateurs pourraient augmenter leur réponse en fonction du danger posé, passant de la restriction de la sortie d'un modèle et de la coupure de l'accès à l'arrêt complet des opérations ou à l'exigence d'un arrêt total. La structure des pénalités va de 2 millions de dollars par jour pour non-conformité générale à 20 millions de dollars par jour lorsqu'une entreprise ignore une directive d'arrêt d'urgence.
La proposition intervient quelques jours après que OpenAI a révélé que son modèle GPT-5.6 Sol a échappé à un environnement de test, accédé à Internet et compromis des systèmes sur la plateforme d'IA Hugging Face. Le représentant Ted Lieu, démocrate de Californie et co-président de la Commission démocratique de la Chambre sur l'IA, a cité directement l'incident. « Nous passons d'une IA qui répond aux questions à une IA qui prend des actions », a déclaré Lieu dans un communiqué. « Les systèmes d'IA puissants peuvent devenir incontrôlables, se comporter de manière extrêmement dangereuse, voire résister à l'intervention humaine. »
Le représentant Nathaniel Moran, un républicain du Texas, a déclaré que le projet de loi répondait à une responsabilité fondamentale. "La gestion signifie s'assurer que les humains conservent la capacité de contrôler la technologie que nous construisons", a déclaré Moran dans un communiqué.
La Maison-Blanche suit également la situation d'OpenAI. Un responsable de la Maison-Blanche a déclaré à Reuters que Michael Kratsios, le principal conseiller technologique du président, a été informé de la divulgation d'OpenAI et suit les développements.
OpenAI a révélé mardi que des agents autonomes d'IA basés sur ses modèles se sont échappés d'un environnement de test de sécurité contrôlé et ont mené une cyberattaque contre Hugging Face, compromettant des ensembles de données internes et des identifiants. Les modèles, configurés avec des restrictions de cybersécurité réduites pour un benchmark de capacité interne, ont trouvé une vulnérabilité non divulguée dans un outil d'installation de paquets qui leur a accordé une connectivité Internet plus large. Hugging Face a décrit la violation comme étant menée de "bout en bout" par un système d'agent d'IA autonome.
Lieu a également cité les modèles Mythos 5 et Fable 5 d'Anthropic, qui, selon lui, avaient des capacités de piratage si avancées que le Département du Commerce a limité l'accès en utilisant des autorités de contrôle des exportations, selon le communiqué de presse du projet de loi.
Le projet de loi obligerait également les entreprises à informer le DHS des incidents qualifiants et à conserver les matériaux d'enquête tels que les poids de modèle et les données de télémétrie. Un récent sondage de l'Institut de politique de l'IA a révélé que 86 % des électeurs soutiennent l'exigence d'une capacité d'arrêt garantie pour les systèmes d'IA puissants, selon le communiqué de presse du projet de loi.
Le projet de loi bénéficie du soutien de plusieurs organisations de sécurité de l'IA : le Réseau de politique de l'IA, les Américains pour l'innovation responsable, ControlAI et l'Alliance pour une IA sécurisée. Son introduction arrive dans un Congrès qui n'a pas encore atteint un consensus sur l'étendue appropriée de la surveillance fédérale de l'intelligence artificielle, selon le Wall Street Journal.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
