Demis Hassabis a proposé un organisme de surveillance public-privé qui examinerait les modèles d'IA de pointe avant leur déploiement aux États-Unis, financé par l'industrie.
JUSTIN TALLIS / Getty Images
PDG de Google $GOOGL DeepMind, Demis Hassabis a appelé mardi à ce que les États-Unis établissent un organisme de normalisation de l'IA sur le modèle de la Financial Industry Regulatory Authority, le chien de garde privé financé par l'industrie qui surveille Wall Street sous la supervision de la Securities and Exchange Commission.
Hassabis, lauréat du prix Nobel, a exposé le plan dans un essai qu'il a publié mardi sur X $TWTR sous le titre "Un cadre pour l'IA de Frontier et l'aube d'une nouvelle ère". Il a déclaré qu'une "action urgente" était nécessaire pour faire face aux risques liés à l'intelligence générale artificielle, qu'il a décrite comme probablement à quelques années près seulement. "Nous avons déjà vu les défis que posent les modèles de pointe pour la cybersécurité, et d'autres menaces, y compris les risques nucléaires et biologiques, pourraient bientôt émerger à mesure que les capacités continuent de progresser", a-t-il écrit.
L'organisme proposé serait structuré comme un partenariat public-privé supervisé par le gouvernement fédéral avec un conseil composé d'experts techniques indépendants, de représentants open source et de responsables gouvernementaux, selon CNBC. Hassabis a déclaré que l'industrie paierait probablement la facture et que l'organisation aurait besoin d'un soutien financier considérable pour embaucher du personnel technique de premier ordre et effectuer les évaluations intensives en calcul nécessaires pour tester les modèles à grande échelle.
Au départ, les laboratoires de pointe soumettraient leurs modèles à l'organisme avant leur mise en service - avec une fenêtre allant jusqu'à 30 jours - sur une base volontaire. Après que le régime aurait démontré son efficacité, Hassabis envisage que la conformité devienne une condition préalable pour qu'un modèle soit mis en service pour les utilisateurs américains. Selon Axios, le cadre couvrirait chaque modèle de classe pionnière — domestique ou étranger, propriétaire ou à poids ouvert — avec des seuils d'éligibilité mis à jour à mesure que les capacités augmentent. Hassabis a déclaré qu'il voulait que l'organisme soit opérationnel avant la fin de l'année.
Les tests viseraient à détecter des capacités dangereuses en matière de cyber, biologique et de tromperie, a déclaré Hassabis. Les vérifications spécifiques pourraient inclure la recherche de tentatives de contournement des garde-fous de sécurité et la vérification que les images générées par l'IA portent des filigranes numériques.
Hassabis a déclaré à Axios que la gestion par l'administration des modèles Mythos et Fable d'Anthropic le mois dernier — qu'il a qualifiée de "une sorte d'électrochoc" — a montré que Washington nécessite une structure de gouvernance formelle plutôt que des réponses improvisées, cas par cas. Il a dit que les conversations qu'il a eues avec l'administration ont été positives.
L'appel intervient environ un mois après que Hassabis et le PDG d'Anthropic, Dario Amodei ont conjointement exhorté les dirigeants mondiaux lors d'une session à huis clos du G7 à Évian-les-Bains, en France, à soutenir un cadre de gouvernance de l'IA dirigé par les États-Unis. Ce rassemblement comprenait le président Donald Trump et d'autres chefs d'État du G7, ainsi que des dirigeants de plusieurs grandes entreprises technologiques. Aucun engagement concret n'a émergé de cette réunion. Le PDG d'OpenAI, Sam Altman, a séparément appelé à un organe de normes internationales similaire, selon CNBC.
Hassabis a déclaré que d'autres leaders majeurs des laboratoires sont d'accord sur le fait que l'industrie doit évoluer dans cette direction, bien que Dario Amodei d'Anthropic ait appelé à une agence distincte de type FAA avec le pouvoir de bloquer les modèles dangereux de manière directe.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
