Dario Amodei a déclaré qu'Anthropic n'a jamais cherché à interdire les modèles à poids ouvert, mais souhaite que tous les systèmes d'IA performants soient testés avant leur lancement.
Bloomberg / Getty Images
Le PDG d'Anthropic Dario Amodei a repoussé lundi les accusations selon lesquelles son entreprise aurait cherché à restreindre les modèles d'intelligence artificielle à poids ouverts, tout en définissant un ensemble de politiques plus restreint qu'il soutient — y compris des tests de sécurité obligatoires pour tous les systèmes d'IA capables, ouverts ou fermés.
"Permettez-moi de le dire clairement afin qu'il n'y ait aucun doute : Anthropic n'a jamais préconisé l'interdiction des modèles à poids ouverts," a écrit Amodei dans un billet de blog. Il a qualifié les modèles à poids ouverts sans capacités dangereuses de "bien public" et a déclaré que les interdictions protectionnistes "ne répondraient pas à mes préoccupations les plus graves en matière de sécurité nationale."
Anthropic a été soumis à une pression après avoir refusé de signer une lettre de l'industrie, publiée vendredi dernier, exhortant les décideurs politiques à éviter de restreindre les modèles à poids ouverts. La lettre était soutenue par Nvidia $NVDA, Microsoft $MSFT, Meta $META et Palantir $PLTR, entre autres. Google $GOOGL et OpenAI, qui n'avaient initialement pas signé, ont ajouté leurs noms au cours du week-end, selon Axios. Anthropic n'a toujours pas signé. La publication de la lettre a été en partie déclenchée par le lancement de Kimi K3, un modèle à poids ouvert chinois de Moonshot AI qui a atteint des performances de pointe des concurrents américains à moindre coût.
L'ancien conseiller en IA de la Maison Blanche, David Sacks, avait suggéré qu'Anthropic utilisait des préoccupations de sécurité pour protéger son modèle fermé de la concurrence, selon Bloomberg. Amodei a nié cette caractérisation et a reconnu qu'une interdiction "protégerait les entreprises d'IA américaines de la concurrence, mais cela n'a jamais été mon objectif."
Au lieu d'une interdiction, Amodei a décrit trois politiques qui, selon lui, aborderaient mieux ses préoccupations. Premièrement, il a demandé un contrôle plus strict sur les puces avancées et l'équipement de fabrication de puces vers les gouvernements autoritaires, en argumentant que les restrictions de puces sont le moyen le plus direct d'empêcher les États rivaux de construire des IA plus puissantes. Deuxièmement, il a appelé à une répression de ce qu'il a décrit comme la distillation à l'échelle industrielle — un processus dans lequel un modèle plus petit est entraîné en utilisant les sorties d'un modèle plus grand et plus capable. Amodei a soutenu que la distillation donne à la Chine un moyen d'extraire des capacités des modèles américains de pointe, réduisant l'efficacité des contrôles à l'exportation sur les puces. Le mois dernier, Anthropic a envoyé une lettre au Sénat américain alléguant qu'Alibaba avait mené "la plus grande attaque de distillation connue" contre elle, selon CNBC.
Troisièmement, Amodei a déclaré que tous les modèles suffisamment capables — quelle que soit leur origine ou qu'ils soient ouverts ou fermés — devraient subir des tests de sécurité obligatoires avant leur publication, avec des modèles moins capables issus de startups et du milieu académique exemptés. Il a dit que le but de ces tests serait d'évaluer le profil de risque réel des modèles à poids ouverts grâce à des preuves, et non de traiter les restrictions comme une conclusion acquise.
Amodei a déclaré qu'il partageait certains points de la lettre de l'industrie, notamment l'idée que les modèles open-weight élargissent l'accès à l'économie de l'IA et donnent aux clients un meilleur contrôle. Cependant, il a dit qu'il n'était pas d'accord avec l'affirmation de la lettre selon laquelle les modèles open-weight facilitent le développement de garanties ou que l'accès large aux capacités de l'IA favorise les cyber-défenseurs par rapport aux attaquants. Il a cité les menaces biologiques comme un cas où les attaquants peuvent avoir un avantage structurel qu'un modèle d'IA suffisamment puissant pourrait exploiter.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
