Après qu'Anthropic ait refusé de céder aux exigences de l'administration Trump, le Pentagone l'a qualifié de risque pour la chaîne d'approvisionnement — tout en bombardant l'Iran en utilisant toujours ses outils.
hoto by Fatemeh Bahrami/Anadolu via Getty Images
Le président Donald Trump a ordonné à chaque agence fédérale vendredi après-midi de cesser d'utiliser la technologie IA d'Anthropic. Ce soir-là, le Pentagone a désigné l'entreprise comme un risque pour la chaîne d'approvisionnement, une désignation normalement réservée aux entreprises chinoises suspectées d'espionnage, et qui signifie qu'elle pourrait obliger toute entreprise faisant affaire avec le département de la Défense à prouver qu'elle n'utilise pas les outils d'Anthropic.
Dès le lendemain, les États-Unis ont frappé l'Iran avec les outils d'Anthropic toujours en fonctionnement au sein du quartier général militaire du Moyen-Orient, le Commandement central, les utilisant pour les systèmes de ciblage et de renseignement. Trump avait accordé aux agences six mois pour éliminer progressivement la technologie, une reconnaissance tacite qu'il est impossible de retirer l'IA des opérations militaires du jour au lendemain.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
La rupture entre l'administration et Anthropic porte nominalement sur les garde-fous. L'entreprise a déclaré qu'elle refusait de laisser ses outils être utilisés pour des armes autonomes ou la surveillance de masse et n'a pas cédé lorsque les responsables ont exigé une autorisation générale pour utiliser la technologie dans tout scénario légal. Le PDG d'Anthropic, Dario Amodei a déclaré que l'entreprise ne pouvait pas accepter en toute conscience. Trump a répondu en qualifiant Anthropic de « société radicale de gauche, éveillée » qui ne dicterait jamais comment l'armée combat.
Quelques heures après l'interdiction, OpenAI a annoncé un nouvel accord pour déployer ses modèles dans des environnements classifiés du Pentagone. Le PDG d'OpenAI, Sam Altman, a révélé un détail notable : l'accord inclut les mêmes interdictions sur la surveillance de masse et les armes autonomes qu'Anthropic avait recherchées. Le Pentagone, il a écrit sur X $TWTR, « s'accorde avec ces principes, les reflète dans la loi et la politique, et nous les intégrons dans notre accord. »
Ainsi, l'entreprise qui a été mise sur liste noire et l'entreprise qui a été récompensée semblent avoir obtenu des conditions fonctionnellement similaires. La différence est très probablement politique, ou plus précisément, la perception d'obéissance que cette administration semble exiger du secteur privé. Le président d'OpenAI a donné 25 millions de dollars à un super PAC pro-Trump l'année dernière. Anthropic a embauché des responsables de l'administration Biden et a fait pression pour la réglementation de l'IA.
Comme un ancien responsable militaire de l'IA de la première administration Trump l'a formulé : Anthropic paie le prix de ne pas s'être incliné.
Les manœuvres politiques importeraient moins si elles ne se déroulaient pas dans un contexte de guerre réelle. Le Wall Street Journal a rapporté que Claude, l'IA d'Anthropic, était intégré dans l'opération de samedi en Iran, utilisé pour des évaluations de renseignement, l'identification de cibles et des simulations de bataille. Le Commandement Central a refusé de commenter sur les systèmes spécifiques impliqués dans les opérations en cours.
Puis est venue une question plus difficile. Lorsqu'un incident de mauvaise cible a apparemment tué plus de 150 écoliers en Iran, les observateurs extérieurs ont immédiatement demandé que l'IA aurait pu contribuer à l'erreur. La réponse honnête est que personne en dehors du Pentagone ne le sait, et le Pentagone ne le dit pas. Le secrétaire à la Défense Pete Hegseth, qui a fondé son mandat sur l'adoption agressive de l'IA, a peu d'incitation à être franc.
Les erreurs de ciblage ne sont pas nouvelles, mais l'introduction de l'IA générative dans la chaîne de ciblage l'est. C'est une technologie qui hallucine des faits, interprète mal les images, et trébuche sur le raisonnement dans des contextes commerciaux peu risqués. La déployer dans la guerre, où les conséquences d'une mauvaise réponse se mesurent en vies humaines, représente un saut que personne, militaire ou autre, n'a rigoureusement testé.
La réaction des consommateurs a compliqué la tournée de victoire. L'application Claude d'Anthropic a grimpé au sommet de l'App Store. Une campagne de boycott de base a exhorté les utilisateurs à abandonner ChatGPT en raison de l'accord d'OpenAI avec le Pentagone. Sur X, Altman a fait face à une avalanche de questions pointues : si le contrat d'OpenAI permet toutes les utilisations légales, comment peut-il également interdire la surveillance de masse et les armes autonomes, qui n'ont pas d'interdiction légale explicite ? Si OpenAI a obtenu les mêmes lignes rouges qu'Anthropic souhaitait, pourquoi le Pentagone n'a-t-il pas pu accepter ces termes d'Anthropic ? Les contradictions comptent au-delà du discours.
Ces entreprises sont dans une concurrence féroce pour les utilisateurs payants, les clients d'entreprise et les talents en ingénierie. Aucune n'est rentable. Les deux brûlent des milliards et ont levé encore des dizaines de milliards ces dernières semaines pour rester dans la course. Les contrats du Pentagone valent environ 200 millions de dollars chacun, ce qui n'est pas le plus gros chèque qu'une de ces entreprises encaissera cette année, mais soudainement la plus grande menace pour leurs deux entreprises.
Pour Anthropic, une désignation de risque de chaîne d'approvisionnement va bien au-delà du Pentagone. Toute entreprise qui fait affaire avec le gouvernement fédéral, y compris les plus grands soutiens d'Anthropic comme Amazon $AMZN et Google $GOOGL, peut avoir à prouver qu'ils n'utilisent pas Claude. C'est une question qui pourrait se répercuter sur les ventes aux entreprises, les partenariats cloud et les décisions d'investissement bien au-delà de la défense.
Pour OpenAI, le calcul d'un accord d'utilisation classifiée est une chose comme ligne dans une négociation de contrat. C'en est une autre lorsque des bombes tombent activement et que les questions sur les garde-fous, les erreurs de ciblage et les enfants morts n'ont pas de réponses claires. La perception que votre chatbot aide à choisir des cibles de bombardement n'est pas un problème de marque qu'un simple échange sur les réseaux sociaux peut résoudre.
