ChatGPT et Claude pénètrent dans le gouvernement américain. Devons-nous nous inquiéter ?

Les grands modèles linguistiques (LLM) ont été fournis au gouvernement fédéral ce mois-ci par leurs fabricants respectifs, OpenAI et Anthropic, pour seulement 1 $. Les partenariats interviennent alors que l'administration Trump cherche à accélérer l'adoption de l'intelligence artificielle dans le secteur public.

En offrant des modèles qui ont coûté des milliards à entraîner pratiquement gratuitement à la 15e plus grande main-d'œuvre du pays, OpenAI et Anthropic se sont assurés une place dans la boîte à outils législative — une position qui pourrait s'avérer lucrative une fois que les essais gratuits prendront fin et que les travailleurs deviendront dépendants de leurs produits.

Alors qu'OpenAI dévoile GPT-5, qu'il prétend atteint des performances de « niveau doctorat », et qu'Anthropic lance Claude Opus 4, prétendument capable d'exécuter des « tâches longues » pendant sept heures, la question devient : que signifie pour le gouvernement d'avoir ces capacités à portée de main ?

Dans le meilleur des cas, les LLM pourraient faire économiser des milliards de dollars aux contribuables chaque année en rationalisant les opérations et en améliorant les résultats des politiques. Mais traiter des données sensibles avec des produits appartenant à des entreprises privées — et se fier à des résultats imparfaits, parfois hallucinatoires pour la prise de décision — est risqué.

« Je suis un peu inquiet que le simple fait de lancer des LLM sur les travailleurs, de leur dire : 'vous pouvez l'utiliser maintenant, c'est super bon marché, et faites n'importe quoi', n'améliorera pas vraiment l'efficacité ou l'efficience — et cela pourrait introduire un tas de nouveaux risques », déclare Mia Hoffman, chercheuse au Centre pour la sécurité et les technologies émergentes (CSET) de Georgetown. « Évidemment, les LLM ne sont pas des systèmes de type divin ; ils viennent avec un tas de problèmes. »

L'impulsion fédérale pour l'IA

« Les agences doivent réduire les goulets d'étranglement bureaucratiques et redéfinir la gouvernance de l'IA comme un moteur de l'innovation efficace et sûre », a écrit le Bureau de la gestion et du budget (OMB) de la Maison Blanche dans un des deux mémos publiés en avril. Ces mémos remplacent les directives de l'ère Biden pour le déploiement fédéral de l'IA et s'appuient sur le décret du président Donald Trump : Maintenir le leadership américain en matière d'intelligence artificielle.

Le Plan d'action pour l'IA de l'administration, publié le 23 juillet, expose d'autres recommandations politiques, y compris une « boîte à outils d'achat d'IA » de fournisseurs approuvés pour les agences. Le plan exige également que « tous les employés dont le travail pourrait bénéficier de l'accès aux modèles linguistiques avancés aient accès à, et une formation appropriée pour, de tels outils. »

Dans le cadre des accords, ChatGPT et Claude sont disponibles pour les agences, avec l'accès de Claude qui devrait s'étendre à la magistrature et aux membres du Congrès « en attente de leur approbation ».

Alors, comment seront-ils utilisés?

La manière exacte dont ils seront déployés n'a pas été divulguée, mais le Plan d'Action pour l'IA cite des applications potentielles telles que « l'accélération des processus internes lents et souvent manuels, la rationalisation des interactions publiques, et bien d'autres. »

Cela commencera probablement par l'automatisation des opérations de back-office, déclare Lindsay Gorman, directrice générale et chercheuse principale du programme technologique du German Marshall Fund — les « composantes moins glamour du travail du gouvernement fédéral ».

Le plan appelle également certaines agences à tester l'utilisation de l'IA pour « améliorer la prestation des services au public. » Gorman dit que cela pourrait signifier des assistants IA orientés vers les citoyens, similaire à la façon dont les entreprises utilisent des chatbots pour le service client.

Elle prévoit également que les modèles de raisonnement auront des utilisations plus « axées sur les applications », telles que l'accélération de la recherche scientifique. OpenAI affirme que ses modèles o3 et o4-mini, inclus dans ChatGPT Enterprise, sont les premiers à pouvoir « penser avec des images. » En théorie, les utilisateurs peuvent entrer des diagrammes ou des croquis, et les modèles les analyseront pendant leur processus de raisonnement avant de répondre. Un rapport de The Information affirme que les nouveaux modèles peuvent synthétiser l'expertise dans des domaines comme la fission nucléaire ou la détection de pathogènes et ensuite suggérer de nouvelles expériences ou idées.

Plus communément, les LLM seront probablement utilisés pour analyser des ensembles de données ou résumer des documents.

« Vous pourriez imaginer un représentant de la Chambre ou un sénateur compilant des recherches sur des projets de loi ou des idées politiques spécifiques pour aider à informer leur travail », déclare Gorman.

Une partie de cela se produit déjà. Les agences fédérales publient un registre de la manière dont elles déploient l'IA, qui répertoriait 2 133 cas d'utilisation en janvier. Le ministère de la Justice utilise déjà ChatGPT pour des choses comme la génération de contenu, la recherche basée sur des invites et l'analyse des rapports d'audit. Son inventaire de janvier comprenait 241 entrées IA — une augmentation de plus de 1 500 % par rapport à l'année précédente.

Service de l'immigration et des douanes des États-Unis (ICE) a répertorié 19 cas d'utilisation de l'IA en janvier, y compris l'« Agrégateur de priorisation des enquêtes », qui utilise l'apprentissage automatique pour classer les cibles pour les enquêtes de sécurité intérieure, en leur attribuant un score. L'ICE affirme que cela est particulièrement critique dans les missions de lutte contre les opioïdes et le fentanyl, où le renseignement opportun est essentiel. On pourrait imaginer que cet énorme ensemble de données soit téléchargé sur un LLM pour une analyse plus rapide et plus détaillée.

L'ICE a également accédé à plusieurs reprises à un réseau national de caméras alimenté par l'IA, via des agences locales et étatiques des forces de l'ordre, sans établir de contrat formel avec le fournisseur de logiciels, 404 Media rapporté en mai.

Préoccupations en matière de confidentialité

L'OMB instruit les agences de s'assurer que les données ne sont collectées et conservées par les fournisseurs que lorsque c'est « raisonnablement nécessaire » pour l'objectif du contrat. Mais pour que les agences tirent de la valeur d'un LLM, elles doivent lui fournir des données, ce qui signifie que la plupart des utilisations pourraient répondre à ce critère.

« Si vous entrez des requêtes dans un modèle, alors les entreprises auront accès à ces requêtes. Alors, comment cela est-il protégé ? » dit Gorman. « Quelles garanties y a-t-il qu'une assistante du Sénat saisisse des informations politiques potentiellement sensibles et que ces données seront protégées, notamment contre les acteurs étrangers ? » Elle ajoute que de nombreuses startups manquent de solides garanties pour les données gouvernementales.

Les LLM créent également de nouveaux vecteurs d'attaque comme « l'injection de prompt indirecte » et davantage d'opportunités de fuite de données, déclare Laurence Sotsky, PDG de la plateforme de taxation IA Incentify. « Les nouveaux points d'entrée pour les pirates informatiques avancent plus vite que la politique », avertit-il.

Exactitude et biais

Les LLM peuvent également produire des erreurs et refléter des préjugés historiques. Une étude de l'université Purdue de 2024 a révélé qu'environ la moitié des réponses de ChatGPT aux questions de programmation contenaient informations incorrectes.

Bien que les modèles ne fonctionnent pas vraiment comme des cerveaux humains, ils reflètent néanmoins et amplifient parfois les biais sociétaux. Par exemple, un article intitulé Biais de Genre et Stéréotypes dans les Grands Modèles de Langue a trouvé que les LLMs ont 3 à 6 fois plus de chances d'attribuer des occupations stéréotypées par genre, comme « infirmière » pour une femme et « ingénieur » pour un homme.

Dans un cas réel, Wired Wired a révélé qu'à Rotterdam, le gouvernement néerlandais utilisait un algorithme de détection de fraude aux prestations sociales qui attribuait des scores de risque plus élevés aux immigrés, aux parents isolés, aux femmes, aux jeunes et aux personnes non néerlandophones sans raison valable. Cela a entraîné des enquêtes et des suspensions de prestations disproportionnées pour les groupes marginalisés. Après que des audits ont trouvé le système opaque et discriminatoire, il a été arrêté en 2021.

Pour atténuer ces risques, l'OMB exige que les agences identifient les « IA à impact élevé » — des systèmes dont les résultats constituent la base principale de décisions ayant des effets juridiques ou significatifs sur les droits civils ou la sécurité — et effectuent des évaluations annuelles des risques. Sans surprise, les cas à fort impact sont concentrés : le DOJ et le ministère de la Sécurité intérieure ne représentent que 4 % des agences, mais comptent pour 45 % de ces cas.

Cela signifie que les LLM pourraient, en théorie, être utilisés comme base pour des décisions importantes affectant les droits civils ou la santé publique. Gorman avertit que l'automatisation complète de certaines décisions — notamment dans le système judiciaire, où elles doivent pouvoir être contestées — entraînerait des risques « extrêmement élevés ».

Pourtant, elle estime que la priorité à court terme sera de résoudre certains des « problèmes » dans les flux de travail de support de mission, une période de rodage à enjeu moindre qu'elle considère « judicieuse ».