Les agents IA peuvent consommer 1 000 fois plus de jetons qu'une seule requête de chatbot, ce qui oblige à repenser les ratios de puces, l'architecture des serveurs et les budgets énergétiques.
NurPhoto / Getty Images
Une seule requête de chatbot touche un GPU, génère une réponse, et le calcul se termine. Un agent IA effectuant le même travail pourrait fonctionner pendant des heures, créant des sous-agents, appelant des APIs, interrogeant des bases de données et revenant en boucle à travers le modèle des dizaines de fois avant de produire un résultat.
Une étude publiée en avril par des chercheurs du Digital Economy Lab de Stanford a révélé que les tâches de codage agentiques consomment 1 000 fois plus de jetons que le raisonnement et le chat de code standard, une découverte qui met des chiffres précis sur un problème de coût que l'industrie de l'IA ne fait que commencer à affronter.
Les mécanismes sont structurels, non accessoires. Contrairement aux modèles de raisonnement statiques, les agents IA planifient continuellement, invoquent des outils externes, observent les résultats et affinent leur raisonnement, effectuant souvent des dizaines d'appels d'inférence pour satisfaire une seule demande utilisateur. Chaque appel relit l'historique complet de la conversation accumulée jusqu'à ce point, donc un agent lit la tâche, obtient une réponse, puis doit tout relire avant la prochaine action, et relit tout cela plus la nouvelle réponse avant la prochaine action. Le résultat est que le contexte grandit à chaque étape.
Dans les flux de travail agentiques, les caches clé-valeur ne se réinitialisent jamais mais s'accumulent à travers des chaînes de raisonnement à plusieurs étapes, ce qui signifie qu'un cache de 10 Go pour une seule inférence devient un plancher de bande passante en mouvement qui se compose avec chaque interaction d'agent, selon une analyse de l'entreprise de mise en réseau Ciena. Ce n'est pas une augmentation marginale. Les chercheurs de l'Institut Avancé des Sciences et Technologies de Corée ont découvert que les agents IA "introduisent des surcharges énergétiques substantielles qui sont des ordres de grandeur plus élevées que l'inférence LLM simple tour conventionnelle," selon un article publié sur arXiv qui a présenté ce que les auteurs ont décrit comme la première caractérisation au niveau du système des coûts d'infrastructure des agents. Sans innovations au niveau du système, ont averti les auteurs, les coûts de calcul par requête pourraient augmenter de plusieurs ordres de grandeur, rendant le déploiement à grande échelle "économiquement et écologiquement prohibitif."
Au cours des dernières années, les centres de données d'IA ont été conçus autour d'une architecture simple : un processeur agissant comme un nœud hôte pour quatre à huit GPU. Le GPU faisait le calcul. Le processeur gérait le trafic. L'IA agentique casse ce modèle.
Les charges de travail de l'IA agentique reconfigurent les exigences de calcul des centres de données en déplaçant les goulets d'étranglement des performances de l'inférence centrée sur le GPU à l'orchestration fortement dépendante du CPU, introduisant une demande substantielle en CPU et faisant de la capacité du processeur un facteur critique dans le débit du système, selon une analyse publiée par SemiWiki. AMD $AMD rapporte maintenant que, contrairement au ratio CPU-GPU de un pour quatre ou un pour huit observé avec l'IA des chatbots, l'IA agentique se dirige vers un ratio un pour un, et dans certains cas vers des ratios plus élevés du côté CPU. L'entreprise a doublé sa prévision pour le marché des processeurs serveurs en moins de six mois.
Là où AMD projetait précédemment une croissance du marché des processeurs serveurs de 18 % par an, l'augmentation structurelle du calcul entraînée par les agents a amené l'entreprise à réviser cette attente à une croissance annuelle supérieure à 35 %, avec un marché total adressable dépassant 120 milliards de dollars d'ici 2030, selon un article de blog de Dan McNamara, vice-président senior du calcul et de l'IA d'entreprise chez AMD. Morgan Stanley $MS est arrivé à une conclusion similaire dans un rapport d'avril, prévoyant que l'IA agentique pourrait ajouter de 32,5 à 60 milliards de dollars à la nouvelle demande de CPU de centres de données d'ici 2030, en arguant que « alors que l'IA passe de la génération à l'action autonome, le goulot d'étranglement en matière de calcul se déplace vers le CPU et la mémoire. » Lors de l'événement AMD Advancing AI en juin 2025, la PDG Lisa Su a décrit l'IA agentique comme « une nouvelle classe d'utilisateur, » ajoutant que « ce que nous voyons réellement, c'est que nous ajoutons l'équivalent de milliards de nouveaux utilisateurs virtuels à l'infrastructure informatique mondiale. »
Goldman Sachs $GS a établi des projections concrètes sur la trajectoire de la demande dans un rapport publié ce mois-ci. La banque s'attend à ce que la consommation de jetons croisse de 24 fois d'ici 2030 par rapport aux niveaux de 2026 alors que les requêtes d'IA passent de cinq milliards à 23 milliards par jour, entraînées par des agents non humains. Goldman Sachs projette que l'IA agentique représentera environ 30 % de ces requêtes d'ici 2030.
Les dépenses d'infrastructure pour soutenir cela sont déjà en mouvement. Les cinq plus grands fournisseurs américains d'infrastructure cloud et IA se sont collectivement engagés à dépenser entre 660 et 690 milliards de dollars en dépenses d'investissement en 2026, soit près du double des niveaux de 2025, selon Futurum Group. Mais les seules dépenses ne garantissent pas que l'infrastructure correspondra à la charge de travail. Gartner prédit que plus de 40 % des projets d'IA agentique seront annulés d'ici la fin de 2027, en raison d'une augmentation des coûts, d'une valeur commerciale incertaine ou de contrôles de risque inadéquats.
Les surprises de coût sont réelles : l'étude de Stanford a révélé que l'utilisation de tokens dans les tâches agentiques est "hautement variable et intrinsèquement stochastique", avec des réalisations sur la même tâche variant jusqu'à 30 fois en termes de tokens totaux consommés.
La trajectoire de calcul a des implications directes pour la question énergétique qui plane sur l'industrie de l'IA. Alors que l'informatique quantique s'intègre dans l'infrastructure des centres de données aux côtés des processeurs classiques, le modèle hybride émergent de processeurs, GPU et unités de traitement quantique travaillant ensemble est prometteur pour des charges de travail scientifiques et financières spécifiques. Mais les machines quantiques consomment environ 30 kilowatts chacune, tandis qu'une seule baie de puces de formation IA de Nvidia $NVDA consomme entre 120 et 140 kilowatts, avec des systèmes de prochaine génération prévus pour dépasser 200 kilowatts. Le quantique est conçu pour une catégorie de problème différente. Il ne va pas absorber la charge que l'IA agentique crée.
Les faits sont que l'IA agentique aggrave le problème énergétique des centres de données, au lieu de l'améliorer. Chaque agent qui fonctionne pendant des heures au lieu de secondes, chaque sous-agent qu'il génère, chaque boucle qu'il exécute est un calcul que le matériel classique doit servir. Goldman Sachs Research projette que la consommation énergétique des centres de données augmentera de 175 % d'ici 2030 par rapport aux niveaux de 2023, et la montée des agents est un moteur principal.
Pour les acheteurs d'entreprise et les planificateurs de centres de données, la conclusion pratique est que l'infrastructure dimensionnée pour l'IA de type chatbot ne soutiendra pas les déploiements agentiques. Les charges de travail sont différentes en nature, pas en degré. Planifier pour des agents signifie prévoir plus de CPU, plus de mémoire, plus d'énergie et des architectures que la plupart des organisations n'ont pas encore construites.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
