La gueule de bois du tokenmaxxing

Une version de cet article est apparue à l'origine dans la newsletter AI & Tech de Quartz. Inscrivez-vous ici pour recevoir les dernières nouvelles, analyses et aperçus de l'IA et de la technologie directement dans votre boîte de réception.

Tous les quelques mois, l'intelligence artificielle invente une nouvelle façon de faire sentir aux gens qu'ils sont en retard.

D'abord est venu l'ingénierie de prompt, l'art de parler aux chatbots correctement, qui a brièvement semblé pouvoir devenir une véritable profession. Puis est venu le contenu généré par l'IA, le tsunami d'images et de textes générés qui a inondé Internet jusqu'à ce qu'une utilisation du tiret soit considérée comme de l'IA. Ensuite est venu le codage par ambiance, lorsque les développeurs et non-développeurs ont commencé à décrire ce qu'ils voulaient en anglais simple et à laisser l'IA gérer le reste, que le résultat soit sécurisé ou tienne sous pression ou non.

Le dernier était le tokenmaxxing. Et comme les tendances qu'il suit, il est peut-être déjà terminé.

Légendes du token

Pendant quelques mois plus tôt cette année, la philosophie dominante dans certaines des plus grandes entreprises du monde était simple : utiliser autant de tokens IA que possible, aussi rapidement que possible, et comprendre les retours plus tard. Les tokens sont l'unité de base de l'informatique IA, chacun représentant un fragment de mot, et plus vous en brûliez, plus vous paraissiez tourné vers l'IA (du moins pour certains).

Chez Meta $META, un employé a créé un tableau de classement interne classant les collègues par consommation de tokens, attribuant des titres comme "Légende du Token" avant qu'il ne soit supprimé. Amazon $AMZN avait sa propre version informelle. Un partenaire de Sequoia a déclaré au Wall Street Journal que son entreprise en avait une aussi, et que chaque fondateur qu'elle conseille devrait adopter l'état d'esprit tokenmaxxing.

Tout le monde n'était pas convaincu. Une institution financière anonyme aurait eu des employés brûlant des centaines de milliers de dollars par mois, certains utilisant des modèles premium coûteux pour répondre à des questions simples ou simplement pour bavarder.

Le PDG de l'automatisation de codage Factory l'a comparé à l'embauche d'Albert Einstein pour donner des cours d'algèbre à votre enfant. Il ne semblait pas le prendre comme une bonne chose.

Du côté des développeurs, le changement était moins sur l'idéologie et plus sur l'habitude. Les outils de codage agentiques étaient tranquillement devenus une infrastructure. Les développeurs construisaient des flux de travail entiers autour d'eux, donnant l'impression d'avoir toute une équipe d'ingénierie à disposition. Ils pouvaient laisser les outils de codage fonctionner toute la nuit, essayant des choses pour lesquelles ils n'avaient pas eu le temps auparavant.

Puis GitHub Copilot est passé à la facturation à l'usage le 1er juin, et le calcul est devenu visible. Les utilisateurs ont inondé Reddit $RDDT en quelques heures. Une personne a brûlé 50 % de ses crédits mensuels sur une seule invite. Une autre a partagé une capture d'écran montrant sa facture passant d'environ 50 $ à 3 000 $. Beaucoup ont affirmé avoir annulé leur abonnement sur-le-champ.

La gueule de bois, à une exception près

De nouvelles fissures s'étaient formées depuis des semaines. Uber $UBER a épuisé son budget annuel pour l'IA agentique en trois mois et a limité son utilisation à 1 500 $ par mois par développeur. Microsoft $MSFT a restreint l'accès des employés à Claude Code, l'outil de codage populaire d'Anthropic. Le CTO de Meta a envoyé un mémo disant au personnel que l'utilisation de jetons seule n'est pas une mesure de l'impact.

Le PDG de Palantir $PLTR a comparé le l'ensemble de la culture à l'addiction à la pornographie, soutenant que les employés brûlant des jetons toute la journée ne produisaient rien de valeur, mais consommaient simplement. Certaines données suggèrent qu'il pourrait être sur la bonne voie : une étude suivant plus de 100 000 développeurs GitHub a révélé que les outils de codage agentiques ont augmenté le volume de code écrit de 741 %, mais les sorties de logiciels effectives n'ont augmenté que de 20 %.

Le problème avec les classements et les budgets illimités, il s'avère, est que ils mesurent l'activité plutôt que le résultat. Un ingénieur peut grimper au sommet d'un classement de jetons en faisant tourner des agents en rond, en générant de la documentation que personne ne lit, ou en demandant à un modèle de pointe quoi manger pour le déjeuner. Le métrique a toujours été manipulable. Il a juste fallu quelques mois et des factures très élevées pour que cela devienne évident.

Ces mois, cependant, ont été très bons pour Anthropic, Claude Code étant largement considéré comme le meilleur outil de codage. La société a rapporté 4,8 milliards de dollars de chiffre d'affaires au premier trimestre et prévoit 10,9 milliards de dollars pour le deuxième trimestre, une augmentation de 130 % qui devrait produire son premier bénéfice d'exploitation. Peu de temps après l'annonce de ces bonnes nouvelles financières, Anthropic a déposé confidentiellement une demande d'introduction en bourse le 1er juin, battant OpenAI pour les formalités administratives et rejoignant ce qui pourrait être un moment unique en une génération à Wall Street aux côtés de SpaceX et OpenAI, chacun potentiellement évalué à plus d'un billion de dollars.

Il convient de noter que Anthropic lui-même a partagé des informations financières avec des investisseurs qui suggèrent que la rentabilité pourrait ne pas durer toute l'année, car les dépenses prévues pour l'infrastructure informatique devraient réduire les marges. Et si le tokenmaxxing est vraiment terminé, Anthropic peut le ressentir plus que quiconque. Le classement interne de Meta s'appelait "Claudeonomics" pour une raison. L'ère du tokenmaxxing, aussi brève et étrange qu'elle ait été, a pu offrir à l'entreprise un trimestre de champagne alors que la fête se terminait partout ailleurs.