Alors que les puces Nvidia continueront de dominer l'entraînement de l'IA, de nouvelles puces pour l'inférence pourraient permettre aux entreprises d'économiser des dizaines de milliards de dollars.
Nvidia CEO Jensen Huang (I-Hwa Cheng/Bloomberg via Getty Images)
Une version de cet article est initialement parue dans la newsletter Weekend Brief réservée aux membres de Quartz. Les membres de Quartz ont accès à des newsletters exclusives et plus encore. Inscrivez-vous ici.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
Le partenariat, révélé plus tôt ce mois-ci après l'appel de résultats de Broadcom, souligne une réalité croissante : les entreprises sont désespérées de s'échapper de ce que l'industrie appelle la « taxe Nvidia » — les marges brutes d'environ 60 % sur les processeurs qui sont devenus essentiels au développement de l'IA.
Altman a été franc sur les pénuries de GPU ralentissant les sorties de ChatGPT, écrire sur X $TWTR que l'entreprise était "à court de GPU" et devait en ajouter "des dizaines de milliers" pour déployer de nouvelles fonctionnalités. Mais OpenAI n'est pas seul dans sa frustration. Dans toute la Silicon Valley et au-delà, une révolution se prépare dans le développement de nouvelles puces pour se libérer de l'emprise de Nvidia. C'est particulièrement vrai pour l'inférence, qui est le moment où les systèmes d'IA répondent réellement aux questions ou créent du contenu pour les utilisateurs.
Bien que les puces Nvidia continueront à dominer l'entraînement de l'IA, davantage de nouvelles puces d'inférence pourraient permettre aux entreprises d'économiser des dizaines de milliards de dollars et de réduire considérablement la consommation d'énergie. Le calcul est convaincant : l'inférence se produit chaque fois que quelqu'un pose une question à ChatGPT ou génère une image, ce qui la rend beaucoup plus fréquente que le processus d'entraînement unique.
La puce Broadcom n'est pas conçue pour défier Nvidia directement, selon le Wall Street Journal, mais plutôt pour "combler les lacunes" dans les besoins matériels d'OpenAI. Cette approche hybride reflète la stratégie plus large de l'industrie — ne pas nécessairement remplacer Nvidia entièrement, mais réduire la dépendance par des alternatives spécialisées.
Des entreprises comme Positron affirment que leurs puces peuvent offrir Deux à trois fois meilleure performance par dollar et trois à six fois meilleure efficacité énergétique que les systèmes de nouvelle génération de Nvidia. Groq, fondée par l'ancien responsable du développement de puces IA de Google $GOOGL, affirme que ses puces spécialisées peuvent rendre ChatGPT fonctionne plus de 13 fois plus vite.
Les grands fournisseurs de cloud n'attendent pas que les startups résolvent leur dépendance à Nvidia. Google, Amazon $AMZN, and Microsoft $MSFT sont tous en train de développer des puces axées sur l'inférence pour leurs outils d'IA internes et leurs services cloud. Ces efforts sur plusieurs années, bien financés, représentent un défi direct à la domination de Nvidia sur le marché de l'inférence.
Même Qualcomm $QCOM est revenant aux produits de centre de données après avoir abandonné le marché des serveurs en 2018. Le PDG Cristiano Amon a récemment annoncé des plans axés sur des "clusters d'inférence qui concernent des performances élevées à très faible consommation d'énergie."
Mais certains unissent leurs forces plutôt que de se battre. Intel $INTC a annoncé cette semaine qu'il construira sur mesure des puces qui s'intègrent aux systèmes de Nvidia, avec Nvidia prenant une participation de 5 milliards de dollars dans Intel dans le cadre de l'accord.
En Chine, où les restrictions américaines à l'exportation limitent l'accès aux puces AI avancées, Alibaba et Baidu ont commencé à utiliser des puces conçues en interne pour former des modèles d'IA, remplaçant partiellement les processeurs Nvidia. La puce AI d'Alibaba est maintenant, selon les rapports, compétitive avec la H20 de Nvidia, le processeur le plus puissant que l'entreprise puisse vendre en Chine.
Les ambitions de l'Inde en matière de semi-conducteurs ajoutent une autre dimension à la compétition mondiale, avec 10 projets, 18 milliards de dollars d'engagements d'investissement et plus de 7 milliards de dollars de subventions allouées. La diaspora indienne pourrait s'avérer cruciale, les dirigeants notant qu'un tiers des ingénieurs et de la haute direction de Nvidia sont Indiens, ce qui pourrait apaiser les préoccupations des clients mondiaux concernant la collaboration avec de nouveaux fabricants de puces indiens.
« Quand les enjeux sont élevés, comptez sur l'Inde » Le Premier ministre indien Narendra Modi a déclaré lors d'une conférence sur les semi-conducteurs ce mois-ci.
Nvidia ne reste pas les bras croisés. L'entreprise affirme que ses derniers systèmes Blackwell offrent une efficacité d'inférence 25 fois supérieure par watt par rapport aux générations précédentes. Mais la vitesse n'est pas tout. Les puces de Nvidia peuvent gérer le prochain modèle d'IA, tandis que les puces d'inférence spécialisées sont conçues pour les modèles d'aujourd'hui. Dans une industrie en mouvement rapide où les architectures d'IA changent constamment, ces puces spécialisées pourraient devenir obsolètes du jour au lendemain.
Il ne s'agit pas seulement des puces. Cuda, le logiciel qui fait fonctionner les processeurs de Nvidia, est ce que la plupart des développeurs d'IA savent utiliser. Apprendre un nouveau système signifie former des équipes à des outils non familiers, créant une autre barrière pour les potentiels switchers.
Le palmarès actuel des challengers est également insuffisant. Google développe des TPU depuis près d'une décennie, tandis que Microsoft et Amazon ont investi des milliards dans leurs propres puces depuis plusieurs années sans grand résultat. Les recherches montrent qu'environ 90% des publications sur l'IA citer toujours le matériel Nvidia, une domination qui a à peine bougé malgré des années de concurrence bien financée.
Pourtant, alors que les analystes prédisent que Nvidia sera le fournisseur pour 100% du marché de l'entraînement, il ne capturera que 50% du marché de l'inférence à long terme. Cela laisse encore près de 200 milliards de dollars de dépenses annuelles en puces à saisir d'ici 2028, suffisamment pour motiver les entreprises à continuer de tenter de capturer une part du gâteau des puces.
La bataille de l'informatique d'inférence représente plus qu'une simple compétition technique. Il s'agit de remodeler la structure économique de l'IA, de réduire la dépendance à un fournisseur unique et de rendre les capacités avancées d'IA accessibles à un plus large éventail d'entreprises et de pays. Comme le démontre le partenariat de Sam Altman avec Broadcom, même les entreprises d'IA les plus prospères parient que des solutions personnalisées s'avéreront supérieures à la domination des solutions prêtes à l'emploi.
