La plateforme de prochaine génération promet un débit d'IA agentique 10 fois supérieur à celui de son prédécesseur Grace Blackwell, pour un dixième du coût par jeton.
Credit: Nvidia News
Nvidia $NVDA a annoncé lundi que sa plateforme d'infrastructure AI Vera Rubin entre en pleine production, avec des systèmes prêts à être expédiés aux clients cloud et entreprises cet automne. L'annonce a été faite lors d'un discours de Jens Huang, PDG de Nvidia, à la conférence Computex à Taipei.
La plateforme Vera Rubin est conçue pour alimenter ce que Nvidia appelle des charges de travail d'IA « agentiques », où des systèmes d'IA autonomes raisonnent, utilisent des outils logiciels tiers et exécutent des tâches complexes au nom des humains. L'entreprise a déclaré que la plateforme offre un débit d'IA agentique 10 fois supérieur à celui de sa plateforme Grace Blackwell de génération précédente, pour un dixième du coût par token.
Au centre de la plateforme se trouvent le nouveau GPU Rubin de Nvidia et le CPU Vera, ce dernier ayant été confirmé par l'entreprise comme étant entré en pleine production. Olympus, une architecture de cœur personnalisée, sous-tend le CPU Vera, qui intègre 88 cœurs et un sous-système mémoire LPDDR5X capable de 1,2 téraoctet par seconde de bande passante. Selon Nvidia, la puce surpasse les processeurs basés sur x86 de 1,8 fois sur des tâches centrales pour les déploiements agentiques, telles que les requêtes de base de données et la compilation de code.
« Les agents IA seront les plus grands utilisateurs de l'informatique », a déclaré Huang dans un communiqué. « Vera est le premier CPU conçu pour cet avenir — construit pour exécuter l'IA agentique à l'échelle hyperscalaire avec une performance, une efficacité et une programmabilité extraordinaires. »
En tête de la gamme de produits, le Vera Rubin NVL72 associe 36 CPU Vera à 72 GPU Rubin dans un rack refroidi par liquide, le tout relié par des interconnexions haute vitesse NVLink 6, selon SiliconAngle. La formation de grands modèles à mélange d'experts sur le NVL72 nécessite seulement un quart du nombre de GPU qui aurait été nécessaire avec la génération précédente Blackwell de Nvidia, a déclaré l'entreprise.
Les premiers clients prévoyant de déployer Vera incluent les développeurs d'IA Anthropic, OpenAI, et xAI de SpaceX, ainsi que les fournisseurs de cloud CoreWeave, ByteDance, et Oracle $ORCL Cloud Infrastructure. Les fabricants de serveurs Dell $DELL Technologies, HPE, Lenovo, et Supermicro construisent des systèmes Vera Rubin à grande échelle.
Complétant la plateforme, le processeur de stockage BlueField-4 STX, que Nvidia présente comme une couche de contexte persistante permettant aux agents IA de rester cohérents lors de conversations longues et multi-étapes. Nvidia affirme que le routage du contexte mis en cache via les puces BlueField-4 plutôt que le système principal peut multiplier par cinq le débit d'inférence.
La production de la plateforme s'appuie sur une chaîne d'approvisionnement mondiale couvrant 30 pays et impliquant plus de 350 partenaires, selon SiliconAngle. Sur le paysage concurrentiel, Vera entre sur un marché occupé par les processeurs Xeon d'Intel $INTC, la ligne Epyc d'AMD $AMD, et le silicium personnalisé développé en interne par les principaux opérateurs de cloud, selon Bloomberg.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
