La puce, surnommée en interne "Frozen v2", pourrait traiter 6 à 10 fois plus de jetons par unité d'énergie que les derniers TPUs de Google.
Getty Images / Bloomberg
La puce, appelée en interne « Frozen v2 », réduit les charges de traitement en intégrant des parties de l'architecture de Gemini dans le silicium lui-même, limitant ainsi le nombre de calculs que le matériel doit effectuer et la distance que les données doivent parcourir pour générer une réponse, selon Bloomberg. Les ingénieurs travaillant sur le projet estiment que la puce pourrait offrir de six à dix fois plus de sortie de jetons par watt par rapport aux derniers TPUs de Google.
Google a développé le projet en partie pour soulager une forte pénurie de capacité interne qui a créé des frictions au sein de l'entreprise et a conduit Google Cloud à refuser des affaires de clients externes. Google vise 2028 pour le déploiement, bien que les ingénieurs finalisent encore la conception de la puce et la quantité d'informations du modèle qui seront intégrées en dur, selon Yahoo Finance.
Frozen v2 représenterait une branche spécialisée du portefeuille de puces de Google plutôt qu'un remplacement de ses TPU à usage général. Cette efficacité a toutefois un coût : comme certaines parties du modèle sont intégrées dans le silicium, la puce ne peut prendre en charge les futures versions de Gemini que si Google maintient son architecture fondamentale intacte. Les volumes de production devraient être bien inférieurs aux niveaux des TPU, et l'effort est pour l'instant traité en interne comme un exercice exploratoire plutôt qu'un déploiement à grande échelle.
Google a fait face à des pressions croissantes sur plusieurs fronts, y compris le départ de chercheurs seniors en IA vers des concurrents. Noam Shazeer, qui co-dirigeait les modèles Gemini, a annoncé qu'il rejoignait OpenAI, tandis que le lauréat du prix Nobel John Jumper a quitté Google DeepMind pour Anthropic. L'action Alphabet a chuté de 7% à la suite de ces départs. La prochaine sortie de Gemini Pro a également été retardée, et les modèles d'IA chinois représentent désormais 45% de l'utilisation des jetons des entreprises américaines.
Dans une déclaration à CNBC, Google a déclaré que ses équipes "recherchent et expérimentent constamment de nouvelles innovations pour offrir des performances et une efficacité maximales à nos utilisateurs et clients", ajoutant que "tous les projets ne passent pas en production". Un porte-parole de Google Cloud a déclaré que l'approche de l'entreprise implique "la co-conception de notre matériel et de notre logiciel depuis le début" pour optimiser les systèmes pour les charges de travail réelles.
Google n'est pas seul à poursuivre le développement de silicium IA personnalisé. OpenAI a récemment introduit sa première puce interne, construite aux côtés de Broadcom $AVGO Inc., tandis qu'Anthropic a entamé des discussions préliminaires avec Samsung Electronics Co. au sujet du développement de son propre silicium, selon Bloomberg.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
