Le cofondateur d'OpenAI, Andrej Karpathy, rejoint l'équipe de pré-entrainement d'Anthropic.

« J'ai rejoint Anthropic. Je pense que les prochaines années à la frontière des LLM seront particulièrement formatrices », a écrit Karpathy sur X $TWTR. « Je suis très enthousiaste à l'idée de rejoindre l'équipe ici et de revenir à la R&D. Je reste profondément passionné par l'éducation et j'ai l'intention de reprendre mon travail à ce sujet en temps voulu. »

Karpathy a commencé cette semaine dans l'équipe de pré-entraînement d'Anthropic, qui s'occupe des formations à grande échelle qui donnent aux modèles Claude de l'entreprise leur connaissance et leurs capacités de base, selon TechCrunch. L'équipe est dirigée par Nicholas Joseph, un autre ancien employé d'OpenAI et une des premières recrues d'Anthropic. Anthropic a déclaré que Karpathy construirait un groupe axé sur l'utilisation de Claude pour accélérer la recherche sur le pré-entraînement elle-même.

Joseph a salué l'embauche sur X. « Heureux d'accueillir Andrej dans l'équipe de pré-entraînement ! Il construira une équipe axée sur l'utilisation de Claude pour accélérer la recherche sur le pré-entraînement elle-même. Je ne peux penser à personne de mieux pour le faire », a-t-il écrit.

Karpathy était un chercheur fondateur chez OpenAI, où il se concentrait sur l'apprentissage profond et la vision par ordinateur avant de partir en 2017 pour rejoindre Tesla. Chez Tesla, il a dirigé les programmes de conduite autonome et d'Autopilot avant de partir en 2022. Il est retourné chez OpenAI pendant environ un an avant de partir à nouveau début 2024 pour créer Eureka Labs, une startup appliquant l'IA à l'éducation. Il a également créé un cours en ligne intitulé Réseaux de neurones : Zéro à Héros et publie des conférences sur l'IA sur une chaîne YouTube, selon TechCrunch. Il a également inventé le terme "vibe coding", selon Business Insider.

Le déménagement place Karpathy à l'une des phases les plus intensives en calcul et les plus coûteuses de la construction d'un modèle d'IA de pointe. La pré-formation est l'endroit où les modèles acquièrent des connaissances fondamentales avant que tout ajustement ou formation par instruction n'ait lieu.

Anthropic a été en discussion sur une levée de fonds de 30 milliards de dollars qui valoriserait l'entreprise à 900 milliards de dollars, dépassant la dernière valorisation d'OpenAI de 852 milliards de dollars. Les produits de codage IA, le principal étant Claude Code, ont représenté une grande partie de la rapide expansion des revenus de l'entreprise.