OpenAI dissout l’équipe chargée de conseiller la startup sur le degré de préparation du monde à des niveaux plus élevés d’intelligence artificielle.
Miles Brundage, responsable de l’équipe « AGI Readiness » d’OpenAI, quitte l’entreprise cette semaine, a-t-il déclaré dans un communiqué. Publication de sous-pile mercredi. Brundage a déclaré qu’il prévoyait de créer une organisation à but lucratif ou de rejoindre une organisation existante axée sur la recherche sur la politique en matière d’IA. Une sous-équipe de recherche économique sera mise sous la direction du nouvel économiste en chef d’OpenAI, Ronnie Chatterji, a déclaré Brundage, tandis que d’autres membres seront réaffectés à d’autres équipes.
Le conseiller principal sortant a déclaré que ni le créateur de ChatGPT ni les autres laboratoires d’IA de pointe ne sont prêts pour l’AGI, ou l’intelligence artificielle générale, qui est considéré comme ayant une intelligence de niveau humain. Une raison pour créer ou rejoindre une organisation à but non lucratif, a déclaré Brundage, est que « je pense que l’IA est peu probable d’être aussi sûre et bénéfique que possible sans un effort concerné pour le faire. »
Brundage a qualifié son rôle de conseiller de « travail de rêve », mais a déclaré qu’il souhaitait « passer plus de temps à travailler sur des questions qui touchent l’ensemble du secteur de l’IA, avoir plus de liberté de publication et être plus indépendant ».
L’une de ses principales raisons de son départ est le coût d’opportunité élevé dû à l’énorme visibilité d’OpenAI et à son sentiment que son travail aurait « plus d’impact » en dehors du secteur de l’IA. Brundage a également déclaré qu’il souhaitait « être moins partial » et qu’il avait « fait une grande partie de ce qu’il avait prévu de faire chez OpenAI ».
« Nous soutenons pleinement la décision de Miles de poursuivre ses recherches sur les politiques en dehors de l’industrie et sommes profondément reconnaissants de ses contributions », a déclaré un porte-parole d’OpenAI dans un communiqué partagé avec Quartz. « Son projet de se lancer à fond dans des recherches indépendantes sur les politiques en matière d’IA lui donne l’opportunité d’avoir un impact à plus grande échelle, et nous sommes ravis d’apprendre de son travail et de suivre son impact. Nous sommes convaincus que dans son nouveau rôle, Miles continuera à relever la barre en matière de qualité de l’élaboration des politiques dans l’industrie et le gouvernement. »
En mai, OpenAI a dissous son équipe de « superalignement », qui s’est concentré sur les dangers existentiels de l’IA. Ilya Sutskever , co-fondateur et ancien scientifique en chef d’OpenAI et Jan Leike, son co-fondateur de l’équipe de superalignement, ont tous deux démissionné de la startup d’IA ce mois-là.
Mira Murati, l’ancienne directrice technique de l’entreprise, a annoncé sa nomination départ de l’entreprise en septembre et était suivi par Bob McGrew, directeur de la recherche d’OpenAI, et Barret Zoph, vice-président de la recherche.
Une semaine après les démissions, OpenAI a finalisé une Tour de financement de 6,6 milliards de dollars, conduisant à une valorisation de 157 milliards de dollars. La startup travaillerait également sur un plan pour restructurer son statut d’organisme à but non lucratif, qui pourrait donner au chef exécutif Sam Altman, investisseur majeur en actions.
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.