Intelligence artificielle va devenir encore plus ancré dans notre vie de tous les jours — et la direction d’OpenAI veut assurer au monde qu’il faut les risques sérieusement après l’équipe responsable de dangers existentiels a démissionné.
Dans un post sur X co-signés par Sam Altman, PDG d’OpenAI, et Greg Brockman, les deux plus hauts dirigeants de la société AI ont déclaré qu’ils continuaient à jeter les bases du déploiement de modèles d’IA de plus en plus performants et en toute sécurité. Mais, ont-ils écrit, l’avenir sera « plus difficile que le passé.”“Nous devons continuer à élever notre travail en matière de sécurité pour qu’il corresponde aux enjeux de chaque nouveau modèle”, ont déclaré les deux hommes samedi.« Nous savons que nous ne pouvons pas imaginer tous les scénarios futurs possibles », ont-ils ajouté. « Nous devons donc avoir une boucle de rétroaction très serrée, des tests rigoureux, une considération minutieuse à chaque étape, une sécurité de classe mondiale et une harmonie de la sécurité et des capacités, y compris des recherches sur la sécurité ciblant différentes échelles de temps, et collaborer avec les gouvernements et « de nombreuses parties prenantes » en matière de sécurité.
Le message est paru un jour après qu’OpenAI ait déclaré à Wired qu’il avait
dissous l’équipe « superalignement »
co-dirigé par le co-fondateur et scientifique en chef Ilya Soutskever, et Jan Leike, qui ont annoncé leur départ de l’entreprise vendredi. OpenAI a déclaré que le travail de l’équipe de « superalignement » sera absorbé par d’autres efforts de recherche. dans toute l’entreprise.À son départ, Leike a écrit dans un fil de discussion sur X que il avait atteint un “point de rupture”
sur des désaccords avec les priorités fondamentales de l’entreprise, ajoutant que « la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits brillants » au cours de la dernière quelques années.Brockman et Altman ont écrit samedi qu’ils savaient que Leike “continuerait à contribuer à la mission de l’extérieur”.Sutskever, qui a contribué à évincer Altman de la direction plus tôt cette année, et Leike rejoignent les rangs de plusieurs autres
Les employés d’OpenAI qui ont
a récemment quitté l’entreprise, y compris d’autres membres de l’équipe de superalignement et des chercheurs travaillant sur la politique et la gouvernance de l’IA.Le remaniement a également intervenu un jour après OpenAI a révélé son le plus récent chatbot IA
, ChatGPT-4o. Mira Murati, directrice de la technologie de l’entreprise, a déclaré que le nouveau Murati a déclaré que les capacités avancées du chatbot posent « de nouveaux défis pour nous quand il s’agit de sécurité.newest AI chatbot, ChatGPT-4o. Mira Murati, the company’s chief technology officer, said the new chatbot’s advanced capabilities pose “new challenges for us when it comes to safety.”
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.