Sam Altman dit à Oprah qu’il souhaite que le gouvernement effectue des tests de sécurité sur l’IA, comme il le fait pour les avions et la médecine

Le directeur d’OpenAI, Sam Altman, a appelé à davantage de tests d’intelligence artificielle dans une interview avec Oprah pour sa nouvelle émission spéciale télévisée, « L’IA et notre avenir », diffusée jeudi soir.Altman, qui a cofondé et dirige la start-up d’IA à l’origine du populaire chatbot génératif d’IA ChatGPT, a déclaré que la prochaine étape consiste pour le gouvernement à commencer à effectuer des tests de sécurité

de la nouvelle technologie qui progresse rapidement.

« L’une des premières choses que nous devons faire — et c’est en train de se produire — est de convaincre le gouvernement de commencer à réfléchir à la manière de réaliser des tests de sécurité sur ces systèmes, comme nous le faisons pour les avions ou les nouveaux médicaments », a-t-il déclaré.

« Personnellement, j’ai probablement une conversation avec quelqu’un au sein du gouvernement tous les quelques jours », a-t-il ajouté.Cela contraste avec la position interne d’Altman et d’OpenAI sur les restrictions à l’innovation. En mai, l’entreprise a dissous son équipe « Superalignement », qui était chargé de travailler sur le problème des dangers existentiels de l’IA. L’entreprise a déclaré que le travail de l’équipe serait absorbé par d’autres efforts de recherche au travers d’OpenAI. Des critiques, y compris d’anciens employés, ont averti que l’entreprise et ses ambitions

présentent des « risques graves ».

À terme, OpenAI espère parvenir à ce que l’on appelle l’intelligence artificielle générale, ou AGI, une vision futuriste des machines qui peuvent faire à peu près tout aussi bien que les humains.L’émission spéciale, qui comprenait également des entretiens avec d’autres experts, notamment Microsoft $MSFT (MSFT) fondateur Bill Gates et directeur du FBI Christopher Wray. Il est désormais disponible en streaming sur Hulu (DIS

).OpenAI est actuellement en pourparlers pour lever 6,5 milliards de dollars auprès d’investisseurs dans le cadre d’un nouveau tour de financement qui valoriserait la start-up à 150 milliards de dollars, a indiqué Bloomberg. signalé. Un accord permettant aux employés de vendre des participations dans la société évaluée OpenAI à 86 milliards de dollars

fin 2023, près triple de ce qu’il était plus tôt dans l’année. Ce dernier tour de financement serait sa plus grosse levée de fonds depuis qu’elle a reçu 10 milliards de dollars de soutien de Microsoft en janvier 2023, et pourrait également, selon certaines informations, inclure le financement d’Apple $AAPL et Nvidia $NVDA

.

De son côté, Oprah a souligné l’importance de prêter attention aux nouvelles technologies et de s’y adapter si nécessaire, étant donné que l’IA, bien qu’encore à ses débuts, est probablement là pour rester.

« L’IA échappe encore à notre contrôle et, dans une large mesure, à notre compréhension », a-t-elle déclaré dans des remarques préparées au début de l’émission spéciale. « Mais elle est là, et nous allons vivre avec une technologie qui peut être notre alliée ainsi que notre rivale. »

« Nous sommes les créatures les plus adaptables de cette planète », a-t-elle ajouté. « Nous nous adapterons à nouveau. Mais gardez les yeux sur ce qui est réel. Les enjeux ne pourraient pas être plus élevés. »Dans une interview précédente avec le Washington Post, Winfrey a dit elle je n’avais pas utilisé l’IA avant de m’asseoir avec Altman

. Après l’entretien, cependant, elle a commencé à « l’utiliser pour tout.”

Mais la star de la télévision a également exprimé ses inquiétudes quant aux dangers de la technologie, notamment son utilisation pour générer de la désinformation et des deepfakes.

« Je n’ai pas beaucoup de foi », a-t-elle déclaré, lorsqu’il s’agit de réglementer l’IA. « Tout le monde se rend compte qu’il faut des réglementations. Tout le monde en est conscient. »

« Ma crainte est que, tout comme avec les automobiles et d’autres technologies qui nous ont fait avancer, tant de dégâts puissent être causés, tant de vies affectées négativement avant que les gens ne se réveillent et décident réellement : « Oh, nous avons besoin d’une ceinture de sécurité sur cet engin. Nous avons besoin de limites de vitesse », a-t-elle déclaré.