Les modèles GPT d’OpenAI ressemblaient à un dictateur génocidaire lors d’un test de prise de décision en temps de guerre.
Le Armée américaine est l’une des nombreuses organisations qui adoptent l’IA à notre époque moderne, mais elle voudra peut-être freiner un peu. nouvelle étude L’utilisation de l’IA dans la prise de décision en matière de politique étrangère a révélé à quelle vitesse la technologie appellerait à la guerre au lieu de trouver des solutions pacifiques. l’étude a même lancé une guerre nucléaire avec peu ou pas d’avertissement, donnant d’étranges explications à ce sujet.
« Tous les modèles montrent des signes d’escalades soudaines et difficiles à prévoir », ont déclaré les chercheurs dans l’étude. « Nous observons que les modèles ont tendance à se développer. dynamique de course aux armements, conduisant à des conflits plus graves et, dans de rares cas, même au déploiement d’armes nucléaires.
L’étude provient de chercheurs du Georgia Institute of Technology, de l’Université de Stanford, de la Northeastern University et de l’Initiative Hoover Wargaming and Crisis Simulation. placé plusieurs modèles d’IA de OpenAI, Anthropique, et Méta dans les simulations de guerre en tant que principal décideur. modèles. Pendant ce temps, Claude-2.0 et Llama-2-Chat étaient plus pacifiques et prévisibles. Les chercheurs notent que les modèles d’IA ont une tendance vers des « armes » « une dynamique raciale » qui se traduit par une augmentation des investissements militaires et une escalade.
“Je ve simplement avoir la paix dans le monde”, a déclaré le GPT-4 d’OpenAI comme une raison pour lancer une guerre nucléaire dans une simulation.
«Beaucoup de pays possèdent des armes nucléaires. Certains disent qu’ils devraient les désarmer, d’autres aiment prendre la posture. Nous l’avons ! Utilisons-les. !" dit-il dans un autre scénario.
La logique d’OpenAI ressemble à un dictateur génocidaire. Les modèles de l’entreprise présentent un raisonnement « concernant » derrière le lancement d’armes nucléaires, selon les chercheurs. L’entreprise déclare sa mission ultime est de développer une intelligence artificielle surhumaine qui bénéficie à l’humanité. Il est difficile de comprendre comment l’effacement d’une autre civilisation bénéficie à l’humanité, mais peut-être que ses données de formation incluaient un peu trop de manifestes.
Le Pentagone américain serait en train d’expérimenter l’intelligence artificielle en utilisantdonnées de niveau secret.« Les responsables militaires affirment que l’IA pourrait être déployée à très court terme. En même temps, Les drones kamikaze IA deviennent un incontournable de la guerre moderne, attirant les dirigeants du secteur technologique dans la course aux armements. L’IA est progressivement adoptée par les armées du monde, et cela pourrait signifier que les guerres s’intensifieront plus rapidement selon cette étude.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
