L’ancien directeur de Google (GOOGLE
) affirme que les ordinateurs seront bientôt capables de prendre leurs propres décisions — et les humains devront savoir quand débrancher.Eric Schmidt, qui a passé une décennie en tant que directeur général du pionnier de l’intelligence artificielle, a déclaré que les humains doivent tirer parti de l’IA « tout en préservant la dignité et les valeurs humaines » pendant une interview sur ABC News
(
DIS)« Cette semaine. »
Les médias sociaux ont rapidement changé l’esprit du temps à l’échelle mondiale, a déclaré Schmidt, « et imaginez maintenant une manière beaucoup plus intelligente et plus puissante d’envoyer des messages, d’inventer des choses, le rythme de l’innovation, la découverte de médicaments et tout cela, plus toutes sortes de mauvaises choses, comme les armes et les cyberattaques. »
Bientôt, a déclaré Schmidt, il y aura des ordinateurs qui pourront fonctionner « tout seuls, en décidant ce qu’ils veulent faire ». Actuellement, l’industrie se concentre sur
Agents IA
— ou des logiciels capables d’accomplir des tâches complexes de manière autonome — mais la technologie aura des « objectifs plus puissants ».
« Finalement, vous dites à l’ordinateur : « apprenez tout et faites tout », et c’est un point dangereux », a déclaré Schmidt. « Lorsque le système peut s’auto-améliorer, nous devons sérieusement penser à le débrancher. »
Lorsqu’on lui a demandé si un système d’IA aussi puissant aurait la capacité de contrer les efforts visant à le fermer, Schmidt a répondu : « En théorie, il vaut mieux avoir quelqu’un qui ait la main sur la prise. »
À mesure que l’IA devient plus intelligente, « chaque personne aura l’équivalent d’un polymathe dans sa poche », a déclaré Schmidt, mais on ne sait pas vraiment « ce que cela signifie de donner ce genre de pouvoir à chaque individu ». On craint désormais qu’une entreprise qui se précipite pour développer l’IA décide de sauter des étapes dans les tests de sécurité, a déclaré Schmidt, et finisse par commercialiser un système dangereux.
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.