La cybersécurité constitue le plus grand risque génératif de l’IA, selon une nouvelle enquête de PwC
Cela vient comme les cyberattaques continuent à être en augmentation. Les dommages dus aux cyberattaques devraient s’élever à environ 10 500 milliards de dollars annuellement d’ici 2025, une augmentation de 300 % par par 2015, selon un rapport McKinsey .
Plus de la moitié des PDG interrogés par PwC conviennent également que l’IA générative augmentera probablement la propagation de la désinformation dans leur entreprise, selon le rapport. .
Les risques que l’IA générative fait peser sur les entreprises surviennent alors que bon nombre de ces mêmes entreprises ont été promptes à lancer de nouveaux produits d’IA générative. Les résultats « soulignent les obligations sociétales qu’ont les PDG pour garantir que leurs organisations utilisent la responsabilité de l’IA », indique le rapport de PwC.
PwC a interrogé près de 5 000 PDG dans le monde entre octobre et novembre 2023.
Avec OpenAI contribuant à stimuler la demande de technologie d’IA générative, la société a annoncé cette semaine plusieurs projets pour lutter contre les effets potentiellement nocifs de l’IA.
À le Forum économique mondial à Davos, le vice-président des affaires mondiales de l’entreprise a déclaré à Bloomberg qu’OpenAI est développer des outils avec le Département de Défense des États-Unis sur un logiciel de cybersécurité open source.
Juste un jour avant, OpenAI expliqué ses projets de gérer les élections, comme certains milliards d’électeurs Partout dans le monde, rendez-vous aux urnes cette année. Par exemple, le générateur d’images de l’entreprise, Dall-E, dispose de garde-fous pour refuser les demandes qui demandent des génération d’images de personnes réelles, y compris de candidats politiques. OpenAI n’autorise pas non plus les applications qui dissuadent les gens de voter.
Au début de cette année, la société déploiera quelques fonctionnalités qui offriront plus de transparence autour du contenu généré par l’IA. Par exemple, les utilisateurs pourra détecter quels outils ont été utilisés pour produire une image. ChatGPT d’OpenAI sera également bientôt équipé d’actualités en temps réel, qui comprend l’attribution et des liens, affirme l’entreprise. La transparence autour de l’origine de l’information pourrait aider les électeurs à mieux évaluer l’information et à décider par eux-mêmes ils peuvent faire confiance.
Chansons générées par l’IA mettant en vedette le Premier ministre indien Narendra Modi avait gagné du terrain avant les prochaines élections en Inde, comme l’a rapporté la publication en ligne Reste du Monde.
Ces changements interviennent dans un contexte d’inquiétudes quant au fait que montée des soi-disant deepfakes pourrait induire en erreur les électeurs lors des élections. Des entreprises comme Google $GOOGL, Méta, et TIC Tac exigent désormais l’étiquetage des publicités liées aux élections qui utilisent l’IA.
Plusieurs États américains — y compris la Californie, le Michigan, le Minnesota, le Texas et Washington —ont adopté des lois interdisant ou exigeant la divulgation des deepfakes politiques.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
