Il existe un écart entre la connaissance des risques de l'IA au niveau de la direction et les actions spécifiques entreprises par les entreprises pour réduire ces menaces.
Maskot
Le train de l'intelligence artificielle roule à pleine vitesse en 2025, avec des dirigeants d'entreprises qui luttent pour suivre et contrer les risques opérationnels croissants.
Considérer Le rapport Index 2025 de l'Université de Stanford, qui montre que les incidents de confidentialité et de sécurité liés à l'IA ont augmenté de 56,4 % en 2024. L'étude a identifié les violations de données et les défaillances algorithmiques qui compromettent les informations sensibles comme les types d'incidents d'IA les plus courants.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
Plus alarmant encore est l'écart entre la connaissance des risques liés à l'IA au niveau de la direction et les actions spécifiques entreprises par les entreprises pour réduire ces menaces, malgré des conséquences négatives telles que les sanctions réglementaires et les dommages irréparables à la confiance des consommateurs qui se profilent à l'horizon.
« Notre recherche montre que 73 % des entreprises ont connu un incident de sécurité lié à l'IA l'année dernière, souvent sans réaliser les vulnérabilités avant qu'il ne soit trop tard », a déclaré Dr. Ja-Naé Duane, une scientifique du comportement à l'Université Brown et coauteur du livre à paraître "SuperShifts : Transformer notre façon de vivre, d'apprendre et de travailler à l'ère de l'intelligence." « Le véritable problème est que de nombreux dirigeants d'entreprises assimilent le risque lié à l'IA à des bogues techniques, manquant les inconvénients humains, opérationnels et de réputation plus larges, tels que la baisse du moral du personnel, la désinformation et la manipulation adversariale. »
Duane souligne plusieurs incidents liés à l'IA qui ont déclenché des problèmes négatifs dans de grandes entreprises de marque :
· L'outil de recrutement AI d'Amazon $AMZN a commencé à rétrograder les candidates en raison de données d'entraînement biaisées.
· Le chatbot Tay de Microsoft $MSFT a publié un contenu offensant quelques heures après son lancement en raison de mauvaises sauvegardes.
· Un avocat de New York a soumis de faux cas juridiques générés par ChatGPT et a été condamné à une amende.
· Un chatbot Chevrolet a accidentellement proposé de nouveaux SUV pour 1 $.
Dans de nombreux cas, la prise de conscience des menaces liées à l'IA parmi les dirigeants d'entreprise est trop courante.
« Plus récemment, près de la moitié des entreprises ont abandonné les initiatives d'IA en raison d'une mauvaise mise en œuvre, d'un manque de confiance et d'échecs de gouvernance, » a ajouté Duane. « Ces exemples montrent que les risques les plus importants liés à l'IA proviennent des angles morts des dirigeants, pas seulement des aspects technologiques.»
La première étape pour anticiper les risques liés à l'IA est de connaître les menaces qui représentent les plus grands défis. Quartz a parlé à des experts en gestion qui ont mis en évidence des dangers spécifiques liés à l'IA pour lesquels toutes les entreprises devraient se préparer.
À mesure que l'IA devient plus omniprésente au sein des entreprises, la « surcodage » engendre des failles de sécurité informatique.
« Les équipes d'ingénierie logicielle utilisent l'IA pour générer des logiciels de manière incroyablement rapide, mais le code s'accompagne toujours d'une augmentation spectaculaire du volume, notamment des lignes de code inutiles et superflues », a déclaré George Manuelian, stratège en chef chez RapidFort, une entreprise de cybersécurité à Atherton, Californie.
Ce que de nombreuses équipes d'entreprise ne réalisent pas, c'est que le gonflement du code logiciel élargit directement la surface d'attaque de leur organisation, entraînant plus de vulnérabilités logicielles que les pirates peuvent exploiter. « Nous avons constaté de première main comment les logiciels générés ou accélérés par l'IA incluent des éléments inutiles qui augmentent simplement le risque sans ajouter de valeur, sans parler d'avoir une fonction spécifique », a déclaré Manuelian.
Pour aggraver les choses, les équipes de sécurité peinent maintenant à suivre le rythme rapide du développement de logiciels. « Cela cause un goulot d'étranglement sérieux, affaiblissant considérablement la posture de sécurité d'une organisation », a ajouté Manuelian.
L'un des risques les plus urgents et sous-estimés de la mise en œuvre de l'IA est la montée des menaces d'usurpation d'identité par deepfake.
« Nous voyons maintenant des adversaires, comme des acteurs de menaces nord-coréens, infiltrer avec succès des entreprises américaines en se faisant passer pour de véritables candidats à l'emploi », a déclaré Matt Moynihan, PDG de GetReal Security à Boston, Massachusetts. « En utilisant l'IA générative, ils peuvent falsifier des documents, falsifier des diplômes et même simuler des entretiens vidéo en direct avec des personnages d'apparence réaliste. »
La question des deepfakes n'est pas hypothétique, et elle ne se limite pas à une seule industrie ou à une seule taille d'entreprise.
« Tout le monde, des Fortune 500 aux entreprises de taille moyenne, est vulnérable et les conséquences sont de grande envergure », a déclaré Moynahan. « Ces acteurs ne ciblent pas seulement les emplois, ils ciblent l'accès. Une fois à l'intérieur, ils peuvent exfiltrer des propriétés intellectuelles sensibles, compromettre les données des clients, ou recueillir des informations ayant des implications pour la sécurité nationale. »
Ce qui rend cette menace particulièrement dangereuse, c'est la facilité avec laquelle elle peut contourner les processus de vérification traditionnels. Sans outils spécialisés, ces identités de deepfake sont presque impossibles à détecter.
« C'est pourquoi les entreprises doivent changer d'approche, en investissant dans des capacités de détection transversales qui combinent cybersécurité, ressources humaines et expertise en criminalistique numérique pour valider l'identité en temps réel », a ajouté Moynihan.
L'un des plus grands risques est la facilité avec laquelle les systèmes d'IA peuvent se transformer en comportements inattendus que les cadres supérieurs n'avaient pas prévus.
« Sans les bons contrôles, l'IA commence à interagir avec d'autres outils, à faire des suppositions et à créer des conséquences que personne n'avait prévues », a déclaré Tim Armandpour, directeur technologique chez PagerDuty, une société de gestion de performance opérationnelle à Los Angeles, Californie. « Nous voyons des agents IA qui déclenchent des alertes, escaladent des incidents ou touchent des données sensibles avec peu d'implication humaine. »
Les employés sont les premiers à ressentir les effets lorsque les flux de travail sont perturbés ou que la confiance se brise. En revanche, les actionnaires ressentent l'impact lorsque ces incidents entraînent des temps d'arrêt, des failles de sécurité ou des répercussions publiques, a noté Armandpour. « Ce ne sont pas des cas limites. Cela se passe maintenant, et la complexité ne fait que croître », a-t-il déclaré.
Bien que l'IA change fondamentalement la façon dont les humains travaillent, communiquent et interagissent les uns avec les autres, la plupart des organisations implémentent l'IA comme s'il s'agissait simplement d'une autre mise à jour logicielle.
« L'IA change la façon dont nous trouvons l'information, dont nous prenons des décisions, dont nous collaborons, et même dont nous construisons la confiance avec les clients et nos propres équipes », a déclaré Aaron Perkins, fondateur de Market-Proven AI, une entreprise de formation à l'IA à Dover, Delaware.
Lorsque les organisations ignorent ces dynamiques humaines, elles créent ce que Perkins appelle « la dette de connexion. » « Dans ce contexte, la dette de connexion est cet écart croissant entre ce que la technologie peut faire et ce que les gens sont prêts ou capables de faire avec elle », a noté Perkins.
L'IA crée une toute nouvelle génération de travail, nécessitant de nouvelles compétences en matière de collaboration humain-IA, et pourtant de nombreuses entreprises abordent la formation avec la mauvaise perspective. « La plupart des organisations se concentrent sur l'apprentissage de l'utilisation des outils plutôt que sur la façon de travailler efficacement aux côtés de l'IA tout en maintenant des connexions humaines », a déclaré Perkins.
Un autre problème est que l'IA peut fabriquer des informations, même lorsqu'elle est formée sur des données spécifiques à l'entreprise, et les entreprises ne peuvent jamais être sûres à 100 % qu'elle n'a pas inventé quelque chose de toutes pièces.
« Nous connaissons tous ces mèmes internet où vous demandez à l'IA de dessiner une image sans éléphant, et elle en dessine une avec un éléphant quand même », a déclaré Jeff Tilley, fondateur et PDG de Muncly, une entreprise de services de solutions Salesforce $CRM. « C'est parce que les éléphants existent dans le monde, et l'IA tombe dans des sophismes logiques en fonction de la manière dont vous la sollicitez. »
Le problème des hallucinations souligne le problème central que l'IA manque de bon sens et de compréhension contextuelle de ce qui se passe, même si les cadres dirigeants ne priorisent pas cette ligne de réflexion.
« C'est un modèle statistique essayant de simuler de véritables conversations humaines », a déclaré Tilley. « Lorsqu'elle vous donne de fausses informations et que vous prenez des décisions basées sur cela, puis construisez d'autres décisions sur ces fausses bases, vous extrapolez des quantités massives d'erreur qui peuvent conduire à des décisions commerciales catastrophiques. »
Sur le plan positif, il existe des mesures de protection que les PDG, DRC et CTO peuvent mettre en place pour réduire considérablement les risques de déploiement et d'utilisation de l'IA. Commencez par former et missionner les employés pour qu'ils soient la première ligne de défense et partez de là pour aller de l'avant.
« Donnez aux employés le pouvoir, non seulement d'exécuter, mais de questionner, de lever des drapeaux et de façonner ce que l'IA signifie pour leur travail », a déclaré Andrea Schnepf, fondatrice de Nepf LLC, une société de conseil en gestion à Irvine, en Californie. « Établissez également des 'chirurgies' ou des forums ouverts sur l'IA où les gens peuvent exprimer leurs préoccupations dès le début. »
Une culture de sécurité peut être le meilleur système d'alerte précoce des dirigeants pour les menaces de l'IA au travail.
« Lorsque l'incertitude plane, communiquez excessivement le besoin de vigilance », a déclaré Schepf. « Un PDG qui est transparent sur le but, la portée et les limites de l'IA gagne la confiance, même si les outils ne sont pas encore parfaits. »
