Près de la moitié des professionnels interrogés ont utilisé l'IA de manière inappropriée au travail, et 63 % disent avoir vu d'autres employés l'utiliser de manière inappropriée.
China News Service via Getty Images
L'intelligence artificielle a frappé le monde du travail comme un tremblement de terre, et de plus en plus, les entreprises doivent gérer les répliques.
Un problème croissant est l'essor de ce que l'on appelle l'« IA de l'ombre », où les travailleurs utilisent l'IA de manière inappropriée, que ce soit intentionnellement ou non.
Selon une étude récente de l'Université de Melbourne et de KPMG, 47 % des professionnels de carrière interrogés ont utilisé l'IA de manière inappropriée au travail, et 63 % disent avoir vu d'autres employés utiliser l'IA de manière inappropriée. Ces cas varient, allant de l'utilisation de l'IA pour discuter lors de tests d'évaluation de la performance interne de l'entreprise à l'insertion de données sensibles de l'entreprise dans des outils d'IA tiers.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
Cela présente un risque énorme pour les entreprises, a noté l'étude.
« Cette utilisation invisible ou de l'ombre de l'IA n'exacerbe pas seulement les risques - elle entrave également gravement la capacité d'une organisation à détecter, gérer et atténuer les risques », a indiqué le rapport.
Les experts en milieu de travail disent que le véritable changement avec l'IA n'est pas que les employés soient soudainement devenus malhonnêtes. Le changement est que l'IA prend des raccourcis rapidement, facilement et de manière invisible.
« Avant l'IA, il était plus difficile de cacher un mauvais travail », a déclaré Zahra Timsah, responsable de la gouvernance de l'IA et PDG de i-GENTIC AI, une plateforme de conformité à l'IA agentique. « Maintenant, un employé peut générer un rapport soigné en quelques minutes, et les gestionnaires supposent la compétence. Cela crée l'illusion de la productivité. »
Par exemple, Timsah cite un employé qui utilise l'IA pour générer une analyse et la présente avec confiance, mais ne peut pas la défendre lorsqu'on le questionne. « L'entreprise prend des décisions basées sur un travail que personne ne comprend vraiment », a ajouté Timsah. « La plus grande menace n'est pas de tricher aux tests. C'est que les entreprises perdent discrètement leur intelligence interne tout en croyant que leurs équipes pensent de manière indépendante. »
D'autres dirigeants d'entreprises de haut profil disent que les données indiquent que les entreprises ne voient que maintenant la partie émergée de l'iceberg en ce qui concerne l'utilisation de l'IA de l'ombre. Considérez l'image complète de l'étude de Melbourne :
--- 44 % des travailleurs américains utilisent des outils d'IA sans autorisation appropriée,
--- 46 % ont téléchargé des informations sensibles de l'entreprise et des propriétés intellectuelles sur des plateformes d'IA publiques, et 64 % admettent faire moins d'efforts dans leur travail parce qu'ils peuvent s'appuyer sur l'IA.
--- Plus de la moitié, 57 %, commettent des erreurs dans leur travail à cause de l'utilisation non contrôlée de l'IA, et 53 % dissimulent entièrement leur utilisation de l'IA, en présentant le contenu généré par l'IA comme le leur.
« Ce n'est pas seulement que les gens font passer l'IA pour leur propre travail ; ils empoisonnent également le puits de l'entreprise en s'appuyant sur les résultats médiocres de l'IA », a déclaré Nick Misner, COO de Cybrary, une plateforme de développement professionnel en cybersécurité basée à Atlanta. « Alors que l'IA accélère la vitesse à laquelle nous pouvons coder, elle introduit plus de dettes et de vulnérabilités de sécurité dans l'organisation. »
Misner note que ce n’est pas une tendance isolée ; c’est plutôt un échec systémique de la préparation organisationnelle.
« Nous voyons l'adoption de l'IA dépasser massivement la gouvernance », a-t-il déclaré. « Le rapport Gallup sur l'état du lieu de travail mondial nous indique que 79 % de la main-d'œuvre mondiale se situe entre 'faire le minimum' et 'se désengager activement'. »
Par conséquent, lorsque vous donnez aux travailleurs désengagés un outil puissant sans orientation significative, ils ne l'utiliseront pas pour devenir plus productifs. « Ils vont l'utiliser pour faire le même travail avec moins d'effort ou, pire, pour rogner sur les bords d'une manière qui crée un véritable risque organisationnel », a-t-il noté.
La menace ne concerne pas seulement la triche aux examens, bien que dans une affaire rapportée par KPMG Australie cette semaine, 28 employés aient été pris en train d'utiliser l'IA pour tricher à des examens internes, y compris un partenaire condamné à une amende de 10 000 dollars pour avoir triché à un examen d'éthique de l'IA.
« Cet exemple illustre parfaitement l'ironie », a déclaré Misner. « La plus grande menace est que les organisations avancent à l'aveugle. Si près de la moitié de votre main-d'œuvre utilise l'IA de manière inappropriée et que vous ne le savez même pas, votre exposition au risque est massive, allant de la fuite de données aux violations de conformité en passant par l'érosion des compétences que vos employés doivent réellement posséder. »
Les dirigeants doivent proposer des propositions, des politiques et des sanctions pour s'assurer que l'IA est utilisée de manière éthique dans leurs entreprises. Ces stratégies devraient être en tête de leur liste de priorités.
Il y a de bonnes raisons de penser que les chiffres de Melbourne/KPMG ne sont pas uniques à l'IA.
« Nous avons observé des tendances similaires lorsque l'internet et les moteurs de recherche ont fait leur entrée dans le lieu de travail », a déclaré Joe Schaeppi, cofondateur de Solsten, une entreprise d'engagement utilisateur basée sur l'IA à Minneapolis, dans le Minnesota. « Chaque fois qu'un nouvel outil puissant apparaît, son mauvais usage est inévitable ; c'est la nature humaine. »
À mesure que l'adoption de l'IA se développe, Schaeppi a déclaré que la direction verrait probablement plus d'expérimentations et de comportements en zone grise, mais comme avec toutes les technologies, la gouvernance et les garde-fous évoluent. « Des entreprises comme Anthropic adoptent déjà une approche plus orientée vers l'entreprise, en intégrant des règles et des contraintes pour réduire les risques à mesure que la technologie mûrit », a-t-il noté. « Si vous êtes une entreprise et que vous observez un comportement inapproprié sur n'importe quel outil, la préoccupation devrait porter sur la culture et comment vous appliquez les politiques et les procédures. »
Pour garder les engagements d'IA en entreprise sous contrôle, la direction doit charger une équipe d'analyse d'IA de passer en revue l'accès aux données de l'entreprise et les permissions pour tout type de données primordial pour l'avenir de l'entreprise.
« Ensuite, les ensembles de données synthétiques ne sont rien de nouveau et un excellent moyen de modéliser les résultats tout en exploitant vos données », a-t-il dit. « De plus, je ferais toujours intervenir un humain dans la boucle avant que quoi que ce soit ne soit mis en ligne. Plusieurs entreprises ont encore trouvé que l'IA donnait des chiffres de reporting erronés. Qu'il s'agisse de s'assurer que le message est toujours conforme à la marque ou approprié, il est important de garder un humain dans la boucle. »
Les entreprises doivent également fournir des outils d'IA internes approuvés et établir une règle claire. Ne mettez jamais d'informations confidentielles ou réglementées dans des systèmes d'IA publics.
« Ils devraient également surveiller où les données sensibles circulent, en particulier le copier-coller dans les outils d'IA, qui est maintenant un point aveugle majeur que la plupart des entreprises manquent complètement », a déclaré Timsah. « Plus important encore, les entreprises doivent changer la façon dont elles évaluent les employés. »
Timsah encourage également les dirigeants d'entreprise à éviter de récompenser uniquement la production soignée. « Exigez des employés qu'ils expliquent leur raisonnement et démontrent leur compréhension », a-t-elle déclaré. « L'IA peut générer des réponses, mais elle ne peut pas remplacer la propriété ou la responsabilité. »
La première politique mise en œuvre par l'équipe de Timsah chez i-GENTIC était simple et claire : les employés pouvaient utiliser des outils d'IA approuvés, mais ils ne pouvaient pas entrer d'informations confidentielles, client, financières ou propriétaires dans des systèmes d'IA publics.
« Nous nous sommes concentrés sur la clarté, pas sur la restriction », a-t-elle noté. « Cela a créé de la confiance parce que l'employé savait que l'utilisation de l'IA était autorisée, mais avec des limites claires. Cela a également renforcé la responsabilité, car tout le monde comprenait ce qui était sûr et ce qui ne l'était pas. »
La formation interne à l'entreprise devrait se concentrer sur des exemples pratiques, pas sur des politiques vagues que personne ne lit. Les employés doivent comprendre clairement ce qui est sûr et ce qui ne l'est pas.
« Utiliser l'IA pour réécrire un e-mail générique, c'est bien », a déclaré Timsah. « Télécharger des contrats clients, des données financières ou des informations propriétaires dans un outil d'IA public ne l'est pas. Utiliser l'IA pour générer des idées, c'est bien. Présenter des analyses générées par l'IA que vous ne comprenez pas comme votre propre travail ne l'est pas. »
L'utilisation abusive d'IA par les employés devient un problème juridique lorsqu'il y a intention et préjudice.
« Cela inclut la fuite de données confidentielles, le vol de propriété intellectuelle, la manipulation d'informations financières ou la fraude avec l'aide de l'IA », a noté Timsah. « À ce stade, les entreprises peuvent impliquer des enquêteurs, des régulateurs ou les forces de l'ordre. »
Les décideurs d'entreprise doivent également savoir que la plupart des abus commencent par commodité, non par intention malveillante, mais une fois qu'ils causent un préjudice réel, une exposition financière ou une tromperie, ils entrent dans le domaine juridique. « La distinction clé est de savoir si l'abus a entraîné une exposition, une perte ou une dissimulation intentionnelle », a ajouté Timsah.
Les experts disent qu'il est important de noter que les organisations devraient traiter l'utilisation de l'IA comme tout autre comportement à haut risque et éduquer les employés sur la façon de l'utiliser en toute sécurité.
De plus, lors de l'éducation des employés à l'utilisation de l'IA, la direction doit leur faire savoir qu'utiliser l'IA ne les dispense pas de leurs responsabilités.
« Les employés sont toujours responsables de s'assurer que les informations qu'ils téléchargent sur les plateformes d'IA sont précises et ne violent aucune loi », a déclaré Kelsey Szamet, partenaire chez Kingsley Szamet Employment Lawyers. « Les employés doivent également savoir que télécharger des informations confidentielles et propriétaires sur les plateformes d'IA peut entraîner l'exposition permanente de ces informations sur la plateforme. »
D'un point de vue professionnel, la cohérence est essentielle. Si un employé est licencié pour utilisation abusive d'IA et un autre non, cela crée des problèmes de responsabilité pour discrimination et représailles. « Plus la politique et le processus de formation sont solides, moins il y a de risque de litige », a déclaré Szamet.
La préoccupation majeure n'est pas que les employés utiliseront l'IA. Ils le feront. "La préoccupation est que les entreprises s'en occupent avant que cela ne devienne un problème", a ajouté Szamet.
