Les experts en milieu de travail affirment que les nouveaux "chefs automatiques" sont susceptibles d'influencer les entreprises dans des domaines clés tels que la logistique, la vente au détail et le service client.
Getty Images
En se dirigeant vers le dernier trimestre de 2025, l'IA ne se contente plus de remplacer le travail de première ligne ; elle est de plus en plus utilisée pour attribuer des horaires, surveiller les performances et même faire des recommandations d'embauche et de licenciement, domaine traditionnel des cadres d'entreprise.
La tendance n'est pas anecdotique : 52 % des entreprises de taille moyenne utilisent déjà l'IA pour le recrutement de talents haut de gamme, et 78 % exploitent l'IA comme agents pour accomplir des tâches historiquement exécutées par la direction, selon McKinsey.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
Les experts du lieu de travail disent que les nouveaux "auto patrons" sont susceptibles d'avoir un impact sur les entreprises dans des domaines clés comme la logistique, la vente au détail et le service client, créant un risque pour les managers humains, les superviseurs, et pouvant éventuellement générer des risques juridiques et éthiques sérieux. Peut-être par-dessus tout, la responsabilité est remise en question alors que les décisions de gestion basées sur des algorithmes montants remplacent les décideurs en chair et en os. Après tout, si l'IA prend la décision de gestion, les entreprises sauront-elles vraiment qui est responsable des erreurs ?
« Nous avons dépassé la simple automatisation », a déclaré Ben Perreau, PDG de Parafoil, une société d'intelligence en leadership à Los Angeles. « Dans la logistique, la vente au détail et les centres d'appels, les algorithmes programment déjà, évaluent et dirigent les travailleurs. C'est efficace, mais cela réécrit discrètement ce que signifie 'avoir un patron'. »
Bien qu'il soit encore tôt dans le jeu, le sentiment penche vers une prise de décision de gestion plus basée sur des algorithmes que moins. Ces capteurs d'attention soutiennent ce sentiment, en particulier dans les cercles de gestion, même avec des risques sérieux impliqués.
Avec les bots, agents et algorithmes d'IA gagnant du terrain dans l'entreprise américaine, diriger l'IA vers des décisions managériales offre plus d'avantages que d'inconvénients jusqu'à présent.
« Pour les entreprises, les récompenses sont séduisantes », a déclaré Perreau. « Des coûts de main-d'œuvre réduits, une optimisation en temps réel et des décisions plus rapides. »
Les risques peuvent être « brutaux » lorsque les choses tournent mal, a noté Perreau. « Les lacunes et les biais de données peuvent se transformer en décisions de boîte noire à grande échelle », a-t-il déclaré. « Dès que les employés sentent qu'ils rendent compte à un système plutôt qu'à une personne, la confiance et le moral s'effondrent rapidement. C'est alors que les économies d'efficacité sont anéanties par le roulement, les poursuites judiciaires et les dommages à la réputation. »
Une mentalité « l'IA a pris la décision » ne passera pas auprès des employés ou des régulateurs. « Les dirigeants doivent maintenir une ligne de responsabilité claire, avec des pistes d'audit et une approbation humaine pour les actions conséquentes », a déclaré Perreau.
Les experts en management disent qu'une principale récompense de l'« algo-manager » réside dans l'efficacité.
« Les algorithmes peuvent rapidement détecter les contre-performances en scannant les métriques, ou classer les candidats que l'entreprise [envisage de recruter] beaucoup plus rapidement », a déclaré Roman Eloshvili, fondateur de ComplyControl, une société britannique de services de gestion alimentée par l'IA. « Ici, de nombreux goulets d'étranglement qui ralentissent la prise de décision sont rapidement résolus et, en théorie, les algorithmes appliquent les règles plus systématiquement que les humains biaisés. Pour les entreprises de logistique, de vente au détail ou de service client, cela signifie des coûts réduits et des opérations rationalisées. »
Pourtant, ces algorithmes peuvent présenter des risques, surtout s'ils sont mal appliqués.
« Des erreurs dans les données d'entraînement peuvent entraîner des décisions injustes d'embauche ou de licenciement », a noté Eloshvili. « Des erreurs tout aussi importantes dans la conception ou la spécification du modèle peuvent fausser les métriques de performance et nuire au moral. » De plus, les systèmes d'IA fonctionnent souvent avec une logique opaque et une responsabilité faible. « Cela peut éroder la confiance entre les travailleurs et la direction », a ajouté Eloshvili.
Une approche hybride qui intègre une forte touche humaine pourrait être l'avenir de la gestion des algorithmes — mais elle doit arriver rapidement.
Les experts en gestion citent des exemples réels prudents que les décideurs d'entreprise devraient considérer comme des signaux d'alarme nécessitant une action de surveillance immédiate.
« Récemment, un utilisateur de Reddit $RDDT a dit à un agent d'IA de nettoyer les données », a déclaré Giselle Fuerte, chercheuse en éthique de l'intelligence artificielle et littératie, et fondatrice de Being Human With AI, une plateforme d'autonomisation en IA pour les enfants scolarisés. « Au lieu de cela, l'agent a supprimé des fichiers explicitement marqués 'ne pas supprimer'. Lorsqu'il a été confronté, l'IA a admis l'erreur et a dit à l'utilisateur de recréer les données. C'est le niveau de responsabilité avec lequel nous traitons : 'Oups. Mon erreur.'"
Maintenant, imaginez ce scénario à l'échelle d'une entreprise. « Imaginez qu'un gestionnaire IA recommande des licenciements, pénalise des employés pour de faux indicateurs, ou réécrive des procédures d'assurance qualité qui affectent des millions de clients », a noté Fuerte. « Un 'oups' ne suffit pas. Les entreprises auront besoin de nouveaux modèles de gouvernance ; très probablement une responsabilité hybride où à la fois le délégateur humain et l'exécuteur machine sont audités. »
Les entreprises doivent également reconnaître que, dans le monde réel, l'IA peut créer un dirigeant problématique.
« Ne cherchez pas plus loin que Claudius, l'IA expérimentale de type nœud papillon d'Anthropic qui, en tant que petit entrepreneur, s'est permis de donner des produits à des prix défiant toute concurrence et d'augmenter les commandes pour des stocks qui ne s'étaient pas bien vendus », a déclaré Fuerte. « Bien qu'altruiste, l'IA s'est avérée être un mauvais gestionnaire d'entreprise. Sans une main humaine ferme pour la guider, Claudius gérerait probablement une entreprise droit dans le mur. »
Les gourous du management disent que l'IA devrait jouer un rôle important dans la prise de décision managériale, mais avec une solide responsabilité managériale humaine en arrière-plan.
« J'aime la métaphore des ascenseurs : ils semblent fonctionner automatiquement, mais il y a toujours une personne responsable de leur fonctionnement, de leur entretien et de leur sécurité », a déclaré Seva Ustinov, PDG et fondateur d'Elly Analytics, une entreprise d'automatisation du marketing basée à San Francisco. « C'est la même chose avec l'IA ; vous pouvez automatiser le processus, mais quelqu'un doit être derrière. La technologie peut aider à prendre de meilleures décisions, mais la responsabilité ne peut pas être automatisée. »
De plus, lorsque les entreprises s'imaginent déployer quelque chose de plus avancé que les gestionnaires humains, elles ne s'attendent pas à l'inattendu. La gestion devra aborder cet état d'esprit immédiatement.
« L'IA n'est pas encore le maître, c'est encore l'élève, et sans guides humains, elle ne peut pas voir assez loin et large pour diriger », a déclaré Fuerte. « Bien que l'IA puisse traiter les nuances magnifiquement, si elle est formée pour appliquer littéralement la politique de l'entreprise, elle peut facilement amplifier les biais, comme signaler les employés aux cheveux afro-texturés pour des 'violations de la politique', ou mal calculer les dates de retour de congé familial et médical en raison d'erreurs de calcul de dates simples. »
Trop souvent, l'IA a encore du mal avec la logique temporelle de base, parfois même avec quelque chose d'aussi simple que compter le nombre de R dans « fraise, " Fuerte a noté. " Sans une supervision humaine, ce genre de fragilité peut détruire des vies et des carrières », a-t-elle déclaré.
