15 algorithmes qui façonnent ce que vous voyez chaque jour

Chaque seconde de chaque jour, des décisions sont prises en votre nom par des systèmes que vous n'avez jamais accepté d'utiliser et que vous ne pouvez pas voir entièrement. Le prix qui vous est proposé pour un vol. L'annonce d'emploi qui apparaît en haut de votre recherche. La chanson qui joue ensuite. L'ami dont vous remarquez le post — et celui dont le post disparaît complètement. Ces résultats ne sont pas aléatoires, et ils ne sont pas triés par des humains assis à des bureaux. Ils sont le produit d'algorithmes : des procédures mathématiques conçues pour prendre des entrées, appliquer des règles et produire des sorties à une échelle qu'aucune équipe humaine ne pourrait égaler.

Le mot « algorithme » est souvent utilisé vaguement, pour signifier quelque chose de vague et puissant et légèrement sinistre. La réalité est plus spécifique. Un algorithme est simplement un ensemble défini d'étapes pour résoudre un problème. Mais les algorithmes qui régissent la vie numérique aujourd'hui ne sont pas simples. Ils sont entraînés sur des milliards de points de données, optimisés pour des objectifs mesurables et appliqués à des populations de millions. L'écart entre l'objectif qu'un algorithme est conçu pour optimiser et les résultats qu'il produit réellement — en termes humains, en termes sociaux — est là où se situe la plupart de la controverse.

Certains de ces algorithmes sont vieux de plusieurs décennies, développés dans des contextes académiques bien avant qu'Internet ne les rende commercialement essentiels. D'autres ont été conçus spécifiquement pour l'économie de l'attention, construits pour garder les yeux sur les écrans et les clics qui affluent. Quelques-uns sont si intégrés dans l'infrastructure de l'internet que les supprimer nécessiterait de reconstruire les systèmes à partir de zéro. Tous font des compromis. Vitesse contre précision. Personnalisation contre vie privée. Efficacité contre équité.

Comprendre comment ces systèmes fonctionnent n'est pas un exercice technique réservé aux ingénieurs. C'est, de plus en plus, une forme basique de littératie. Lorsqu'une demande de prêt est rejetée par un système automatisé, ou qu'un CV n'atteint jamais un lecteur humain, ou qu'un risque pour la santé est signalé — ou manqué — par un outil de diagnostic, les décisions remontent à une logique algorithmique qui peut être examinée, questionnée et contestée. Mais seulement si vous savez qu'elle est là.

Cette liste couvre 15 des algorithmes les plus conséquents opérant dans la vie de tous les jours. Certains seront familiers par leur nom. D'autres fonctionnent invisiblement, dans des systèmes avec lesquels la plupart des gens interagissent quotidiennement sans se rendre compte qu'un algorithme est impliqué.

Credit:  Sarah Blocksidge, Pexels 

Avant que Google $GOOGL ne devienne un verbe, avant qu'il ne devienne une entreprise, c'était un article de recherche. En 1998, Larry Page et Sergey Brin, alors étudiants de troisième cycle à Stanford, ont publié une description d'une nouvelle approche de la recherche sur le web. Ils ont appelé l'idée centrale PageRank — nommé d'après Page — et cela a changé la façon dont Internet était organisé.

L'idée derrière PageRank était que tous les liens ne sont pas égaux. Une page web liée par beaucoup d'autres pages est probablement plus autoritaire qu'une avec peu de liens entrants. Et un lien d'une page déjà autoritaire pèse plus qu'un lien d'une page obscure. PageRank a formalisé cette intuition en un score numérique. Chaque page sur le web se voyait attribuer un rang basé sur la quantité et la qualité des pages qui y renvoient. Plus une page accumulait de liens entrants de haute qualité, plus son score PageRank était élevé, et plus elle avait tendance à apparaître haut dans les résultats de recherche.

L'élégance de l'idée résidait dans sa nature récursive. Pour savoir à quel point une page est autoritaire, vous devez savoir à quel point les pages qui y renvoient le sont, et pour le savoir, vous devez connaître la même chose sur les pages qui les relient. PageRank a résolu cela avec un calcul itératif — parcourant l'ensemble du graphe web à plusieurs reprises jusqu'à ce que les scores convergent.

C'était un changement significatif par rapport aux moteurs de recherche précédents, qui classaient les pages principalement en fonction de la fréquence des mots-clés. Cette approche était facile à manipuler : si une page mentionnait le mot « appareils photo » 200 fois, elle pourrait être bien classée pour les recherches liées aux appareils photo, indépendamment de savoir si elle contenait réellement des informations utiles à leur sujet. PageRank a rendu beaucoup plus difficile la manipulation artificielle des classements, car fabriquer des milliers de liens entrants de haute qualité nécessitait des ressources que la plupart des mauvais acteurs n'avaient pas.

La conséquence pratique était un moteur de recherche qui fonctionnait bien mieux que ses prédécesseurs. Les utilisateurs l'ont remarqué. Google a grandi. PageRank est devenu la fondation sur laquelle l'une des entreprises les plus valorisées de l'histoire a été construite.

L'algorithme a considérablement changé depuis 1998. Google utilise désormais des centaines de signaux de classement, et le poids exact accordé à un seul facteur est un secret commercial bien gardé. Mais le cadre conceptuel — l'autorité dérivée de la structure des liens — reste central. PageRank a également semé toute une industrie. L'optimisation pour les moteurs de recherche, ou SEO, existe en grande partie comme une pratique professionnelle de compréhension et d'influence sur les signaux auxquels des algorithmes comme PageRank répondent. L'économie des liens créée par PageRank est désormais si intégrée au fonctionnement du web qu'elle fait effectivement partie de l'architecture de l'internet.

Credit:  Jakub Zerdzicki, Pexels 

Lorsque Netflix $NFLX vous suggère un film dont vous n'avez jamais entendu parler et qu'il s'avère que c'est exactement ce que vous aviez envie de regarder, c'est le filtrage collaboratif à l'œuvre. L'algorithme n'a pas besoin de savoir de quoi parle le film. Il n'analyse pas les résumés de l'intrigue ou la cinématographie. Il fonctionne purement à partir des schémas de comportement : qui a regardé quoi, et ce que ces spectateurs ont regardé ensuite.

L'idée fondamentale est simple. Si de nombreux utilisateurs qui ont regardé les cinq mêmes films que vous ont également regardé un sixième film que vous n'avez pas vu, l'algorithme en déduit que vous pourriez aimer ce sixième film aussi. Vous êtes regroupé avec d'autres dont les goûts semblent similaires, et leur comportement est utilisé pour générer des prédictions sur les vôtres. C'est « collaboratif » dans le sens où les recommandations sont produites par la collaboration implicite des choix de nombreux utilisateurs, et « filtrant » dans le sens où il filtre un catalogue écrasant pour en faire un ensemble gérable de suggestions.

Le défi technique est l'échelle. Une plateforme de streaming avec 100 millions d'utilisateurs et 10 000 titres a une matrice de préférences avec un trillion d'entrées potentielles, presque toutes vides — la plupart des utilisateurs n'ont vu qu'une petite fraction du catalogue. L'algorithme doit travailler avec des données éparses, en inférant des relations à partir d'une image incomplète. Les premières implémentations utilisaient des approches de plus proches voisins, trouvant les utilisateurs avec les profils de goût les plus similaires. Les versions ultérieures ont incorporé des techniques de factorisation matricielle qui identifient des facteurs latents — essentiellement des dimensions cachées de goût que les données impliquent mais ne déclarent jamais directement.

Le filtrage collaboratif a été déployé bien avant que le streaming vidéo ne le rende célèbre. Amazon $AMZN l'a utilisé pour générer des recommandations de produits à la fin des années 1990. Pandora a appliqué une variante à la musique, bien qu'ils l'aient combinée avec un étiquetage manuel des genres. Spotify $SPOT a construit une infrastructure de recommandation substantielle sur cette base, en mélangeant des signaux collaboratifs avec une analyse audio des chansons elles-mêmes.

Les limites de l'approche méritent d'être comprises. Le filtrage collaboratif a tendance à renforcer ce qui est déjà populaire. Si un film a été regardé par de nombreuses personnes, il accumule un signal collaboratif et est plus susceptible d'être recommandé à d'autres, ce qui signifie qu'il est davantage regardé, renforçant ainsi encore plus son signal. Les films moins regardés — en particulier ceux des marchés plus petits, dans des langues moins communes, ou des cinéastes indépendants — accumulent un signal lentement et sont moins souvent recommandés, peu importe leur qualité. L'algorithme ne cherche pas à les désavantager. Il reflète simplement les schémas déjà présents dans les données, qui sont façonnés par des décisions antérieures concernant ce qui est promu.

Credit:  Eftakher Alam, Unsplash

Chaque fois qu'une entreprise technologique dit avoir "mené une expérience" pour tester une nouvelle fonctionnalité, elle utilise presque certainement une forme de test A/B. La structure de base est simple : diviser les utilisateurs en deux groupes, montrer à un groupe la nouvelle version et à l'autre l'ancienne version, mesurer la différence de résultats, et utiliser ces données pour décider quelle version conserver. L'algorithme régissant quel utilisateur voit quelle version et comment interpréter les résultats, est ce qui rend ce processus rigoureux plutôt qu'impressionniste.

Les tests A/B ont des racines dans la science agricole et la recherche clinique, où ils étaient utilisés pour tester les rendements des cultures et l'efficacité des médicaments. Les plateformes numériques les ont adoptés parce que leur échelle — des millions d'utilisateurs, des données comportementales immédiates — les rendaient bien plus puissants que tout ce qui était possible dans des expériences physiques. Un changement de couleur de bouton qui prendrait des mois à une chaîne de vente au détail pour être testé dans une poignée de magasins peut être évalué par une entreprise web en 48 heures à travers des millions d'utilisateurs.

La randomisation au cœur des tests A/B est ce qui les rend fiables. En assignant au hasard des utilisateurs à des groupes, l'algorithme garantit que toutes les différences préexistantes entre les utilisateurs s'équilibrent. Si le changement testé produit une différence mesurable de comportement entre les deux groupes, cette différence peut être attribuée au changement plutôt qu'à des différences préexistantes entre les utilisateurs.

En pratique, les tests A/B numériques sont devenus bien plus complexes que leur ancêtre à deux groupes. Les algorithmes dits de bandits manchots, une variante empruntée à la théorie de la décision, orientent dynamiquement le trafic vers des variantes mieux performantes en temps réel plutôt que d'attendre la fin d'une période expérimentale fixe. Cela est plus efficace — cela réduit le temps que les utilisateurs passent sur une expérience inférieure — mais introduit des biais subtils qui peuvent compliquer l'interprétation.

Les résultats de ces expériences façonnent presque tout ce qui concerne l'apparence et le comportement des produits numériques. Le placement d'un bouton d'abonnement. La formulation d'une notification. La couleur d'un bouton de paiement. La longueur d'un extrait vidéo. Ce ne sont pas des décisions de design prises par des designers individuels exerçant leur jugement. Ce sont des résultats produits par des algorithmes optimisant pour des mesures quantifiables, le plus souvent des clics, des inscriptions ou le temps passé sur la plateforme.

Credit:  cottonbro studio, Pexels 

Le flux algorithmique — sur Instagram, TikTok, YouTube, X $TWTR, Facebook $META — est probablement l'algorithme le plus important que la plupart des gens rencontrent quotidiennement. Il détermine non seulement ce que vous voyez, mais dans quel ordre, avec quelle urgence, et quand quelque chose cesse d'apparaître complètement. Les détails du fonctionnement de ces systèmes diffèrent considérablement d'une plateforme à l'autre, mais la logique sous-jacente suit un schéma reconnaissable.

Au cœur de celui-ci, un algorithme de flux attribue un score à chaque contenu qui pourrait être montré à un utilisateur donné à un moment donné. Ce score est dérivé d'une combinaison de facteurs : la relation historique entre cet utilisateur et le compte qui a posté le contenu, comment les autres utilisateurs ont réagi au contenu jusqu'à présent (j'aime, partages, commentaires, temps de visionnage), le type de contenu (vidéo, photo, texte, lien), et des signaux sur le contexte actuel de l'utilisateur (heure de la journée, comportement de navigation récent, type d'appareil). Le contenu ayant des scores plus élevés est classé plus haut dans le flux. Le contenu avec des scores bas est effectivement invisible.

Le modèle de scoring est formé sur des comportements passés. Si les utilisateurs qui ont historiquement aimé des publications similaires à celle-ci ont également interagi avec elle, le modèle prend cela comme preuve que des utilisateurs similaires le feront aussi. Cela crée une boucle de rétroaction : le contenu qui fonctionne bien génère des signaux qui provoquent sa diffusion plus large, ce qui génère plus de signaux, ce qui augmente encore sa distribution.

La métrique que ces algorithmes optimisent le plus souvent est l'engagement — largement défini comme toute interaction pouvant être mesurée. Mais l'engagement n'est pas une mesure neutre de la valeur. Le contenu qui provoque l'indignation, l'anxiété ou des réponses émotionnelles fortes a tendance à générer plus de commentaires et de partages que le contenu qui informe sans agiter. Les algorithmes qui optimisent pour l'engagement sans distinguer ses sources peuvent systématiquement amplifier le contenu provocant, non pas parce que quelqu'un a décidé que c'était souhaitable, mais parce que cela produit de meilleurs scores sur les métriques suivies.

Les plateformes ont modifié leurs algorithmes à plusieurs reprises en réponse aux critiques, ajoutant des signaux censés être des "proxies" pour un engagement "significatif" ou des sources "autoritaires". Ces ajustements sont réels, mais ils fonctionnent dans un système toujours fondamentalement organisé autour de la réponse comportementale plutôt que du jugement éditorial.

Credit:  Artem Podrez, Pexels 

Lorsqu'une transaction par carte de crédit est signalée comme potentiellement frauduleuse en temps réel — et que la transaction est refusée avant que le paiement ne soit validé — cette décision a presque certainement été prise par un algorithme d'apprentissage automatique, pas un humain. Les systèmes de détection de fraude traitent des millions de transactions par jour, et ils le font en millisecondes, en appliquant des modèles formés sur des motifs issus de milliards de transactions historiques.

Le défi principal est l'asymétrie. Les transactions frauduleuses sont rares — souvent moins d'une sur mille — ce qui signifie que les données d'entraînement sont fortement déséquilibrées. Un modèle qui classifierait simplement chaque transaction comme légitime aurait raison la grande majorité du temps mais serait inutile en tant que détecteur de fraude. Les algorithmes de détection de fraude doivent être spécifiquement conçus pour identifier les anomalies sur fond de normalité écrasante.

Les caractéristiques utilisées par ces modèles sont variées et souvent contre-intuitives. La vitesse des transactions récentes est importante : plusieurs achats en peu de temps peuvent signaler une carte volée utilisée rapidement avant qu'elle ne soit déclarée. La géographie compte : une transaction dans un pays quelques minutes après une autre dans un autre pays soulève un drapeau. La catégorie de marchand compte : certains types de marchands ont historiquement des taux de fraude plus élevés. Les empreintes digitales des appareils comptent : une transaction utilisant un appareil ou une adresse IP inconnue est traitée différemment de celle utilisant un appareil reconnu.

Les systèmes modernes de détection de fraude superposent plusieurs types de modèles ensemble. Les systèmes basés sur des règles capturent rapidement les schémas connus. Les modèles d'apprentissage automatique formés sur la fraude historique capturent des schémas nouveaux mais statistiquement similaires. Les systèmes basés sur des graphes examinent les relations entre les comptes, les marchands et les appareils pour identifier les réseaux de fraude coordonnée que l'analyse des transactions individuelles manquerait.

Le coût de l'erreur se manifeste dans deux directions. Un faux négatif — une transaction frauduleuse qui passe — coûte de l'argent. Un faux positif — une transaction légitime refusée — coûte une relation client et, à grande échelle, un revenu significatif. Les institutions financières ajustent différemment leurs modèles en fonction de leur tolérance pour chaque type d'erreur. Un réseau de cartes avec de grosses pertes de fraude pourrait resserrer les seuils et accepter plus de faux positifs. Une banque axée sur l'expérience client haut de gamme pourrait accepter plus de pertes de fraude pour réduire les transactions refusées. L'algorithme reflète un choix politique habillé sous une forme mathématique.

Credit:  Zulfugar Karimov, Unsplash

Chaque fois que vous commencez à taper dans une barre de recherche et qu'une liste de suggestions de complétion apparaît sous votre curseur, un algorithme d'autocomplétion prédit ce que vous recherchez en fonction de ce que vous avez tapé jusqu'à présent. Cela semble être une fonctionnalité de commodité mineure. À l'échelle de milliards de recherches quotidiennes, son influence sur ce que les gens recherchent — et comment ils pensent les sujets — est importante.

Les suggestions d'autocomplétion ne sont pas seulement des complétions de votre requête individuelle. Elles sont tirées de données agrégées : ce que de nombreux autres utilisateurs ont recherché après avoir tapé les mêmes caractères. Les suggestions reflètent le comportement de recherche collectif d'une grande population, pondéré par la récence et la fréquence. Quand vous tapez "le café est-il" et que les suggestions incluent "le café est-il bon pour la santé" et "le café est-il mauvais pour la santé", vous voyez un résumé de ce que beaucoup d'autres personnes se sont demandées sur le café.

La conséquence de la conception est que l'autocomplétion peut influencer l'interrogation avant qu'elle ne soit complètement formée. Un utilisateur qui commence à taper une requête ambiguë et sélectionne une suggestion d'autocomplétion peut finir par rechercher quelque chose de légèrement différent de ce qu'il avait initialement prévu. C'est une légère impulsion au niveau individuel, mais agrégée à travers des millions de recherches, l'autocomplétion façonne la distribution de ce qui est recherché.

Cela crée des responsabilités. Les systèmes de suggestion automatique doivent prendre des décisions actives sur ce qu'il ne faut pas suggérer. Les requêtes pouvant mener à du contenu nuisible — des instructions pour la violence, des recherches qui pourraient constituer un harcèlement d'une personne nommée — sont systématiquement supprimées. Il en va de même pour les suggestions qui pourraient embarrasser les relations commerciales de la plateforme. Les règles de filtrage ne sont pas toujours visibles pour les utilisateurs, et elles peuvent produire des absences qui ne sont perceptibles que pour quelqu'un qui les recherche spécifiquement.

Il y a eu des cas documentés dans lesquels la saisie semi-automatique a produit des suggestions factuellement erronées, diffamatoires ou révélant des informations privées. L'argument selon lequel l'algorithme reflète simplement ce que les utilisateurs recherchent ne résout pas pleinement la question de la responsabilité, car la décision de refléter ces modèles — plutôt que de les filtrer — est en elle-même un choix. Les algorithmes de saisie semi-automatique sont des systèmes éditoriaux fonctionnant sous le couvert d'une apparence purement mécanique.

Credit:  K, Pexels 

Le prix affiché sur un site de réservation de vols, une application d'hôtel ou un service de véhicules à la demande est généralement le résultat d'un algorithme de tarification dynamique plutôt qu'un tarif fixe décidé par un humain. Les systèmes de tarification dynamique ajustent les prix en temps réel en fonction des signaux d'offre et de demande, des données concurrentielles et des prévisions sur la façon dont les différents clients réagiront à différents prix.

Les compagnies aériennes ont été pionnières dans la tarification dynamique moderne. La logique de base est qu'un siège d'avion est un bien périssable — il n'a aucune valeur une fois le vol parti — et que les voyageurs ont des niveaux de sensibilité au prix variables. Les voyageurs d'affaires réservant à l'approche du départ sont généralement moins sensibles au prix que les voyageurs de loisirs réservant des mois à l'avance. Les systèmes de gestion du rendement, comme on appelle officiellement les algorithmes de tarification des compagnies aériennes, tentent de remplir les sièges aux prix les plus élevés que le marché peut supporter, ajustant les prix à mesure que la date de départ approche en fonction du stock restant et du rythme des réservations.

Les entreprises de VTC ont étendu ce cadre de manière inédite. L'algorithme de tarification de surtension d'Uber $UBER augmente les prix lorsque la demande dépasse l'offre de chauffeurs dans une zone donnée. Le prix plus élevé fait deux choses simultanément : il décourage certains passagers potentiels de réserver, réduisant la demande, et il incite davantage de chauffeurs à se connecter, augmentant l'offre. D'un point de vue économique, l'algorithme est conçu pour corriger un déséquilibre temporaire du marché. Du point de vue d'un passager qui a besoin d'un trajet sous une pluie battante et qui fait face à un prix quatre fois le tarif normal, l'expérience est tout autre.

Le commerce de détail et le commerce électronique ont adopté la tarification dynamique de manière agressive. Amazon $AMZN met à jour les prix des millions de fois par jour sur son marché. Les chaînes de supermarchés ont commencé à expérimenter des étiquettes de rayons électroniques qui permettent de changer les prix sans réapprovisionnement physique des étiquettes de prix. Les algorithmes régissant ces changements répondent aux prix des concurrents, aux niveaux de stock, à l'heure de la journée et aux modèles de demande locaux.

Les questions éthiques que ces systèmes soulèvent sont réelles. Si deux clients voient des prix différents pour le même produit en fonction de leur localisation, de leur appareil ou de leur historique de navigation, c'est une forme de discrimination par les prix. Les régulateurs de plusieurs juridictions ont commencé à examiner si certaines applications de la tarification dynamique — en particulier sur les marchés de biens essentiels — devraient faire l'objet de restrictions.

Credit: Canva Images

Les filtres anti-spam des e-mails sont parmi les plus anciennes applications commerciales de l'apprentissage automatique que la plupart des gens utilisent chaque jour. Le défi qu'ils relèvent est de taille : le volume écrasant d'e-mails commerciaux non sollicités qui rend une boîte de réception gérée naïvement inutilisable. Les filtres anti-spam modernes classent avec précision la grande majorité des messages avec très peu d'effort de la part de l'utilisateur — un exploit qui semble simple seulement parce que le travail sous-jacent est caché.

Les premiers filtres anti-spam se basaient sur des listes de mots-clés et des règles simples : si un message contenait certains mots ou provenait d'adresses IP considérées comme mauvaises, il était signalé. Cela fonctionnait jusqu'à ce que les spammeurs s'adaptent, introduisant des fautes d'orthographe délibérées et des variations pour échapper à la correspondance des mots-clés. Cette dynamique du chat et de la souris a conduit au développement d'approches statistiques plus sophistiquées.

Le filtrage anti-spam bayésien, popularisé au début des années 2000, a adopté une approche différente. Au lieu de règles fixes, il calculait la probabilité qu'un e-mail donné soit du spam en fonction des mots qu'il contenait, en utilisant le théorème de Bayes pour mettre à jour cette probabilité à mesure que de nouvelles preuves étaient incorporées. Le modèle était entraîné sur des exemples de spam et de non-spam, apprenant quelles combinaisons de mots étaient prédictives. Essentiellement, le filtre de chaque utilisateur pouvait être personnalisé : marquer un e-mail comme spam mettait à jour le modèle local de l'utilisateur, le rendant plus sensible à des messages similaires à l'avenir.

Les filtres contemporains vont bien au-delà des statistiques de mots. Ils analysent les en-têtes de message pour vérifier l'authentification de l'expéditeur, comparent les messages à des bases de données de contenu de spam connu, examinent la réputation des adresses IP et des domaines, et utilisent des modèles de réseaux neuronaux capables d'identifier des motifs structurels — pas seulement le vocabulaire — associés au phishing et au contenu malveillant.

Les modes d'erreur valent la peine d'être compris. Un faux positif — un e-mail légitime classé comme spam — peut avoir des conséquences graves : une offre d'emploi manquée, un rappel de rendez-vous médical ignoré, une communication d'affaires perdue. La plupart des fournisseurs privilégient la minimisation des faux positifs plutôt que la maximisation de la capture de spam, acceptant que certains spams atteignent les boîtes de réception plutôt que de risquer d'enterrer des messages légitimes. Ce seuil est un choix de politique codé dans les paramètres algorithmiques.

Credit:  Alexander Grigoryev, Unsplash

La modération de contenu automatisée est l'utilisation de systèmes d'apprentissage automatique pour identifier et supprimer les publications, images ou vidéos qui enfreignent les politiques d'une plateforme — à une échelle que les équipes de modération humaine ne pourraient pas gérer seules. Meta $META traite à elle seule des centaines de milliards de publications par an. Aucune force de travail humaine ne pourrait examiner ce volume en temps réel.

Les systèmes utilisés pour la modération de contenu combinent généralement plusieurs approches de détection. Pour le contenu illégal connu, tel que le matériel d'abus sexuel d'enfants, le hachage cryptographique permet d'identifier instantanément des copies exactes et quasi-copies sans qu'aucun humain n'ait besoin de voir le matériel. Pour les discours de haine, le harcèlement, et la désinformation, le problème est plus complexe : le contexte est important de manière réellement difficile à encoder.

Les données d'apprentissage pour ces modèles proviennent de réviseurs humains qui ont étiqueté des exemples de contenu violant et non violant selon la politique de la plateforme. Le modèle apprend à classifier le nouveau contenu en fonction des motifs dans ces données étiquetées. Mais les politiques ne sont pas toujours claires, les cultures diffèrent quant à ce qui est considéré comme haineux, et le sens dépend souvent du contexte que le texte seul ne transmet pas. Une insulte utilisée comme un terme de réappropriation au sein d'une communauté ressemble à la même mot utilisé comme une attaque.

Les erreurs de ces systèmes affectent les personnes réelles. La suppression automatique d'un message d'une organisation de droits de l'homme documentant des atrocités - parce que les images correspondent techniquement à des catégories associées à du contenu violent - est un type de préjudice différent du fait de ne pas supprimer un message incitant au harcèlement. Les plateformes ont développé des processus d'appel et des circuits de révision humaine pour les décisions à forts enjeux, mais le volume de contenu signifie que la plupart des décisions de modération sont prises et mises en œuvre sans révision humaine.

La distribution des erreurs n'est pas uniforme à travers les populations. Les systèmes de modération de contenu principalement formés sur le texte anglais des utilisateurs d'internet occidentaux ont été documentés comme performants médiocrement sur le contenu dans d'autres langues, dans les dialectes régionaux, et dans des contextes culturels qui n'étaient pas bien représentés dans les données d'apprentissage. Cela signifie que les systèmes sont les plus susceptibles de commettre des erreurs précisément là où les utilisateurs ont le moins de recours.

Credit: Canva Images

Un score de crédit est un nombre qui résume la probabilité prédite qu'une personne rembourse un prêt, et c'est l'un des nombres les plus conséquents dans la vie financière de nombreuses personnes. L'accès au logement, le taux d'intérêt sur un prêt automobile, et l'éligibilité aux cartes de crédit en sont tous façonnés. Les algorithmes qui produisent ces scores ont été conçus à l'origine pour rendre les décisions de prêt plus rapides, plus cohérentes et moins sujettes aux biais des agents de prêt individuels. Que cet objectif soit atteint est contesté.

Le score FICO - développé par Fair Isaac Corporation et introduit en 1989 - est devenu le modèle de scoring de crédit dominant aux États-Unis. Il est calculé à partir des données des fichiers de bureaux de crédit : historique de paiement, montants dus, durée de l'historique de crédit, types de crédit utilisés, et récentes demandes de crédit. Chaque facteur est pondéré et combiné pour produire un score entre 300 et 850. Des scores plus élevés indiquent un risque prédit plus faible.

La conception du score intègre des hypothèses qui ont des conséquences distributives. La durée de l'historique de crédit récompense les personnes qui ont eu des comptes de crédit pendant de nombreuses années, ce qui tend à favoriser les emprunteurs plus âgés. Avoir plusieurs types de crédit (un prêt immobilier, un prêt auto, une carte de crédit) produit un score plus élevé que d'avoir un seul type, ce qui peut désavantager les personnes qui ont soigneusement évité la dette. Le score reflète l'historique de l'utilisation du crédit, ce qui signifie que les personnes qui n'ont pas participé au système de crédit formel - que ce soit par choix, par circonstance, ou parce qu'elles sont nouvelles dans un pays - sont invisibles pour lui.

Des modèles de scoring alternatif du crédit ont émergé, certains intégrant l'historique des paiements de loyer, les factures de services publics ou les données bancaires. Ces modèles visent à élargir l'accès au crédit pour les personnes ayant peu ou pas de dossiers de crédit traditionnels. Mais ils introduisent leurs propres compromis, et les données qu'ils utilisent soulèvent des questions de confidentialité et le potentiel de nouvelles formes de correspondance discriminatoire. L'algorithme ne peut pas être totalement séparé des choix politiques faits lors de sa conception : quelles données inclure, lesquelles exclure, et quelle histoire de prêt est considérée comme la norme.

Credit: Canva Images

Lorsqu'un recruteur sur LinkedIn ou Indeed recherche des candidats pour un poste, ou lorsqu'un employeur publie une offre d'emploi et reçoit des candidatures, l'ordre dans lequel les candidats apparaissent n'est ni alphabétique ni aléatoire. C'est le résultat d'un algorithme de classement qui évalue les candidats par rapport à l'offre d'emploi et les uns par rapport aux autres, basé sur les modèles que le système a inférés des comportements passés.

Ces systèmes fonctionnent généralement en associant des mots-clés et des phrases des descriptions d'emploi aux profils des candidats, mais les versions modernes vont au-delà de la correspondance par mots-clés. Ils intègrent des signaux sur les candidats qui ont été contactés ou interviewés par des recruteurs ayant consulté des profils similaires, quelles candidatures ont conduit à des embauches, et quels profils de candidats ont tendance à attirer l'attention des responsables du recrutement dans des rôles ou des industries spécifiques. L'algorithme apprend à prédire la pertinence à partir des modèles de comportement de recrutement historique.

Le problème est que le comportement de recrutement historique reflète un biais historique. Si certaines industries ont historiquement sous-représenté les femmes ou les personnes de couleur dans les postes de direction, l'algorithme entraîné sur cette histoire apprendra à déclasser les femmes et les personnes de couleur pour les postes de direction — non pas à cause d'instructions explicites pour le faire, mais parce que le comportement passé forme la base de ses prédictions. Amazon $AMZN a construit puis abandonné un algorithme de recrutement interne qui présentait exactement ce schéma : il avait été formé sur une décennie de ses propres décisions de recrutement, qui reflétaient le déséquilibre historique de genre de l'industrie, et il a appris à pénaliser les CV contenant le mot « femmes ».

Les régulateurs aux États-Unis et en Europe ont commencé à émettre des lignes directrices sur l'utilisation des systèmes automatisés dans le recrutement, et certaines juridictions exigent désormais des évaluations d'impact pour les outils qui prennent des décisions d'emploi conséquentes. La question de savoir comment construire des systèmes de classement qui soient à la fois des prédicteurs précis de la performance professionnelle et équitables entre les groupes démographiques reste réellement non résolue.

Credit:  Brett Jordan, Pexels 

Une part substantielle et croissante des gens rencontre l'actualité principalement à travers une curation algorithmique — sur les fils de réseaux sociaux, dans les applications agrégatrices de nouvelles ou via des systèmes de recommandation intégrés dans les navigateurs et les systèmes d'exploitation des téléphones. La sélection de ce qui est considéré comme de l'actualité, ce qui arrive en tête et ce qui disparaît n'est plus principalement faite par des rédacteurs. Elle est faite par des algorithmes répondant à des signaux comportementaux.

Les algorithmes qui régissent ces systèmes partagent une similarité structurelle avec les algorithmes de flux sociaux : ils attribuent des scores de pertinence basés sur des combinaisons de signaux de personnalisation et de mesures de performance de contenu. Un article que de nombreux utilisateurs de votre réseau lisent obtient un score plus élevé. Un article provenant d'une source sur laquelle vous avez déjà cliqué obtient un score plus élevé. Un article avec de nombreux commentaires obtient un score plus élevé. Ces scores sont utilisés pour sélectionner et classer ce qui apparaît dans votre expérience de nouvelles.

Les conséquences pour les écosystèmes de l'information font l'objet d'un débat actif. Une préoccupation est la bulle de filtres : la possibilité que la curation personnalisée des nouvelles montre aux utilisateurs uniquement du contenu qui confirme leurs croyances existantes, réduisant l'exposition à des points de vue divergents. La recherche sur la force réelle de cet effet a produit des résultats mitigés — certaines études trouvent des effets de personnalisation significatifs, d'autres trouvent que les flux algorithmiques peuvent exposer les utilisateurs à des points de vue plus diversifiés que ne le feraient des habitudes de lecture auto-sélectionnées.

Une préoccupation distincte est l'amplification de contenu maximisant l'engagement au détriment de contenu précis ou substantiel. Une histoire qui provoque de fortes réponses émotionnelles tend à générer plus de clics qu'une histoire soigneusement rapportée mais moins dramatique sur le même sujet. Les algorithmes formés pour maximiser les métriques d'engagement ne distinguent pas entre l'engagement motivé par la qualité et celui motivé par l'indignation. Le jugement éditorial que les journaux imprimés exerçaient — placer une histoire difficile mais importante en première page indépendamment de la prévision de lectorat — n'est pas une fonction que ces systèmes sont conçus pour reproduire.

Credit:  Erik Mclean, Pexels 

Lorsque vous demandez un trajet via Uber $UBER, Lyft $LYFT ou un service similaire, vous ne choisissez pas votre conducteur et votre conducteur ne vous choisit pas. La correspondance est faite par un algorithme en une fraction de seconde, en considérant la proximité du conducteur, le temps de trajet prévu jusqu'à votre lieu de prise en charge, les évaluations du conducteur, et des facteurs liés aux objectifs d'efficacité de la plateforme pour toutes les demandes de trajet simultanées dans votre région.

Le problème de répartition que ces algorithmes résolvent est véritablement complexe. À tout moment, une plateforme de covoiturage dans une grande ville gère des milliers de demandes de trajet simultanées et de conducteurs disponibles, dans une géographie où les conditions de circulation, les horaires d'événements et les modèles de demande changent continuellement. Un algorithme qui associe simplement le conducteur disponible le plus proche à chaque nouvelle demande serait optimal localement — minimisant le temps de prise en charge pour chaque trajet individuel — mais globalement sous-optimal, car il pourrait laisser des clusters de demande non couverts tout en regroupant les conducteurs dans des zones à faible demande.

Les algorithmes modernes de mise en correspondance de trajets optimisent sur un horizon plus large. Ils prédisent où la demande émergera dans les minutes à venir et orientent les conducteurs de manière proactive. Ils équilibrent l'efficacité des correspondances à courte distance avec la productivité des trajets plus longs. Ils gèrent les programmes d'incitation — tarification dynamique, primes pour les conducteurs — dans le cadre du système de correspondance, car les signaux de prix affectent le comportement des conducteurs et donc la distribution de l'offre.

L'algorithme prend également des décisions qui affectent le revenu des conducteurs sans que ces derniers aient un accès direct à sa logique. Un conducteur qui reçoit moins de missions longue distance, ou qui se voit proposer des trajets principalement à des moments et dans des zones de faible demande, peut gagner nettement moins qu'un conducteur dont le schéma de mission est différent — sans qu'aucune décision n'ait été prise par le conducteur. L'opacité du système de correspondance est une réclamation récurrente dans les conflits de travail impliquant des conducteurs d'économie de gig, qui soutiennent que l'algorithme constitue une forme de gestion dont ils ne peuvent voir ou contester les règles.

Credit:  Ron Lach, Pexels 

La fonction de texte prédictif sur un clavier de smartphone — qui suggère le mot suivant pendant que vous tapez — est une application directe pour le consommateur de la même classe de modèle statistique qui sous-tend les grands modèles de langage. Les deux tentent de résoudre le même problème fondamental : étant donné une séquence de mots, prédire la continuation la plus probable.

Les premiers systèmes de texte prédictif utilisaient des modèles de n-grammes, qui apprenaient la probabilité d'apparition d'un mot compte tenu des un, deux ou trois mots précédents. Ces modèles pouvaient être entraînés sur des jeux de données relativement petits et fonctionner efficacement sur le matériel limité des premiers smartphones. Ils fonctionnaient bien pour les phrases courantes, mais échouaient sur des langages inhabituels ou spécifiques à un domaine, car ils ne pouvaient prédire que ce qu'ils avaient vu dans les données d'entraînement.

Le passage aux modèles basés sur les réseaux neuronaux a transformé ce qui était possible. Les réseaux neuronaux récurrents, puis les architectures de transformateurs, ont pu capturer des dépendances sur des séquences de texte beaucoup plus longues, apprenant non seulement des motifs de cooccurrence au niveau des mots, mais quelque chose de plus proche de la structure grammaticale et sémantique. Les modèles qui alimentent les systèmes d'IA actuels de langue large sont des versions à grande échelle de la même approche sous-jacente, entraînés sur des jeux de données beaucoup plus vastes.

Les conséquences du texte prédictif en tant que fonctionnalité ambiante de l'écriture ne sont pas triviales. Les études examinant comment l'autocorrection et le texte prédictif affectent l'écriture ont constaté que les écrivains utilisant ces fonctionnalités tendent vers un vocabulaire plus courant et une prose plus fluide mais moins idiosyncratique. Le modèle, entraîné à prédire la continuation statistiquement la plus probable, pousse naturellement vers le conventionnel. Une phrase qui est inhabituelle mais précisément juste peut être plus difficile à taper qu'une approximation plus courante que le clavier continue de suggérer.

Au niveau de la population, un système de texte prédictif utilisé par des centaines de millions de personnes ne se contente pas de refléter les modèles de langage — il les façonne, rendant certaines phrases plus accessibles et d'autres moins visibles. C'est une relation nouvelle entre une technologie et la langue qu'elle est censée servir.

Credit:   Maxim Hopman, Unsplash

Les algorithmes de tenue de marché, les systèmes de trading à haute fréquence et les algorithmes d'exécution opèrent sur les marchés financiers à des vitesses et échelles bien au-delà de la capacité humaine. Ils sont responsables d'une part substantielle du volume quotidien des transactions sur les marchés des actions, des changes et des dérivés, et leur comportement collectif façonne les prix, la liquidité et la volatilité d'une manière qui affecte toute personne ayant une pension, un compte d'épargne ou une exposition économique aux conditions du marché.

Les algorithmes de trading à haute fréquence sont construits autour de la vitesse comme avantage concurrentiel. Les systèmes les plus rapides peuvent traiter les données de marché et exécuter des transactions en microsecondes — millionièmes de seconde. Les entreprises exploitant ces systèmes investissent dans la proximité physique des serveurs de bourse, dans des lignes de fibre optique dédiées et dans des tours micro-ondes pour réduire les nanosecondes des temps de transmission. L'avantage qu'elles recherchent n'est pas une analyse fondamentale supérieure des entreprises mais une réaction plus rapide au flux de commandes et aux signaux de prix.

Les algorithmes de tenue de marché fournissent un service avec une véritable valeur économique : ils cotent en continu des prix auxquels ils sont prêts à acheter ou vendre un titre, ce qui permet à d'autres participants du marché d'exécuter des transactions sans avoir à trouver eux-mêmes une contrepartie disposée. Ils profitent de l'écart entre les prix d'achat et de vente. Les algorithmes ajustent ces cotations en réponse à l'inventaire, à la volatilité et aux modèles de flux de commandes, maintenant une position qui génère l'écart tout en gérant le risque.

Les effets d'interaction entre de nombreux algorithmes opérant simultanément peuvent produire des comportements émergents qu'aucun système individuel n'était conçu pour exhiber. Le Flash Crash du 6 mai 2010, durant lequel le Dow Jones Industrial Average a chuté de près de 1 000 points en quelques minutes avant de se redresser rapidement, a été en partie attribué à la boucle de rétroaction entre les systèmes de tenue de marché automatisés qui ont retiré la liquidité et les algorithmes d'exécution réagissant à la baisse des prix. Aucun algorithme individuel ne l'a causé. L'événement était un produit d'interactions algorithmiques opérant plus rapidement que toute intervention réglementaire ou humaine ne pouvait l'atteindre.

Les réformes structurelles du marché ultérieures, y compris les disjoncteurs qui arrêtent les transactions lorsque les prix se déplacent trop loin trop vite, ont réduit mais pas éliminé le risque d'événements en cascade similaires. Les algorithmes continuent d'évoluer, et les cadres réglementaires qui les régissent suivent avec un retard substantiel.