20 choses que les algorithmes des réseaux sociaux font à votre cerveau sans votre consentement

Il y a un moment précis que la plupart des utilisateurs intensifs des réseaux sociaux reconnaissent : vous prenez votre téléphone pour faire quelque chose de spécifique — vérifier un message, chercher une information — et 40 minutes plus tard, vous faites encore défiler, dans un état d'esprit légèrement pire que lorsque vous avez commencé, incertain de ce que vous venez de consommer ou pourquoi vous en avez consommé autant. Ce n'est pas un accident. Ce n'est pas un défaut de conception. C'est le résultat précis que les systèmes que vous utilisiez étaient conçus pour produire.

Les plateformes de réseaux sociaux sont des entreprises d'attention. Leur revenu est généré par la publicité, et le revenu publicitaire est fonction du temps passé sur la plateforme et de la précision avec laquelle les utilisateurs peuvent être ciblés. Ces deux éléments — temps passé et précision du ciblage — sont optimisés par l'algorithme, qui n'est pas un mécanisme de tri neutre mais un moteur de prédiction dont l'objectif unique est d'identifier et de servir le contenu le plus susceptible de vous maintenir engagé. L'engagement, en pratique, ne signifie pas le bonheur, ni la satisfaction, ni l'information, mais les états émotionnels spécifiques qui produisent un défilement continu : indignation, anxiété, curiosité, comparaison sociale, et la compulsion particulière de la récompense variable intermittente.

Les décisions d'ingénierie qui produisent ces effets n'ont pas été prises avec légèreté ou par accident. Le défilement infini, le geste de tirer pour actualiser, le timing variable des notifications, la suppression des flux chronologiques au profit de flux classés par engagement, le poids spécifique donné au contenu émotionnel dans les algorithmes de classement — ce sont des décisions de conception documentées, dont beaucoup ont été prises par des ingénieurs qui comprenaient leurs implications psychologiques. Plusieurs anciens employés de grandes plateformes ont témoigné devant des comités du Congrès et ont parlé publiquement de l'intention spécifique derrière ces fonctionnalités.

Cette liste couvre 20 mécanismes algorithmiques et de conception spécifiques — ce qu'ils font, comment ils fonctionnent, ce qu'ils produisent chez l'utilisateur qui les expérimente, et les preuves qui soutiennent la description. Plusieurs de ces mécanismes sont documentés dans des recherches académiques ; plusieurs sont documentés dans des communications internes des plateformes qui ont été divulguées ou révélées dans le cadre de litiges ; plusieurs sont simplement inférables du comportement observable des plateformes et confirmés par d'anciens ingénieurs. L'objectif n'est pas de produire de l'anxiété concernant l'utilisation des réseaux sociaux mais de rendre visible la machinerie spécifique qui est en fonctionnement lorsque vous ressentez ce que vous ressentez.

cottonbro studio / Pexels

Les algorithmes des réseaux sociaux n'optimisent pas pour un contenu qui vous rend heureux, informé ou satisfait. Ils optimisent pour l'engagement — l'ensemble spécifique de comportements (j'aime, commentaires, partages, temps passé) que le moteur de prédiction de la plateforme a trouvé corréler avec une utilisation continue. Et l'indignation, la peur et l'indignation morale produisent significativement plus d'engagement que le contentement, l'accord ou la satisfaction.

Les preuves sont spécifiques : une enquête du Wall Street Journal de 2021 a révélé que les propres recherches internes de Facebook $META avaient identifié que son algorithme amplifiait le contenu recevant des réactions "en colère" à un taux cinq fois plus élevé que le contenu recevant des réactions "j'aime", parce que les réactions en colère corrélaient plus fortement avec un engagement subséquent. L'algorithme pondérait plus lourdement l'emoji de visage en colère parce qu'il avait appris que la colère garde les gens sur la plateforme plus longtemps.

Les chercheurs internes de Facebook auraient identifié cette dynamique et l'auraient signalée comme un problème, proposant que la pondération des réactions en colère soit réduite. La proposition n'a pas été mise en œuvre car cela réduisait les métriques d'engagement globales, qui étaient les métriques commerciales que l'algorithme optimisait. Le résultat est un système qui a été reconnu en interne comme amplifiant l'indignation et qui n'a pas été changé car l'indignation est commercialement productive. La sensation spécifique de lire votre fil d'actualités et de devenir progressivement plus en colère est un résultat conçu, pas un reflet du monde qui est pire qu'il ne l'était.

Kaboom Pics / Pexels

Le principe de la psychologie comportementale qui sous-tend le plus directement la qualité compulsive des médias sociaux est le calendrier de renforcement à ratio variable — le même calendrier qui rend les machines à sous addictives. Dans un calendrier à ratio variable, les récompenses sont distribuées de manière imprévisible, à des intervalles aléatoires, et cette imprévisibilité produit les taux de réponse les plus élevés et la plus grande résistance à l'extinction de tous les calendriers de renforcement.

Chaque fois que vous ouvrez une application de médias sociaux, vous recevez une récompense variable : parfois il y a des notifications (renforcement positif), parfois un contenu intéressant apparaît dans votre flux (renforcement positif), et parfois le flux est sans intérêt (neutre). L'imprévisibilité de l'ouverture qui produira une récompense est la caractéristique spécifique qui rend le comportement compulsif plutôt que simplement habituel. Si la récompense était prévisible — si vous saviez exactement ce que vous trouveriez chaque fois que vous vérifiez — le comportement de vérification compulsive ne se développerait pas de la même manière.

Le geste de tirer pour rafraîchir — le balayage vers le bas qui recharge le flux, imitant le levier de la machine à sous — a été identifié par son concepteur, Loren Brichter, comme étant délibérément analogue à la mécanique des machines à sous. Brichter a déclaré publiquement qu'il regrette l'avoir conçu et qu'il pense que c'est nuisible. Le geste reste le principal mécanisme de rafraîchissement sur la plupart des grandes plateformes sociales.

Tim Samuel / Pexels

Avant le défilement infini — le modèle de conception dans lequel le nouveau contenu se charge automatiquement lorsque l'utilisateur s'approche du bas du flux, éliminant le point d'arrêt naturel qu'une interface paginée fournirait — la navigation sur les réseaux sociaux avait une pause intégrée : la fin de la page, le bouton "page suivante", le moment qui nécessitait une décision active pour continuer. Le défilement infini a éliminé cette pause et avec elle le moment de décision consciente qu'elle permettait.

Aza Raskin, qui a conçu le défilement infini en travaillant chez Humanized (plus tard acquis par Mozilla), a déclaré publiquement qu'il regrette l'invention et estime qu'elle produit environ 200 000 heures supplémentaires de navigation sur les réseaux sociaux par jour dans le monde. Le mécanisme psychologique spécifique : les points d'arrêt sont des points de décision, et les points de décision sont des opportunités pour l'utilisateur d'évaluer s'il veut continuer. Les supprimer élimine l'opportunité d'arrêter par défaut plutôt que par choix actif.

L'implication pratique : le défilement de 40 minutes qui a commencé par une vérification de 2 minutes s'explique largement par l'absence de points d'arrêt. Chaque pause naturelle qui aurait déclenché la question "devrais-je continuer ?" a été ingénierée, et le comportement par défaut en l'absence d'un point d'arrêt est la continuation.

Luis Quintero / Pexels

Les notifications des médias sociaux — le nombre de badges sur l'icône de l'application, la notification push, le résumé par e-mail de l'activité manquée — sont conçues pour créer le sentiment que quelque chose d'important se passe sans vous et nécessite votre retour immédiat sur la plateforme. L'objectif d'ingénierie spécifique est de réduire le temps entre les sessions : plus un utilisateur est éloigné de la plateforme, plus les indicateurs d'engagement qui génèrent des revenus sont bas.

La conception des notifications exploite la tendance psychologique au FOMO (peur de manquer) — l'anxiété d'être absent d'une activité sociale qui compte. Les recherches d'Andy Przybylski à l'Université d'Oxford ont montré que le FOMO est un prédicteur significatif de l'utilisation des médias sociaux et qu'il est amplifié par les modèles de notifications spécifiques déployés par les plateformes. La notification « 5 personnes ont réagi à votre publication » crée l'impression d'une activité sociale nécessitant un engagement ; l'intérêt de la plateforme est de rendre cette impression urgente plutôt qu'ignorée.

La constatation spécifique des recherches sur les notifications : l'anticipation des notifications produit une anxiété qui n'est pas complètement résolue en vérifiant — chaque vérification résout l'anxiété immédiate de notification mais renforce le comportement de vérification, produisant un schéma où la vérification des notifications se produit plus fréquemment que le taux de notification ne le justifie. L'anxiété autour de la non-utilisation persiste entre les vérifications, créant un niveau de fond d'anxiété liée aux médias sociaux qui est présent même lorsque le téléphone est rangé.

Tim Douglas / Pexels

La comparaison sociale — l'évaluation de son propre statut, apparence, réalisations et qualité de vie par rapport à ceux des autres — est l'un des principaux mécanismes par lesquels les médias sociaux produisent une auto-évaluation négative. Le rôle de l'algorithme dans ce processus est spécifique : il promeut le contenu qui reçoit un fort engagement, et le contenu qui induit la comparaison (voyages d'aspiration, images corporelles, jalons relationnels, réalisations professionnelles) reçoit un fort engagement car il déclenche les réponses émotionnelles (admiration, envie, aspiration) qui produisent des likes et des commentaires.

La recherche sur la comparaison sociale et les médias sociaux est vaste : une méta-analyse de 2018 par Vogel et ses collègues a trouvé que la comparaison sociale ascendante sur les médias sociaux (se comparer défavorablement aux autres) était systématiquement associée à une baisse de l'estime de soi et à des symptômes dépressifs plus élevés. Le mécanisme spécifique est la sélection algorithmique du contenu : le fil d'actualité ne montre pas un échantillon représentatif des vies des gens mais une sélection organisée de leurs meilleurs moments, photographiés professionnellement, filtrés et postés dans des contextes conçus pour maximiser l'engagement.

Le problème de la comparaison est amplifié par la sélection de contenu spécifique que produit l'optimisation de l'engagement : une publication montrant des vacances aux Caraïbes reçoit plus d'engagement qu'une publication montrant un mardi soir à la maison, donc l'algorithme sert plus de contenu de vacances, plus de contenu de célébration, plus de contenu d'aspiration — créant un fil d'actualité qui surreprésente systématiquement les points forts des vies des autres et sous-représente systématiquement l'ordinaire. La comparaison résultante n'est pas entre votre vie et celle des autres mais entre votre vie et les meilleurs moments des autres.

Tranmautritam / Pexels

La personnalisation algorithmique des flux de contenu — montrant à chaque utilisateur le contenu que l'algorithme prédit qu'il engagera le plus, basé sur son comportement passé — produit une bulle de filtre : un environnement informationnel personnalisé dans lequel le contenu que vous voyez est systématiquement sélectionné pour confirmer vos intérêts, valeurs et croyances existants, et dans lequel le contenu qui les défie ou les contredit est systématiquement sous-représenté.

Eli Pariser, qui a inventé le terme dans son livre de 2011 The Filter Bubble, a décrit le mécanisme : les algorithmes apprennent ce sur quoi vous cliquez, combien de temps vous passez sur différents contenus, et à quoi vous réagissez, et utilisent cet apprentissage pour vous servir davantage du même. Le résultat n'est pas un reflet neutre de vos intérêts mais une version amplifiée de ceux-ci — une boucle de rétroaction dans laquelle vos préférences existantes deviennent plus extrêmes parce que le contenu sélectionné pour les correspondre est de plus en plus optimisé pour l'engagement plutôt que pour l'exactitude ou la largeur.

La conséquence politique spécifique est la plus discutée : les personnes dans des environnements d'informations personnalisés algorithmiquement sont systématiquement moins exposées à des points de vue politiques différents des leurs, produisant l'isolement épistémique qui contribue à la polarisation politique. La conséquence personnelle spécifique est moins discutée mais tout aussi réelle : la bulle de filtre fonctionne dans toutes les catégories de contenu, restreignant votre exposition à de nouvelles idées, de nouvelles perspectives et de nouvelles informations dans chaque domaine où l'algorithme dispose de suffisamment de données pour optimiser votre flux.

cottonbro studio / Pexels

En 2014, Facebook $META a publié un article dans les Actes de l'Académie nationale des sciences documentant une étude dans laquelle 689 003 utilisateurs de Facebook ont vu leurs flux d'actualités manipulés expérimentalement — certains utilisateurs ont vu plus de contenu positif, d'autres plus de contenu négatif — à leur insu ou sans leur consentement. L'étude a révélé que les utilisateurs exposés à plus de contenu positif produisaient plus de messages positifs, et les utilisateurs exposés à plus de contenu négatif produisaient plus de messages négatifs : la contagion émotionnelle se produisait par le biais du flux.

La publication de l'étude a produit un important retour de bâton public, non pas principalement parce que la contagion émotionnelle à travers les réseaux sociaux était surprenante — cela avait été théorisé pendant des années — mais parce que l'étude a révélé que Facebook avait délibérément manipulé les états émotionnels des utilisateurs à des fins de recherche sans consentement explicite. Les auteurs de l'étude et Facebook ont publié des clarifications sur le cadre de consentement utilisé, mais l'épisode a établi publiquement que les algorithmes de la plateforme étaient capables de modifier systématiquement les états émotionnels des utilisateurs par la sélection de contenu.

L'implication pratique : l'état émotionnel dans lequel vous vous trouvez après 20 minutes d'utilisation des réseaux sociaux n'est pas principalement une fonction de ce qui s'est passé dans votre vie ou de ce que vous ressentiez lorsque vous avez ouvert l'application. C'est en grande partie une fonction de la valence émotionnelle du contenu que l'algorithme a sélectionné pour vous — ce qui est lui-même une fonction de ce que l'algorithme a appris vous maintient engagé, pas ce qui vous fait vous sentir bien.

Lance Reis / Pexels

Le contenu qui exprime des positions extrêmes — langage émotionnel fort, condamnation morale, cadrage clair entre groupe et hors-groupe — reçoit plus d'engagement que le contenu exprimant des positions modérées ou nuancées, et les algorithmes qui optimisent pour l'engagement amplifient par conséquent le contenu extrême par rapport au contenu modéré. Ce mécanisme d'amplification est indépendant de la plate-forme : il a été documenté sur Facebook $META, Twitter $TWTR/X, YouTube et TikTok à travers différentes méthodologies de recherche.

Une étude de 2019 menée par des chercheurs de l'Université de New York et de l'Université Grenoble Alpes a analysé les données d'engagement des pages Facebook de politiciens américains et a constaté que les publications contenant un langage « moral-émotionnel » — langage combinant jugement moral et contenu émotionnel — recevaient significativement plus d'engagement que celles qui n'en contenaient pas. L'optimisation de l'algorithme pour cette tendance d'engagement signifie que les politiciens et autres producteurs de contenu qui utilisent un langage moral-émotionnel extrême sont récompensés par une plus grande portée, créant une pression de sélection vers l'extrémisme dans la communication publique.

L'algorithme de recommandation de YouTube a été trouvé par les propres chercheurs de la plate-forme, selon un rapport du New York Times en 2018, pour recommander systématiquement un contenu de plus en plus extrême le long de la dimension idéologique que l'utilisateur avait montré de l'intérêt — un processus que les chercheurs ont appelé « rabbit-holing ». Un utilisateur regardant du contenu politique mainstream se verrait recommander un contenu politique de plus en plus extrême, non pas parce qu'il avait exprimé de l'intérêt pour du contenu extrême, mais parce que l'algorithme avait appris que le contenu extrême gardait les gens à regarder plus longtemps.

Marcus Aurelius / Pexels

Les systèmes de notification des plateformes de médias sociaux ne sont pas synchronisés pour la commodité de l'utilisateur — ils sont chronométrés pour maximiser la probabilité de ré-engagement, ce qui signifie qu'ils sont calibrés pour atteindre les utilisateurs pendant les périodes de transition autour du sommeil et du réveil, lorsque la barrière psychologique pour vérifier le téléphone est la plus basse et que la probabilité d'un engagement prolongé est la plus élevée.

La recherche de Jean Twenge à l'Université d'État de San Diego a révélé que les adolescents qui utilisent intensément les médias sociaux avant de se coucher montrent un sommeil considérablement perturbé — tant un retard de l'endormissement qu'une réduction de la durée du sommeil — par rapport à ceux qui ne le font pas. Le mécanisme est double : la lumière des écrans retarde l'apparition de la mélatonine, et l'excitation émotionnelle du contenu des médias sociaux (les notifications, la comparaison sociale, le conflit) active les systèmes d'éveil du cerveau au moment où ils devraient s'éteindre pour le sommeil.

Le design spécifique des notifications qui contribue à la perturbation du sommeil : de nombreuses plateformes par défaut envoient des notifications pendant la nuit à moins qu'elles ne soient explicitement désactivées, et le nombre de badges qui s'accumulent pendant la nuit — visibles lorsque l'utilisateur vérifie son téléphone le matin ou la nuit — crée une anxiété de notification qui interrompt le sommeil ou empêche l'endormissement. Le défaut des notifications nocturnes n'est pas conçu pour la qualité du sommeil de l'utilisateur ; il est conçu pour maximiser la probabilité que l'utilisateur ouvre l'application dès le matin.

Viralyft / Pexels

Le format de contenu éphémère — stories, snaps, publications à durée limitée disparaissant après 24 heures — a été introduit par Snapchat et adopté par Instagram, Facebook $META, WhatsApp et TikTok. Le design produit un effet psychologique spécifique : l'impermanence du contenu crée une urgence autour de la consommation (si vous ne le regardez pas maintenant, il disparaîtra) et une urgence autour de la création (si vous ne publiez pas aujourd'hui, votre présence dans les fils d'autres disparaît).

Le mécanisme de FOMO est plus aigu avec le contenu éphémère qu'avec les publications permanentes car la pression temporelle est explicite et immédiate. La recherche sur le FOMO et les Stories Instagram a révélé que le format éphémère produit une fréquence de vérification plus élevée chez les utilisateurs intensifs que le format de publication permanent, car le coût perçu de manquer une story est immédiat et visible d'une manière que le coût de manquer une publication permanente ne l'est pas.

Le côté création est tout aussi générateur d'anxiété : le format story crée une attente implicite de production de contenu quotidien que le format de publication permanent ne fait pas. Les utilisateurs qui maintiennent une présence active en stories rapportent l'anxiété spécifique de l'obligation de contenu quotidien — le sentiment qu'une journée sans publier une story représente une absence dans le fil social qui sera remarquée. Cette anxiété n'est pas fortuite pour le format ; c'est le mécanisme qui produit l'engagement quotidien pour lequel la plateforme est optimisée.

Marta Wave / Pexels

Les algorithmes des réseaux sociaux construisent un modèle de vous — un profil de vos intérêts, préférences, déclencheurs émotionnels et schémas comportementaux — qui est utilisé pour sélectionner le contenu que vous voyez, les publicités que vous recevez et les communautés que la plateforme vous suggère de rejoindre. Ce modèle, construit à partir de votre comportement passé, alimente du contenu qui correspond et renforce le modèle, créant une boucle de rétroaction dans laquelle la prédiction de l'algorithme de ce avec quoi vous vous engagerez devient auto-réalisatrice.

La construction d'identité n'est pas neutre : le modèle algorithmique de vous est optimisé pour la prédiction d'engagement, pas pour l'exactitude ou pour votre propre compréhension de vous-même. Il reflète la version de vous qui interagit le plus avec le contenu des réseaux sociaux — qui peut être une version plus étroite, plus réactive, plus émotionnellement extrême que celle que vous reconnaîtriez comme votre plein moi. Le contenu qu'il sert renforce ce modèle étroit, et le modèle étroit est progressivement intériorisé comme identité.

Les recherches sur la recommandation algorithmique et la formation de l'identité ont constaté que les personnes qui passent un temps significatif dans des environnements de contenu personnalisés algorithmique développent des intérêts plus étroitement définis et des identités plus fortement ancrées autour de ces intérêts au fil du temps — un processus qualifié de "construction d'identité algorithmique". La personne qui a rejoint une plateforme avec des intérêts larges et est devenue progressivement principalement consommatrice et productrice de contenu dans un domaine étroit n'a pas simplement découvert sa véritable passion ; elle a été canalisée par un système d'optimisation d'engagement dans l'identité qui maximise son engagement sur la plateforme.

Ron Lach / Pexels

La quantification de l'approbation sociale — le nombre de mentions j'aime, le nombre d'abonnés, le nombre de partages, le nombre de vues — transforme des expériences sociales intrinsèquement qualitatives en mesures numériques dont la visibilité modifie le comportement des créateurs de contenu et des consommateurs de contenu. Le mécanisme psychologique spécifique est la conversion de l'approbation sociale d'une expérience émotionnelle interne en une mesure quantitative externe qui peut être comparée, suivie et optimisée.

La recherche de Dar Meshi à l'Université d'État du Michigan a révélé que recevoir des mentions j'aime sur les réseaux sociaux active le striatum ventral du cerveau — le circuit de récompense le plus associé au comportement addictif — selon un schéma similaire à la récompense monétaire et à d'autres renforçateurs primaires. La réponse neurologique aux mentions j'aime n'est pas simplement de la satisfaction; c'est le schéma d'activation spécifique associé à l'apprentissage par récompense et au renforcement comportemental.

La conséquence comportementale pour les créateurs de contenu est l'optimisation du contenu pour la performance métrique plutôt que pour l'expression authentique : le post qui a bien performé (beaucoup de mentions j'aime, beaucoup de partages) est le modèle pour le prochain post, indépendamment du fait qu'il représente ce que le créateur voulait réellement dire. La décision d'Instagram de cacher le nombre de mentions j'aime dans certains marchés (un test en 2019 et élargi depuis) a été explicitement motivée par des recherches montrant que les mentions j'aime visibles produisaient de l'anxiété chez les utilisateurs, en particulier chez les jeunes femmes, autour du contenu qui recevait moins de mentions j'aime que prévu. La métrique produisait l'anxiété, elle ne mesurait pas simplement l'approbation sociale qui aurait de toute façon produit de l'anxiété.

Kaboom Pics / Pexels

L'optimisation de l'algorithme de recommandation pour l'engagement produit un effet à long terme spécifique qui est distinct du rétrécissement de l'information par la bulle de filtres : il crée des silos de contenu — des environnements immersifs, curatés par algorithme qui deviennent de plus en plus autoréférentiels et de plus en plus déconnectés de l'environnement informationnel global. Le terrier de YouTube, la page "Pour Vous" de TikTok, le groupe Facebook $META qui devient progressivement la source principale d'information pour ses membres — ce sont des produits algorithmiques, pas des formations communautaires organiques.

L'effet silo est le plus conséquent pour les communautés d'information autour de revendications factuelles contestées : l'utilisateur qui regarde une vidéo remettant en question la sécurité des vaccins se voit recommander du contenu supplémentaire sceptique sur les vaccins, et l'optimisation de l'algorithme pour l'engagement signifie que les versions les plus émotionnellement convaincantes, les plus extrêmes de la position sceptique reçoivent le poids de recommandation le plus fort. L'utilisateur qui commence avec une inquiétude modérée se retrouve dans une communauté dont l'environnement informationnel est défini par sa version extrême.

Le mécanisme algorithmique est documenté dans des recherches d'institutions, y compris le Media Lab du MIT, qui ont découvert que l'algorithme de recommandation de YouTube dirigeait systématiquement les utilisateurs vers un contenu politique plus extrême qu'ils n'avaient initialement cherché. YouTube a modifié son algorithme de recommandation plusieurs fois en réponse à ces recherches et à la pression publique, mais l'objectif fondamental d'optimisation — maximiser le temps de visionnage — continue à créer des incitatifs pour recommander du contenu plus engageant que le contenu avec lequel l'utilisateur est arrivé, et le contenu extrême est de manière fiable plus engageant que le contenu modéré.

Grish Petrosyan / Pexels

Une relation parasociale est la connexion émotionnelle unilatérale qu'un membre du public forme avec une figure médiatique — le sentiment de connaître personnellement une célébrité, un YouTuber, ou un influenceur malgré l'absence de relation réelle avec eux. Les plateformes de médias sociaux ont conçu des fonctionnalités spécifiquement destinées à approfondir les relations parasociales, car la connexion parasociale est l'un des meilleurs prédicteurs de l'engagement continu sur la plateforme et des revenus d'abonnement.

L'ingénierie spécifique : la fonctionnalité de message direct qui permet aux fans d'envoyer des messages aux créateurs (même si ces messages ne sont jamais lus) crée le sentiment de connexion personnelle ; le format "story" qui montre la vie quotidienne des créateurs crée l'intimité d'une expérience partagée ; le contenu "en coulisses", la divulgation de la vulnérabilité émotionnelle et l'adresse directe à la caméra que les créateurs apprennent à utiliser sont toutes des caractéristiques d'une architecture d'intimité parasociale que les plateformes incitent par la promotion algorithmique de contenu qui génère un fort engagement.

La conséquence psychologique des relations parasociales intensifiées par la conception algorithmique est la solitude spécifique de se sentir connecté à quelqu'un qui ne sait pas que vous existez. Une recherche de John Maltby à l'Université de Leicester a révélé que des relations parasociales intenses étaient associées à un fonctionnement social réel plus faible et à des niveaux plus élevés d'anxiété et de dépression — un résultat cohérent avec l'hypothèse selon laquelle la connexion parasociale remplace plutôt qu'elle ne complète la connexion sociale réelle.

Alex Green / Pexels

Les schémas sombres — des choix de conception d'interface utilisateur qui sont destinés à produire un comportement qui profite à la plateforme plutôt qu'à l'utilisateur — sont omniprésents dans les médias sociaux et étendent l'optimisation algorithmique de l'engagement dans la conception visuelle et de navigation de l'interface elle-même.

Les schémas sombres spécifiques les plus courants dans les médias sociaux : les paramètres de notification par défaut qui nécessitent un effort actif pour être désactivés (plutôt qu'un effort actif pour être activés), produisant une sur-notification pour les utilisateurs qui ne lisent pas les menus de paramétrage ; l'absence d'un état "terminé" dans le flux (vous ne pouvez jamais atteindre la fin, il y a toujours plus), éliminant le point d'arrêt naturel ; l'enfouissement profond des paramètres de confidentialité et de notification dans des menus à plusieurs couches, garantissant que la plupart des utilisateurs ne les trouvent jamais ; et l'utilisation d'un langage culpabilisant dans les flux de désinscription ("Êtes-vous sûr de vouloir manquer les mises à jour de vos amis ?") qui rend le désabonnement socialement coûteux.

L'étude 2022 de la Federal Trade Commission sur les schémas sombres dans les médias sociaux a trouvé de nombreuses preuves de modèles de conception spécifiquement destinés à maximiser l'engagement et la collecte de données au détriment des préférences des utilisateurs. L'étude a documenté 16 catégories spécifiques de schémas sombres présentes dans les principales plateformes de médias sociaux, y compris la honte de confirmation, les défauts cachés et l'obstruction de la suppression de compte. Ceux-ci ne sont pas accidentels ; ils sont documentés dans les briefs de conception de produits et testés par A/B pour leur efficacité.

Helena Lopes / Pexels

Les états émotionnels spécifiques qui génèrent le plus d'engagement sur les réseaux sociaux — tels que documentés dans la recherche académique et dans les données internes des plateformes — ne sont pas des émotions positives mais négatives, en particulier la colère, la peur et le dégoût. Une étude de 2020 par William Brady et ses collègues à Yale, analysant les données de Twitter $TWTR, a révélé que chaque mot moral-émotionnel dans un tweet augmentait son taux de retweet d'environ 20 %.

Le mécanisme n'est pas que les gens préfèrent se sentir en colère — ils ne le font pas — mais que la colère est plus motivante que le contentement. Une personne qui voit un post scandaleux est plus susceptible de le partager (pour signaler sa position morale), de commenter dessus (pour exprimer sa réaction), et de revenir plus tard sur la plateforme (pour voir les réactions à sa réponse) qu'une personne qui voit un post induisant le contentement. Les comportements d'engagement que les algorithmes de la plateforme optimisent sont tous plus régulièrement déclenchés par le contenu émotionnel négatif que par le contenu émotionnel positif.

La conséquence documentée est une distorsion systématique de l'environnement informationnel vers une valence émotionnelle négative : l'information la plus largement diffusée sur les réseaux sociaux est de manière disproportionnée induisant l'indignation, générant la peur et provoquant le dégoût, non pas parce que le monde contient plus de ces choses qu'avant les réseaux sociaux, mais parce que l'optimisation de l'engagement par l'algorithme les sélectionne. Le sentiment spécifique que le monde s'aggrave plus rapidement qu'il ne l'est réellement — le biais pessimiste documenté des utilisateurs intensifs de réseaux sociaux — est substantiellement un artefact du biais de sélection émotionnelle des flux optimisés pour l'engagement.

Ron Lach / Pexels

L'expérience de perdre la notion du temps lors de l'utilisation des réseaux sociaux — le défilement de 40 minutes décrit dans l'introduction — n'est pas un effet secondaire de contenu engageant. C'est un objectif de conception. La métrique que les plateformes de réseaux sociaux optimisent au niveau commercial est le « temps passé sur la plateforme », et chaque décision de conception qui prolonge une session sans que l'utilisateur ne s'en rende compte contribue directement à la métrique qui détermine les revenus publicitaires.

Les caractéristiques de conception spécifiques qui produisent la distorsion temporelle : la lecture automatique (les vidéos commencent automatiquement, éliminant le moment de choix actif qui interrompt les sessions de défilement) ; la séquence algorithmique (le contenu est servi dans une séquence optimisée pour maintenir l'engagement plutôt que dans une séquence qui permet une fermeture naturelle) ; et l'absence d'indices temporels (pas d'horloge, pas d'affichage de la durée de session, pas de rappel de la durée d'utilisation de l'application) qui permettraient à l'utilisateur de surveiller son propre usage du temps.

Plusieurs plateformes ont introduit des affichages « temps passé sur l'application » en réponse à la pression publique sur l'utilisation excessive, mais ces fonctionnalités sont généralement enfouies dans les menus de paramètres plutôt qu'affichées dans l'interface, et les recherches sur leur efficacité ont montré qu'elles ont un impact minimal sur la durée réelle de la session pour la plupart des utilisateurs. La fonctionnalité existe en réponse à la pression réglementaire et publique ; l'intention de conception de l'application sous-jacente reste l'extension de la durée de la session sans la conscience de l'utilisateur.

Polina Tankilevitch / Pexels

La dimension performative des réseaux sociaux — le fait que ce que vous publiez soit visible pour un public dont le jugement vous importe — produit une forme spécifique d'anxiété sociale qui est distincte de l'anxiété sociale ordinaire car elle est persistante, publique et permanente. Le post que vous avez fait il y a cinq ans est toujours là. Le commentaire que vous avez fait dans un moment d'émotion est indexé et consultable. Les décisions de curation que vous avez prises concernant votre identité publique — quoi publier, quoi omettre, comment encadrer vos expériences — sont continues, inévitables et ont des conséquences sociales.

Des recherches menées par Sherry Turkle au MIT ont documenté l'anxiété spécifique que le dossier public persistant des réseaux sociaux produit : la performance de l'identité à travers plusieurs audiences simultanément (famille, amis, collègues, étrangers) avec un seul flux crée le stress spécifique de gérer une présentation publique pour des personnes avec des attentes incompatibles. La jeune fille adolescente gérant sa présence sur Instagram pour ses parents, ses pairs et ses futurs employeurs potentiels avec le même compte navigue dans un défi de performance sociale sans précédent historique.

Le rôle de la plateforme dans la production de cette anxiété est structurel : le design qui rend l'historique permanent, le design qui montre les métriques d'engagement en temps réel, et le design qui rend la taille de l'audience visible contribuent tous à la transformation du partage social ordinaire en une performance publique gérée. L'anxiété n'est pas une réponse au monde social; elle est une réponse à l'architecture sociale spécifique que la plateforme a construite.

RDNE Stock project / Pexels

Les algorithmes de recommandations apprennent du comportement humain, et le comportement humain contient des biais — biais de genre, biais raciaux, biais socio-économiques — que l'algorithme apprend et amplifie dans ses recommandations. Le mécanisme spécifique : si les données historiques sur lesquelles l'algorithme est formé montrent que certains types de contenu fonctionnent différemment pour différents groupes démographiques, l'algorithme apprend à servir un contenu différent à différents groupes, encodant des biais historiques dans les recommandations futures.

Les preuves documentées des biais algorithmiques dans les réseaux sociaux sont nombreuses. Une étude de 2021 sur l'algorithme de recadrage d'image de Twitter $TWTR a révélé qu'il préférait systématiquement les visages blancs aux visages noirs et les femmes aux hommes, ayant appris ces préférences à partir de données d'entraînement reflétant les modèles de clics des utilisateurs. L'algorithme de diffusion publicitaire de Facebook $META a été trouvé par des chercheurs de l'Université Northeastern pour montrer des disparités raciales et de genre significatives dans la diffusion des publicités qui n'étaient pas explicitement programmées mais émergeaient de l'optimisation de l'engagement.

La conséquence spécifique pour les utilisateurs : le contenu que vous voyez, les communautés qui vous sont recommandées, les emplois qui vous sont montrés dans la publicité, et l'information qui vous parvient sont tous filtrés à travers un algorithme dont les biais sont hérités des données historiques sur lesquelles il a été entraîné et qui ne sont pas divulgués à l'utilisateur qui en fait l'expérience. La personnalisation qui semble être l'algorithme vous connaissant est aussi un algorithme encodant des suppositions sur les personnes comme vous.

Danik Prihodko / Pexels

Chaque mécanisme décrit dans cette liste découle d'un fait structurel unique : les plateformes de médias sociaux sont des entreprises de publicité dont les revenus sont directement proportionnels au temps passé par les utilisateurs sur la plateforme et à la précision avec laquelle les utilisateurs peuvent être ciblés. Ce modèle commercial crée une structure incitative spécifique dans laquelle toute fonctionnalité de conception qui augmente le bien-être au détriment du temps d'engagement est une fonctionnalité qui réduit les revenus.

Les tensions internes documentées dans les grandes plateformes entre les équipes produit concentrées sur le bien-être des utilisateurs et les équipes commerciales concentrées sur les métriques d'engagement se résolvent systématiquement en faveur des équipes commerciales, car les métriques d'engagement déterminent le cours de l'action et les revenus publicitaires d'une manière que les métriques de bien-être ne font pas. La recherche interne de Facebook $META qui a identifié le poids de la réaction de colère comme produisant une amplification de contenu nuisible mais n'a pas été suivie est l'un des nombreux exemples documentés de cette résolution.

L'implication spécifique pour les utilisateurs individuels : l'algorithme n'est pas votre outil. C'est l'outil de votre chef de produit, et l'objectif de votre chef de produit n'est pas votre bien-être. Les fonctionnalités qui semblent utiles — le flux personnalisé, le contenu recommandé, la notification que quelque chose se passe — sont des fonctionnalités conçues pour augmenter votre engagement avec la plateforme, ce que la plateforme a constaté être inversement corrélé avec votre satisfaction réelle après la fin de la session. Comprendre cela est la condition préalable pour utiliser les médias sociaux d'une manière qui sert vos intérêts plutôt que ceux de la plateforme.