Malgré la quantité d'informations que les entreprises technologiques possèdent déjà sur nous, les outils d'IA déployés pourraient nous connaître aussi intimement que des amis.
Andrew Harrer/Bloomberg via Getty Images
Une version de cet article est parue à l'origine dans la newsletter AI & Tech de Quartz. Inscrivez-vous ici pour recevoir les dernières nouvelles, analyses et perspectives sur l'IA et la tech directement dans votre boîte de réception.
Mark Zuckerberg a exposé l'avenir de la publicité de Meta $META lors d'un récent appel aux résultats, et cela ressemble au rêve d'un marketeur. Les annonceurs fourniront simplement un objectif commercial et des informations de paiement, a-t-il déclaré, et l'IA s'occupera de tout le reste, y compris la génération de vidéos personnalisées et de contenus créatifs adaptés aux utilisateurs individuels.
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
Aussi nombreuses que soient les informations que les entreprises technologiques ont déjà sur nous, les outils d'IA déployés pourraient nous connaître aussi intimement que des amis. Et contrairement aux algorithmes actuels qui suivent les clics et les achats, ces systèmes comprendront vos insécurités, vos aspirations, et exactement ce qu'il faut pour vous faire changer d'avis. Ce profil psychologique devient alors un produit — imaginez Google $GOOGL AdWords croisé avec les notes de votre thérapeute — vendu au plus offrant.
Google est teste déjà des annonces dans ses réponses de chatbot IA. OpenAI renforce son personnel une nouvelle plateforme publicitaire. Ticketmaster est en train de diffuser des publicités Facebook générées par IA mettant en vedette des familles virtuelles dont les allégeances d'équipe changent en fonction de qui les regarde. Finalement, ce pourraient être des familles qui vous ressemblent, correspondant à vos caractéristiques démographiques et personnelles.
Puis vient l'étape logique suivante des annonces qui utilisent vos propres photos, insérant numériquement votre famille réelle dans le contenu de marque. (Vous ne me croyez pas ? Facebook a été pionnier dans quelque chose de similaire en 2009, utilisant les photos de profil des membres dans les publicités montrées à leurs amis lorsqu'ils devenaient fans de pages de marque.)
L'infrastructure pour la publicité hyper-personnalisée à grande échelle est en train d'être construite en ce moment, et elle est conçue pour être invisible.
C'est le problème. Contrairement aux publicités traditionnelles clairement marquées comme contenu sponsorisé, Publicité intégrée à l'IA pourrait souligner certains sujets ou utiliser un langage particulier tout en maintenant l'illusion d'une aide neutre. Lorsque votre assistant IA est financièrement incité par les revenus publicitaires, il pourrait orienter les conversations vers des sujets générateurs de revenus sans que vous ne le remarquiez même.
Le modèle économique qui motive cette transformation est simple. Le cabinet de conseil en gestion McKinsey rapporte que la personnalisation peut réduire l'acquisition de clients réduire les coûts jusqu'à 50 %, augmenter les revenus de 5 % à 15 %, et accroître le retour sur investissement marketing de 10 % à 30 %. Les entreprises à croissance rapide tirent 40 % de revenus supplémentaires de la personnalisation par rapport à leurs concurrents à croissance plus lente.
Les systèmes d'IA multimodaux qui traitent simultanément le texte, les images, l'audio et la vidéo éliminent l'ancien compromis entre personnalisation et échelle. Pendant des décennies, les entreprises pouvaient créer des expériences très personnalisées pour de petits groupes ou atteindre de vastes audiences avec des messages génériques — mais pas les deux à la fois.
Le La Sphère de Las Vegas utilise déjà des systèmes audio qui permettent aux personnes debout à quelques centimètres l'une de l'autre d'entendre des contenus entièrement différents. Johnnie Walker a organisé une expérience à Édimbourg où les visiteurs ont répondu à trois questions qui ont généré des étiquettes de bouteilles entièrement uniques imprimées en quelques minutes. Ce sont des exemples précoces de ce qui devient possible lorsque l'IA peut analyser plusieurs flux de données et personnaliser des expériences à tous les niveaux simultanément.
Cela rend la manipulation presque impossible à détecter. Quand tout le monde voit le même panneau publicitaire ou la même publicité télévisée, vous pouvez au moins discuter de savoir si le message semble manipulateur. Lorsque le contenu est individuellement personnalisé et invisible pour tout le monde, il n'y a aucun moyen de comparer les notes ou de dénoncer des tactiques problématiques.
Ça fonctionne déjà. Un détaillant à qui McKinsey a parlé pour son rapport a déclaré avoir utilisé l'IA pour cibler les promotions et vu les ventes augmenter de 2% et les marges s'améliorer jusqu'à 3%. Ce que cela signifie réellement : le système a déterminé quels acheteurs étaient assez sensibles au prix pour avoir besoin d'une réduction et qui paierait le plein tarif de toute façon. Vous obtenez une offre parce qu'un algorithme a calculé que vous en aviez désespérément besoin, tandis que la personne à côté de vous paie plus pour le même article.
Les entreprises investissent massivement pour développer cela malgré des limitations techniques importantes. Par exemple, l'IA a du mal avec l'analyse des teints de peau plus foncés parce que les données d'entraînement sont biaisées vers les teints plus clairs. Elle a également des problèmes de traitement des langues au-delà des principales qui dominent les données d'entraînement. Et bien sûr, exécuter une personnalisation complexe en temps réel consomme beaucoup ressources informatiques. Construire une infrastructure pour une véritable personnalisation nécessite de repenser l'ensemble des processus de production, c'est pourquoi la plupart des expériences personnalisées restent des démonstrations ponctuelles plutôt qu'une réalité quotidienne.
Mais ce sont des problèmes d'ingénierie résolvables, et le potentiel de profit est trop important pour être ignoré. Le problème insoluble est la transparence. Lorsque la personnalisation par l'IA devient suffisamment sophistiquée, vous ne pourrez pas savoir si une recommandation reflète vos intérêts véritables ou a été optimisée pour bénéficier à quiconque a payé pour de l'influence.
Il n'y a aucun moyen de savoir pourquoi vous voyez ce que vous voyez. Et lorsque tout le monde voit un contenu différent, entend un audio différent et reçoit des conseils différents, il n'y a pas de base commune pour révéler quand l'algorithme vous dirige vers quelque chose de profitable plutôt que d'utile.
