Les navigateurs alimentés par l'IA peuvent être manipulés pour voler vos données. Les entreprises qui les conçoivent ont décidé que c'est un risque à prendre.
Cheng Xin/Getty Image
Une version de cet article est parue à l'origine dans la newsletter IA & Tech de Quartz. Inscrivez-vous ici pour recevoir les dernières nouvelles, analyses et idées sur l'IA et la technologie directement dans votre boîte de réception.
En octobre, OpenAI a lancé Atlas, son navigateur propulsé par ChatGPT conçu pour rivaliser avec Google $GOOGL Chrome. Perplexity a Comet. Opera (vous vous souvenez d'eux ?) a dévoilé Neon. Mozilla, qui a construit toute sa marque sur le fait d'être le navigateur auquel vous pouvez faire confiance, vient d'annoncer une .
Rejoignez plus de 500 000 lecteurs qui commencent leur journée avec Quartz.
En vous abonnant, vous acceptez nos Conditions d'utilisation et notre Politique de confidentialité.
Le message de la Silicon Valley est clair. Toutes ces entreprises promettent des navigateurs qui ne se contentent pas de charger des pages web mais les comprennent réellement. Des navigateurs qui peuvent faire des courses pour vous, résumer vos emails, réserver vos voyages et gérer les tâches ennuyeuses pendant que vous faites quelque chose de plus intéressant. L'argument est convaincant. La situation en matière de sécurité ne l'est pas.
L'équipe de sécurité du navigateur Brave (qui est également introduisant des fonctionnalités d'IA) a publié une série cet automne montrant à quel point les navigateurs d'IA sont vulnérables à l'injection de commandes, un type d'attaque où des instructions cachées manipulent une IA pour faire des choses que l'utilisateur n'a jamais demandées. Lors de tests avec Comet de Perplexity, les chercheurs ont intégré des commandes invisibles à l'intérieur d'une image sur une page web. Quand un utilisateur a demandé au navigateur de résumer la page, il a navigué vers le compte Perplexity de l'utilisateur, extrait son adresse email et envoyé ces données à un serveur externe. Aucune approbation demandée, aucune donnée fournie.
Un autre test a démontré qu'Atlas de OpenAI pouvait être manipulé par des instructions cachées dans les documents en ligne ordinaires, ce qui entraîne des modifications de paramètres sans le consentement de l'utilisateur. Le responsable de la sécurité informatique d'OpenAI a reconnu sur X $TWTR que l'injection de prompt reste "un problème de sécurité non résolu et de pointe." L'entreprise a quand même lancé Atlas.
Jusqu'à présent, les attaques démontrées ont été assez limitées — adresses e-mail, codes de vérification, paramètres du navigateur. Mais les vulnérabilités ne diminuent pas à mesure que les capacités augmentent. Google a déjà annoncé un protocole de paiement qui permet aux agents IA d'acheter des choses en votre nom pendant que vous dormez. Les mêmes astuces d'injection de prompt qui volent un e-mail aujourd'hui pourraient vider un compte bancaire demain.
Alors pourquoi cette précipitation ? Parce que les navigateurs ne sont plus seulement des navigateurs. Pendant trois décennies, ils ont été des fenêtres sur le web. Maintenant, ils deviennent des centres de commande pour des agents IA qui peuvent accéder à vos e-mails, calendriers, documents, paniers d'achat et comptes bancaires.
Contrôler cette interface signifie contrôler la relation entre les utilisateurs et pratiquement tout ce qui est en ligne. Quand Perplexity a fait une offre de 34,5 milliards de dollars pour Chrome plus tôt cette année, le directeur commercial de l'entreprise a expliqué la logique clairement. Le navigateur offre aux entreprises d'IA « une surface beaucoup plus grande » et un accès à beaucoup plus de contexte sur les utilisateurs.
Les calculs financiers sont simples. Chrome de Google dessert environ 3 milliards d'utilisateurs et domine le marché depuis une décennie. ChatGPT d'OpenAI attire 800 millions d'utilisateurs hebdomadaires, mais beaucoup d'entre eux y accèdent via Chrome. Pour OpenAI, amener ces utilisateurs dans son propre navigateur signifie capturer des données qui autrement iraient à Google, créant de nouvelles opportunités publicitaires et réduisant la dépendance à l'infrastructure d'un concurrent.
L'« application universelle » est un graal de la Silicon Valley depuis des années, qui ne s'est jamais matérialisée en Occident, peu importe les efforts des entreprises pour recréer WeChat de Chine, qui permet aux utilisateurs de discuter, payer des factures, prendre rendez-vous chez le médecin, commander de la nourriture et acheter sans jamais quitter l'application. Mais avec des centaines de milliards investis dans l'IA, l'industrie fait une nouvelle tentative. Les navigateurs sont le chemin le plus rapide vers cette vision. Même s'ils ne sont pas prêts pour le grand public.
En décembre, Gartner a conseillé aux clients d'entreprise de bloquer les navigateurs IA entièrement. Le cabinet de recherche a averti que les paramètres par défaut de ces produits privilégient l'expérience utilisateur plutôt que la sécurité, exposant ainsi les organisations aux attaques par injection de commandes et aux fuites de données. Les analystes ont également signalé un risque plus banal : les employés utilisant des agents IA pour suivre des formations de sécurité obligatoires à leur place.
Les chercheurs en sécurité qui étudiez ces vulnérabilités tendent à arriver à la même conclusion inconfortable. L'injection de commande n'est pas un bug qui peut être corrigé. C'est une classe d'attaques qui existera tant que les modèles d'IA liront des textes que les attaquants peuvent influencer. Les mesures d'atténuation recommandées incluent la limitation de ce que les agents d'IA peuvent faire, la restriction de l'accès aux données privées et le maintien d'une surveillance humaine constante.
Mais une surveillance constante contredit tout l'intérêt. La proposition de valeur de ces navigateurs est qu'ils gèrent les choses de manière autonome pendant que vous faites autre chose. Dès que vous arrêtez de surveiller, vous faites confiance à un système imparfait avec des défenses imparfaites pour prendre des décisions en utilisant vos identifiants et vos données.
Les entreprises d'IA comprennent ce compromis. Elles ont décidé de lancer quand même. Dans la course pour devenir la nouvelle passerelle vers Internet, être le premier semble plus important qu'être sûr. Pour les utilisateurs, le résultat est une nouvelle génération d'outils qui promet de gérer Internet pour nous, alors même qu'ils nous rendent plus vulnérables que jamais.
