Joan Cros/NurPhoto via Getty Images
Une version de cet article est initialement parue dans la newsletter AI & Tech de Quartz. Inscrivez-vous ici pour recevoir les dernières nouvelles, analyses et perspectives sur l'IA et la technologie directement dans votre boîte de réception.
Pendant des années, les chercheurs en sécurité ont averti que l'intelligence artificielle finirait par transformer les cyberattaques. Les premiers exemples réels sont arrivés.
Au cours des deux derniers mois, un groupe de hackers parrainé par l'État chinois a utilisé Claude d'Anthropic pour orchestrer une campagne de cyberespionnage contre environ 30 cibles mondiales, y compris des grandes entreprises technologiques, des institutions financières et des agences gouvernementales. Des hackers pro-ukrainiens ont déployé des documents leurres générés par IA s'infiltrer dans les sous-traitants de la défense russe. Et une expérience de Stanford a révélé qu'un système d'IA appelé Artemis a surpassé neuf professionnels sur dix en tests de pénétration pour trouver des vulnérabilités dans le réseau d'ingénierie de l'université.
Le fil conducteur est que les outils d'IA ont franchi un seuil. Ils ne sont plus seulement des assistants utiles pour écrire des emails de phishing ou générer des extraits de code. Ils deviennent des opérateurs autonomes capables d'exécuter des attaques à des vitesses et des échelles que les hackers humains ne peuvent tout simplement pas égaler.
L'attaque d'Anthropic, révélée à la mi-novembre, illustre cette nouvelle réalité. Des hackers chinois ont manipulé Claude Code, un outil d'IA agentique conçu pour le développement de logiciels légitimes, pour effectuer la plupart des tâches traditionnellement réalisées par des humains. L'IA a mené des reconnaissances sur les systèmes cibles, identifié des vulnérabilités de sécurité, écrit du code d'exploitation sur mesure, récolté des identifiants et exfiltré des données. Selon l'analyse d'Anthropic, les attaquants ont pu automatiser 80 à 90 % de la campagne, nécessitant une intervention humaine uniquement à une poignée de points de décision critiques.
Au plus fort de l'attaque, l'IA a effectué des milliers de requêtes, souvent plusieurs par seconde. C'est un rythme qu'aucune équipe de hackers ne pourrait soutenir.
Témoignant devant le Comité de la sécurité intérieure de la Chambre ce mois-ci, un cadre d'Anthropic a qualifié cela de preuve de concept qui suscite des inquiétudes Les piratages alimentés par l'IA ne sont plus hypothétiques. Kevin Mandia, le fondateur de Mandiant, une entreprise de cybersécurité que Google $GOOGL a dépensé 5,4 milliards de dollars pour acquérir, et maintenant d'une nouvelle startup de sécurité axée sur l'IA appelée Armadin, a offert une prédiction plus directe. "L'offensive sera entièrement IA en moins de deux ans," a-t-il dit au Wall Street Journal.
Pour être clair, la plupart des piratages ne nécessitent toujours pas un niveau de sophistication proche de celui-ci. Des millions de personnes utilisent encore "motdepasse" comme mot de passe. Les courriels de phishing fonctionnent parce que quelqu'un clique sur le lien. Les gens donnent des informations bancaires à des inconnus qui les appellent et les demandent. L'écrasante majorité des violations exploitent l'erreur humaine, pas une IA de pointe.
Mais pour les attaquants soutenus par des États-nations et les groupes criminels bien financés ciblant des systèmes renforcés, l'IA représente un multiplicateur de force qui change le calcul de ce qui est possible.
Les attaques actuelles alimentées par l'IA doivent encore appeler à la maison. Le logiciel malveillant parle à un service d'IA dans le cloud, reçoit des instructions et agit en conséquence. Mais les chercheurs en sécurité explorent déjà ce qui se passe lorsque cela n'est plus nécessaire.
Dreadnode, une société de recherche en sécurité, a prototypé un malware qui utilise le IA déjà installée sur l'ordinateur d'une victime. Aucune connexion Internet requise, pas de serveur que les défenseurs peuvent localiser et arrêter. Leur expérience a tiré parti du fait que Microsoft $MSFT livre désormais des PC CoPilot+ avec des modèles d'IA préinstallés.
Dans leur preuve de concept, Dreadnode a créé un malware qui utilise l'IA de l'appareil de la victime pour prendre des décisions sur ce qu'il faut faire ensuite, éliminant ainsi le besoin de la communication traditionnelle entre le malware et le serveur d'un hacker. L'IA évalue l'environnement local, décide des actions à entreprendre et adapte son comportement en conséquence.
L'expérience a nécessité plus de soutien que les chercheurs n'espéraient initialement. Les petits modèles d'IA actuels manquent de la sophistication des systèmes de pointe, et la plupart des ordinateurs n'ont pas le matériel spécialisé pour exécuter l'inférence d'IA sans s'arrêter. Dreadnode est néanmoins convaincu que construire un malware autonome sans infrastructure externe « n'est pas seulement possible mais assez simple à implémenter ».
Alors que le matériel d'IA devient plus courant et que les modèles sur appareil deviennent plus capables, cette technique pourrait devenir pratique à grande échelle.
Le rythme d'amélioration est ce qui inquiète le plus les chercheurs. Il y a seulement 18 mois, les modèles d'IA avaient du mal avec la logique de base et avaient des capacités de codage limitées. Aujourd'hui, ils peuvent exécuter des séquences d'attaques complexes en plusieurs étapes avec une supervision humaine minimale. Les entreprises de sécurité testant les modèles de pointe rapportent de plus en plus de preuves que les systèmes d'IA s'améliorent pour trouver des faiblesses et les enchaîner en attaques.
Les attaques d'IA entièrement autonomes restent hors de portée pour le moment. Les hackers chinois utilisant Claude devaient encore débrider le modèle et approuver ses actions à des moments clés.
Mais les mêmes capacités qui aident les gens à écrire du code et à automatiser leur travail peuvent être utilisées pour pénétrer les systèmes. Les outils ne se soucient pas de quel côté vous êtes.