Ce que nous enseigne la première attaque (expérimentale) d’un ver informatique mû par l’intelligence artificielle

Et voici peut-être l’informatique replongée dans sa préhistoire. En 1988, un programme, Morris, rapidement baptisé « le ver de l’Internet », avait infecté plusieurs milliers de machines en répliquant ses lignes de code d’un ordinateur à un autre, grâce à l’exploitation de failles notamment liées à de mauvaises configurations de mots de passe.

Trente-huit ans plus tard, une équipe canadienne, CleverHans, de l’université de Toronto, a mis en ligne le 2 juin un article décrivant les exploits d’un nouveau ver informatique dopé à l’intelligence artificielle (IA). Soucieuse d’éthique, l’équipe a travaillé sur un réseau coupé d’Internet de 33 machines assez diverses, contenant des ordinateurs, mais aussi une caméra, une imprimante… Et elle a constaté les capacités de son programme, au code non divulgué, à repérer une faille, à l’exploiter, puis à se diffuser et à se répliquer de nœud en nœud, comme l’antique « ver de l’Internet ».

Contrairement à Morris, dont la propagation dépendait d’une seule famille de failles, ce nouveau ver est autonome et peut changer de stratégie. « Pour contrer la diffusion d’un ver normal, il suffit de corriger la faille utilisée, souligne Nicolas Papernot, professeur à l’université de Toronto, responsable de CleverHans. Cela ne suffit plus contre notre ver, qui peut cibler plusieurs vulnérabilités, mais aussi de mauvaises configurations de machines. »

Ce n’est pas tout. La démonstration de l’équipe utilise un grand modèle de langage (LLM), le moteur des principaux chatbots, Gemini, ChatGPT, Claude, Qwen… mais d’une taille plus petite que les meilleurs actuellement. Il appartient à la famille dite « à poids ouverts », c’est-à-dire moins opaque que les modèles commerciaux et plus facilement installable sur des machines.

« Décentralisation possible »

Les chercheurs n’en disent pas grand-chose, si ce n’est qu’il peut fonctionner sur une carte graphique musclée avec 80 Go de mémoire, que l’on trouve dans des data centers, ou sur certaines stations de travail d’entreprises ou de laboratoires spécialisées dans les jeux vidéo ou les représentations 3D, par exemple.

Il vous reste 63.39% de cet article à lire. La suite est réservée aux abonnés.