Comme tout le monde, les cybercriminels se servent de l’intelligence artificielle pour automatiser certaines tâches, comme la création de faux sites, de messages de phishing, ou encore le codage de certaines parties de leurs malwares. Mais, jusqu’à présent, personne n’avait documenté de cas de ransomware (les logiciels qui bloquent les données d’un système pour demander une rançon) entièrement piloté par l’IA. Le logiciel JADEPUFFER, découvert par les chercheurs de Sysdig est donc une première, puisqu’il s’agit du premier “ransomware agentique” connu.
Celui-ci peut opérer de manière autonome, en menant l’attaque du début jusqu’à la fin. Et l’IA peut prendre des décisions en cours de route afin de s’adapter, pour attaquer les données de la victime et demander une rançon à la fin. Les chercheurs ont repéré une attaque qui visait la base de données d’une organisation. Et si ceux-ci n’ont pas accès à la méthode utilisée en arrière-plan, ils ont trouvé des indices qui montrent que l’attaque était bien pilotée par un grand modèle de langage, mais pas par un humain.
“La caractéristique la plus frappante, cependant, était le comportement du LLM. Les charges utiles de JADEPUFFER étaient auto-commentées. Elles comprenaient un raisonnement en langage naturel, une hiérarchisation des cibles et le genre d’annotations détaillées que les opérateurs humains rédigent rarement, mais que le code généré par un LLM produit de manière instinctive”, lit-on dans la présentation de cette découverte.
Une IA capable de s’adapter en quelques secondes
Et JADEPUFFER n’utilise pas un script rigide et prédéfini, mais utilise une IA qui peut s’adapter en cas de difficulté à atteindre sa cible. Selon Sysdig, le modèle d’IA adapte son action en temps réel, et agit rapidement. Au cours de l’attaque, par exemple, lorsque JADEPUFFER n’est pas parvenu à exploiter un compte sur le système ciblé, celui-ci a recherché et trouvé une solution à ce problème en seulement 31 secondes.
Ce ransomware n’a cependant pas découvert de nouvelles failles de sécurité, mais a profité de vulnérabilités connues qui auraient dû être corrigées avec une mise à jour. En d’autres termes, l’IA n’a fait qu’automatiser ce qu’un expert humain aurait pu faire. Mais l’existence de cette attaque est préoccupante, puisque la découverte de Sysdig montre que, désormais, ce genre d’attaque ne nécessite plus le pilotage d’un attaquant humain hautement qualifié, pour réussir.
“Aucune des techniques utilisées individuellement n’était nouvelle ou sophistiquée. Ce qui est remarquable, en revanche, c’est qu’un modèle d’IA les ait combinées pour former une opération de ransomware complète contre une infrastructure Internet négligée”, explique Sysdig.
Une adresse Bitcoin “hallucinée” ?
À la fin, comme n’importe quel ransomware, l’IA a demandé une rançon lorsque l’attaque est complète. Mais, là aussi, les chercheurs ont trouvé une curiosité. L’adresse Bitcoin mentionnée dans la demande de rançon est un format d’exemple qui est régulièrement cité dans des documents pour les développeurs.
Et l’une des possibilités est que l’IA “a généré de manière autonome l’adresse à partir des données d’entraînement, et le portefeuille appartient à un tiers qui collecte des dépôts non sollicités.”
- Les cybercriminels utilisent déjà beaucoup l’IA pour automatiser des tâches
- Mais, c’est la première fois que des chercheurs évoquent un ransomware piloté par un grand modèle de langage, et qui s’adapte automatiquement en temps réel pour réussir ses attaques
- De ce fait, ce type d’attaque ne nécessite plus l’intervention d’une personne qualifiée pour réussir
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
