- Un cybercriminel a mis au créé WormGPT, un chatbot qui génère des messages de hameçonnage très convainquants
- Les acteurs malveillants s’échangent des combines pour contourner les protections de ChatGPT et leurs rivaux pour générer du code et des textes malveillants
- Les risques de ces IA en matière de cybersécurité sont signalés depuis quelques mois par des experts
C’est “le plus grand ennemi du célèbre ChatGPT qui vous permet de faire toutes sortes de choses illégales”. C’est ainsi qu’un cybercriminel décrit WormGPT, une IA qu’il a mis au point et qu’il présente sur un forum clandestin.
Ce chatbot fonctionne exactement comme la technologie d’OpenAI, sauf qu’il est spécialement conçu pour lancer des cyberattaques de phishing très élaborées. Oubliez les fautes d’orthographes et les approximations douteuses que l’on voit souvent dans ce type de messages.
Cet outil permet “d’automatiser la création de faux courriels très convaincants, personnalisés en fonction du destinataire, augmentant ainsi les chances de réussite de l’attaque”, décrit le chercheur en cybersécurité Daniel Kelley dans un article de SlashNext.
Il ajoute : “L’utilisation de l’IA générative démocratise l’exécution d’attaques BEC sophistiquées. Même les attaquants ayant des compétences limitées peuvent utiliser cette technologie, ce qui en fait un outil accessible à un plus grand nombre de cybercriminels”.
Les cyberattaques vont se démocratiser
Si cet outil pourrait provoquer de gros dégâts, les acteurs malveillants ont aussi pris l’habitude de contourner les dispositifs anti-abus sur les IA accessibles au grand public : ChatGPT, Bing Chat, ou encore Bard.
Concrètement, ils se transmettent des “jailbreaks”, ces prompts qui permettent d’inciter l’IA et lui faire générer des contenus illicites, tels que des e-mails de phishing, du code malveillant, ou la divulgation de données sensibles.
Pour rappel, de nombreux experts en cybersécurité alertent sur les risques d’IA telles que ChatGPT. Ainsi, selon un sondage mené par BlackBerry auprès de 1 500 décideurs informatiques en Amérique du Nord, au Royaume-Uni et en Australie, 53 % pensent que la capacité de l’IA à rédiger des e-mails de phishing est un redoutable danger car elle simplifie considérablement la tâche des hackers.
Toujours selon cette enquête de BlackBerry, 49 % décideurs en informatique estiment que ChatGPT pourrait permettre à des pirates moins expérimentés d’améliorer leurs connaissances techniques et de développer des compétences plus spécialisées.
Il en va notamment ainsi de la création et de la diffusion des ransomware. Suleyman Ozarslan, chercheur en sécurité et cofondateur de Picus Security expliquait d’ailleurs en début d’année : “C’est déjà assez grave que le code des ransomware soit disponible pour les gens à acheter ‘sur étagère’ sur le dark web ; maintenant, pratiquement n’importe qui peut le créer lui-même.”
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
