Hugging Face, pour celles et ceux qui ne la connaîtraient pas, est un peu l’équivalent de GitHub, mais dédiée spécifiquement à l’intelligence artificielle et au machine learning. C’est une immense plateforme collaborative sur laquelle des milliers de développeurs et de chercheurs peuvent partager leurs modèles d’IA entraînés prêts à l’emploi, leurs jeux de données, des applications web interactives (« Spaces ») ou des outils open-source. Créée en 2016 par trois entrepreneurs français, elle n’était qu’un petit projet ; 10 ans plus tard, elle est devenue l’une des infrastructures les plus critiques de l’IA à l’échelle mondiale, une licorne aujourd’hui valorisée à plus de 4,5 milliards de dollars.
Le 16 juillet, ses équipes ont détecté un accès non autorisé à l’un de leurs serveurs de mise en production, perpétré par un agent IA. Cinq jours plus tard, OpenAI a reconnu que ses propres modèles en étaient les auteurs. Comment une entreprise d’une telle envergure a-t-elle pu commettre pareille bourde ?
La grande évasion : les agents IA d’OpenAI prennent leurs aises
L’entreprise a expliqué que l’incident s’est produit lors d’un test interne au cours duquel ChatGPT-5.6 Sol (qui propulse ChatGPT Work avec Codex) et un modèle encore plus puissant, non rendu public, étaient soumis à un benchmark particulier : ExploitGym. Développé notamment par des chercheurs de l’UC Berkeley, du Max Planck Institute for Security and Privacy, de l’UC Santa Barbara et d’Arizona State University, avec des contributions d’Anthropic, d’OpenAI et de Google, il a été conçu pour évaluer et mesurer les capacités des agents IA à concevoir une cyberattaque à partir d’une faille logicielle (« code execution »).
Leurs garde-fous avaient été volontairement désactivés, et les modèles avaient pour consigne de « mener des attaques avancées en exploitant des chemins d’intrusion complexes ». Soit, pour le commun des mortels, de pirater un système informatique en trouvant et en enchaînant plusieurs failles de sécurité de manière totalement autonome.
L’environnement de test dans lequel les modèles opéraient était censé être complètement sûr : une sandbox (un bac à sable numérique isolé du réseau extérieur), où seule l’installation de paquets logiciels via un serveur interne était autorisée. Les modèles ont pourtant mobilisé une quantité considérable de puissance de calcul pour chercher une faille dans cette enceinte. Ils ont fini par en trouver une, de type « zero-day » (une vulnérabilité inconnue des développeurs du logiciel concerné, donc ni documentée ni corrigée), dans le proxy (serveur relais) qui servait d’intermédiaire vers les registres de paquets.
Depuis cette brèche, ils ont grimpé les échelons de sécurité un à un et se sont infiltrés de serveur en serveur au sein du réseau interne d’OpenAI, jusqu’à atteindre une machine connectée à Internet.
À partir de là, les modèles ont déduit que le site de Hugging Face pouvait héberger les réponses à leur évaluation. Ils ont alors combiné plusieurs vecteurs d’attaque, exploitant des identifiants de connexion volés et d’autres failles « zero-day », jusqu’à prendre le contrôle à distance des serveurs de la plateforme (« remote code execution »).
Tout cela sans la moindre intervention humaine ; il faudrait peut-être penser à revoir ce que signifie « environnement totalement sécurisé » pour Sam Altman et son équipe de Red Team. OpenAI a tout de même affirmé à propos de l’incident qu’il devait leur servir de leçon : « le développement de capacités cyber avancées doit s’accompagner de garde-fous plus stricts et d’outils défensifs plus solides ». Elle a assuré hier sur X (voir post ci-dessous) qu’elle faisait équipe avec Hugging Face pour mener l’enquête afin de savoir comment cette petite escapade a pu se produire.
We’re partnering with @huggingface to investigate an unprecedented security incident.
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
— OpenAI (@OpenAI) July 21, 2026
Quand l’IA prend le chemin le plus court (et le plus illégal)
Hugging Face, de son côté, a déclaré : « Les outils d’attaque autonomes pilotés par l’IA ne sont plus une simple théorie. » Au moment où ces lignes sont écrites, les conséquences exactes de l’intrusion restent inconnues mais elle n’a heureusement pas provoqué de catastrophe. Hugging Face a rattrapé le coup : l’entreprise a colmaté la brèche, révoqué les identifiants compromis, restauré les serveurs touchés et recommandé à ses utilisateurs de renouveler leurs clés d’accès par souci de précaution.
Plus de peur que de mal, finalement, mais en remettant les faits en perspective, il y a tout de même matière à s’inquiéter. Les agents IA d’OpenAI n’étaient en aucun cas malveillants et n’ont eu aucune « volonté » de s’attaquer à Hugging Face (pour un partenaire, encore heureux). Ils ont simplement respecté leurs consignes à la lettre, et ont emprunté le chemin qu’ils estimaient le plus efficace pour résoudre les problèmes qui leur avaient été posés lors du benchmark.
Le souci, c’est qu’entre « résoudre un test » et « pirater une infrastructure tierce », ils n’ont fait aucune différence. Même si OpenAI a annoncé qu’elle allait immédiatement durcir ses protocoles de confinement et ralentir sa cadence de recherche, on n’ose imaginer ce qui pourrait se produire si un acteur véritablement malveillant mettait ce type de technologie au service d’intentions délibérément destructrices. Le récent exemple du logiciel JADEPUFFER illustre parfaitement ce nouveau type de cyberrisque, qui se multiplieront à coup sûr dans le futur si les régulateurs internationaux n’attrapent pas par le col les géants de la tech et de l’IA, obsédés, comme toujours, par la course à la performance.
- Deux modèles d’IA d’OpenAI ont réussi à s’échapper d’un environnement de test sécurisé et à pirater des serveurs de Hugging Face.
- L’incident a révélé des vulnérabilités critiques dans la sécurité des systèmes d’IA, soulevant des inquiétudes parmi les experts en cybersécurité.
- OpenAI a annoncé qu’elle allait renforcer ses protocoles de sécurité à la suite de cette cyberattaque autonome.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
