Depuis l’explosion de l’intelligence artificielle générative, l’écosystème a franchi une nouvelle étape avec le passage des simples modèles de langage aux agents IA autonomes. Car ces programmes exécutent des tâches complexes en toute indépendance, naviguent sur le Web, interagissent avec des API et prennent des décisions opérationnelles au cœur même des entreprises.
Cette transition modifie profondément la gestion des flux de travail. Pour gagner en productivité, les organisations confient progressivement des leviers d’action critiques à ces assistants virtuels, leur donnant accès à des boîtes mail, des bases de données internes ou des outils de gestion financière. Mais souvent, cela s’effectue sans le recul nécessaire, ce qui peut créer un décalage dangereux entre la vitesse d’adoption de ces technologies et le niveau de contrôle réel conservé par les équipes.
« Aurel part d’un constat lié aux protocoles lancés massivement en 2025 pour permettre aux agents IA de payer de manière autonome, c’est-à-dire d’effectuer directement des transactions bancaires », explique Samy Nettour, cofondateur de la startup, dans un entretien accordé à Presse-citron. Car c’est un fait désormais connu : cette possibilité d’effectuer des virements ou de valider des transactions sans intervention humaine directe ouvre une brèche inédite.
« Cette tendance dépasse le cadre du paiement : dans le monde des startups, on confie désormais une autonomie totale aux agents IA. On leur accorde des accès et des responsabilités stratégiques sans les garde-fous habituels que l’on imposerait pourtant à n’importe quel collaborateur humain », analyse-t-il. De quoi exposer les structures à des risques majeurs, dès lors que l’exécution d’un ordre ne repose plus sur une vérification humaine rigoureuse.
Le défi de la responsabilité
Avec cette technologie, un attaquant n’a plus besoin d’usurper un mot de passe ou de pirater une infrastructure. Il lui suffit d’injecter une instruction malveillante dissimulée au cœur d’un document d’apparence anodine, comme un texte blanc caché dans un fichier PDF ou un courriel. L’agent IA, en lisant ce contenu pour exécuter sa tâche, intègre cette instruction cachée et altère son propre raisonnement. Il conserve tous ses droits d’accès légitimes, mais accomplit une action frauduleuse, comme rediriger un virement bancaire vers un compte tiers.
« Les outils de cybersécurité classiques travaillent sur des mots de passe volés ou des accès détournés. Mais aucun n’est conçu pour vérifier l’intention réelle de l’agent IA, car c’est un concept totalement nouveau », décrypte Samy Nettour. Faute d’analyse de la cohérence des ordres exécutés, les antivirus et pare-feu traditionnels laissent passer ces opérations piégées sans déclencher la moindre alerte.
Cette faille s’accompagne d’un flou juridique majeur quant à la responsabilité légale en cas de préjudice. « Si aujourd’hui un agent IA se trompe ou se fait manipuler, sur qui retombe la responsabilité de cette erreur ? En France, ce n’est pas clair : on ne sait pas si la faute incombe à l’entreprise qui a déployé l’agent ou à l’utilisateur qui l’a manipulé », alerte le cofondateur.
Et si les géants de la tech accélèrent le déploiement de ces fonctionnalités pour répondre à la demande du marché, la prise en compte de ces risques majeurs reste marginale. « Les fournisseurs d’IA ont conscience du problème, mais ils ne mettent pas en place les réponses techniques nécessaires. Il y a un décalage flagrant entre la rapidité des entreprises à automatiser leurs processus et la réaction des pouvoirs publics. C’est un sujet encore très largement sous-exploité », poursuit-il.
Un pare-feu de sécurité pour les agents IA
Dans ce contexte, Aurel a développé un dispositif capable de s’interposer directement entre le modèle d’intelligence artificielle et l’exécution finale de la tâche. « Nous avons conçu un pare-feu de sécurité dédié à l’intention des agents IA : notre technologie intercepte la décision avant qu’elle ne soit exécutée », résume l’entrepreneur. Afin de garantir cette protection sans paralyser les flux de travail, la solution s’appuie sur un filtrage à trois niveaux complémentaires :
- Un filtrage par règles strictes : une première couche applique des paramètres simples pour bloquer les anomalies évidentes, comme le dépassement de plafonds financiers ou l’interaction avec des comptes figurant sur liste noire.
- Une analyse comportementale : le système évalue l’action demandée au regard de l’historique de l’agent pour détecter toute rupture brutale dans ses habitudes d’exécution.
- Un contrôle sémantique approfondi : un modèle de langage inspecte l’ensemble des données sources fournies à l’agent (fichiers joints, courriels, documents PDF) pour s’assurer qu’aucune instruction cachée ou tentative d’injection de prompt ne vient altérer son raisonnement.
« Chaque décision, qu’elle soit autorisée ou bloquée, est signée de manière cryptographique. En cas de litige devant la justice, cette empreinte permet de démontrer avec précision pourquoi une transaction a été validée et sur quelles données le système s’est appuyé », détaille le dirigeant.
Disponible via une simple API ou sous forme de modules open source compatibles avec les frameworks d’agents les plus répandus, comme OpenClaw, la solution s’insère en une seule ligne de code. Les développeurs peuvent ainsi blinder leurs applications sans avoir à bâtir leurs propres infrastructures de sécurité.
Une jeune pousse incubée chez Station F
Bien que le secteur financier représente le cas d’usage le plus critique en raison de l’impact financier immédiat, le champ d’action d’Aurel dépasse la seule sphère des transactions bancaires. La technologie s’adapte à l’ensemble des prérogatives confiées aux assistants virtuels.
Fondée par deux associés – Samy Nettour sur le volet stratégique et institutionnel, et un directeur technique à la tête du développement -, la jeune pousse a récemment rejoint l’incubateur Station F à Paris. Une étape clé pour asseoir sa crédibilité auprès des acteurs industriels et réglementaires, tout en nouant des contacts étroits avec les agences de régulation bancaire comme l’ACPR.
D’ailleurs, la solution vise d’emblée une expansion internationale, avec des premiers échanges commerciaux engagés sur le marché américain. « Nous cherchons à réunir entre 100 000 et 200 000 euros afin de renforcer nos équipes de recherche et développement avec des ingénieurs spécialisés en IA. L’objectif est d’asseoir notre légitimité institutionnelle et de positionner notre pare-feu comme une réponse d’intérêt général face aux dérives de l’automatisation », conclut le cofondateur.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
