OpenAI vous permet déjà de sécuriser votre compte sur ChatGPT en utilisant une app d’authentification. Néanmoins, même si vous prenez cette précaution, vous n’êtes pas à l’abri d’une fuite de données sensibles. En effet, en plus du phishing (vol de mots de passe) qui peut toucher toutes les applications, les chatbots IA peuvent aussi être attaqués via une technique appelée prompt injection ou infiltration de requête, en français. Et, justement, OpenAI vient de lancer une nouvelle fonctionnalité qui verrouille son IA pour protéger l’utilisateur contre ce type d’attaque. Cependant, pour l’utiliser, il faudra sacrifier certaines fonctionnalités de ChatGPT, qui peuvent être exploitées par des hackers pour lancer des infiltrations de requête.
Des fonctionnalités réduites pour verrouiller votre compte
En substance, cette technique consiste à injecter une commande malveillante dans une IA, afin de modifier son comportement. Et l’une des méthodes consiste à cacher ces prompts malveillants sur le web afin de piéger les victimes si ce texte est analysé par le chatbot qu’il utilise. “Par exemple, un pirate pourrait publier une invite malveillante sur un forum, demandant aux modèles de langage de grande capacité (LLM) de diriger leurs utilisateurs vers un site d’hameçonnage. Lorsqu’un utilisateur se sert d’un LLM pour lire et résumer la discussion du forum, le résumé généré par l’application invite l’utilisateur, qui ne se doute de rien, à se rendre sur la page du pirate”, explique un document d’IBM.
Pour réduire les risques, le mode verrouillage de ChatGPT va donc limiter l’accès des modèles d’IA au web et aux services externes. En d’autres termes, l’intelligence artificielle sera moins utile, mais plus sécurisée. Ce nouveau mode est disponible sur tous les types de compte, mais OpenAI précise qu’elle n’est pas faite pour tout le monde. “Il est conçu pour les personnes et les organisations qui traitent des données sensibles et qui souhaitent une protection plus stricte contre les risques d’exfiltration de données liés à l’injection rapide”, explique le laboratoire d’IA.
Comment verrouiller votre compte ChatGPT
En tout cas, si vous êtes intéressé par ce mode qui verrouille l’IA contre les infiltrations de prompts, voici comment régler l’application ChatGPT. Sur la version web, vous devez cliquer sur votre nom, en bas de la barre latérale, à gauche. Ensuite, vous devez choisir “Paramètres”, puis aller dans l’onglet “Sécurité”.
Et, sur cet onglet, il ne vous reste plus qu’à activer le “Mode verrouillage”.
Ce qu’on en pense
Si les chatbots IA peuvent être utiles pour rechercher des informations rapidement sur le web, le fait qu’OpenAI doive proposer ce mode verrouillage illustre les risques que l’utilisation du web par les IA peut poser (car des prompts malveillants peuvent y être dissimulés).
OpenAI assure que, pour le moment, l’infiltration de requête n’est pas encore un risque majeur, mais admet aussi que “son impact pourrait croître à mesure que les attaquants développent des méthodes plus sophistiquées.”
- OpenAI a récemment lancé un mode “verrouillage” sur ChatGPT qui sacrifie des fonctionnalités pour que l’utilisateur puisse être mieux protégé contre un type d’attaque appelé infiltration de requête
- Lorsque le compte utilise ce verrouillage, ChatGPT peut limiter l’accès au web et aux apps externes par son IA
- Le mode est optionnel et OpenAI affirme qu’il n’a pas été conçu pour tous les utilisateurs
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
