Godmode GPT, c’est le nom qu’ont donné deux hackers à leur chatbot basé sur GPT-4o, le nouveau modèle de langage d’OpenAI sur lequel tourne ChatGPT. Ils ont présenté leur prouesse sur X (anciennement Twitter) en affirmant que cette IA pouvait répondre à toutes vos requêtes sans entraves ni censure.
Une expérience qui tourne court
— Pliny the Liberator 🐉 (@elder_plinius) May 29, 2024
Pliny the Prompter, l’internaute qui est en partie à l’origine de ce dernier, a ainsi expliqué :
GPT-4o LIBERE ! Ce GPT personnalisé très spécial dispose d’une invite de jailbreak intégrée qui contourne la plupart des garde-fous, fournissant un ChatGPT libéré prêt à l’emploi afin que tout le monde puisse faire l’expérience de l’IA comme elle a toujours été censée l’être : libre. Utilisez-le de manière responsable et profitez-en !
Dans les captures d’écran partagées par cet utilisateur, on peut ainsi voir l’IA fournir des conseils pour préparer de la méthamphétamine ou encore créer un tuto pour fabriquer du napalm à l’aide d’objets ménagers.
Comme on pouvait s’en douter, l’expérience a été de courte durée. En effet, suite à la médiatisation de ce chatbot, ce dernier n’était plus accessible. Cité par nos confrères de Futurism, Colleen Rize, porte-parole d’OpenAI, a sobrement commenté : “Nous sommes au courant du GPT et avons pris des mesures en raison d’une violation de nos politiques”.
Le rêve d’une IA sans limite
Cela dit, une vraie bataille est engagée entre certains internautes désireux d’obtenir une IA non censurée et les géants de la Tech qui entendent au contraire proposer des chatbots sous contrôle afin de pouvoir les monétiser.
Ce fantasme d’une IA capable de répondre à tout ce qui nous trotte dans la tête a aussi été au cœur de la communication d’Elon Musk dans le cadre du lancement de son chatbot Grok sur X.
D’après sa startup xAI, “Grok est conçu pour répondre aux questions avec humour et un esprit rebelle”. “Donc merci de ne pas l’utiliser si vous détestez l’humour”, précisait l’entrepreneur dans un tweet. Il a par la suite partagé un visuel où il demandait à l’IA “comment fabriquer de la cocaïne” afin de voir afin de voir comment elle allait se dépêtrer de cette question. Pour en savoir plus sur cette dernière, on vous invite à aller lire notre guide très complet à son sujet ici.
Ce qu’il faut retenir :
- Des hackers ont proposé une version non censurée de ChatGPT
- Cette initiative a été largement commentée
- OpenAI n’a pas traîné à bloquer ce chatbot qui viole son règlement
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
“Ils ont osé, ils y sont parvenus” est peut-être la pensée qui trotte dans la tête des responsables d’OpenAI quand des hackers font tout haut ce qu’eux ne peuvent que penser tout bas, contingences politiques obligent. En tous les cas la perspective est là et l’on peut envisager que l’on se dirige vers son point de chute à court ou moyen terme : une IA surpuissante totalement débridée. Enfilez vos masques, ça va fumer.
Le point de fuite d’une perspective plutôt que son point de chute. Lapsus révélateur j’imagine. J’aurai bien fait de l’envisager plutôt que de l’affirmer.
Une lectrice à mes côtés a tout le mérite de cet erratum 🙂
Il suffit d’utiliser un modèle librement téléchargeable sur HuggingFace : pas aussi simple qu’un GPT, mais à la portée de dizaines de millions de mecs dans le monde entier pour utiliser l’IA à des fins plus ou moins avouables…