Arrêtez de tricher, le détecteur de ChatGPT est là

ChatGPT va-t-il remplacer Google ? Pour le moment, on n’en est pas sûr à 100 %, puisque le moteur de recherche va probablement déployer des technologies similaires. Cependant, dans les universités, un très grand nombre d’étudiants utilisent déjà l’intelligence artificielle d’OpenAI pour faire leurs devoirs. Et comme nous l’évoquions dans un précédent article, ChatGPT peut même tromper les scientifiques. D’ailleurs, celui-ci est déjà considéré comme le cauchemar des profs.

En effet, un étudiant peut simplement recopier la consigne sur l’interface de ChatGPT. Et côté prof, il est très difficile de distinguer les textes rédigés par les étudiants, de ceux qui ont été rédigés par une intelligence artificielle. Mais les solutions à ce fléau arrivent. Quelques développeurs ont déjà annoncé des logiciels détecteurs de textes rédigés par IA. Et désormais, OpenAI, la société derrière ChatGPT, propose aussi une solution.

La nouvelle arme des profs contre ChatGPT ?

Comme le rapporte TechCrunch, OpenAI a récemment sorti son outil de détection appelé “AI Text Classifier”. Basé sur GPT, celui-ci n’indique pas si un texte a été écrit par une IA ou non (pas de réponse binaire), mais retourne le niveau de probabilité qu’un texte ait été généré par IA. Et cette détection ne prend pas seulement en charge les textes de ChatGPT, mais aussi ceux des intelligences artificielles génératives similaires. Si un étudiant fait faire ses devoirs par l’un de ces logiciels, il est possible pour le prof de faire le test.

Just tried OpenAI's new AI text classifier for whether something was written by an AI or not. Put my latest blog post in there and it said "very unlikely AI generated."

Anytime I write something with AI assistance I will disclose. https://t.co/lCak5Zqqfl pic.twitter.com/QmMzRntCj9

— Robert Scoble (@Scobleizer) January 31, 2023

Mais si l’outil est déjà un bon début, celui-ci est pour le moment très limité. Cité par TechCrunch, OpenAI indique que le taux de succès de son détecteur est actuellement de 26 %, ce qui est faible. Néanmoins, combiné à d’autres méthodes de détection, AI Text Classifier peut avoir plus d’efficacité pour détecter la triche. “Nous mettons ce classificateur initial à disposition pour obtenir des commentaires sur l’utilité d’outils comme celui-ci et espérons partager des méthodes améliorées à l’avenir”, a indiqué l’entreprise.

Autre limitation : le texte doit comporter au moins 1 000 caractères. Et OpenAI admet que son classificateur n’est pas très efficace si un texte a été rédigé par un enfant, ou si celui-ci n’est pas en anglais. “Le texte généré par l’IA peut être modifié facilement pour échapper au classificateur”, explique aussi l’entreprise. En d’autres termes, si l’outil peut aider, il est loin d’être une solution magique.

Open AI catches Open AI – I copied the ChatGPT result into the AI text classifier tool they released today pic.twitter.com/pZDRujadI0

— Barry Schwartz (@rustybrick) January 31, 2023

Une IA détectrice d’IA

Pour entraîner cette IA détectrice d’IA, OpenAI a utilisé des textes générés par 34 systèmes, dont les siens, ainsi que des textes équivalents, mais rédigés par des humains, sur des sites tels que Wikipédia. Outre les professeurs, AI Text Classifier peut également être utile pour les plateformes qui ont banni les publications et commentaires rédigés par IA. C’est le cas de StackOverflow, un forum d’entraide pour les développeurs.

Néanmoins, il est à noter que pour Sam Altman, il ne faudrait pas trop compter sur les détecteurs. En janvier, celui-ci avait promis de donner des outils de détection, tout en admettant qu’il sera toujours possible de contourner ces détecteurs. “[…]je ne pense pas que ce sera quelque chose sur lequel la société peut ou devrait compter à long terme”, avait-il déclaré.

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.