Il y a peu, le roman de Thélysson Orélien, C’était ça ou mourir, était au cœur d’une tempête médiatique. L’auteur a été accusé d’avoir utilisé l’intelligence artificielle pour écrire son livre, accusation étayée par les résultats de Pangram, un site spécialisé dans la détection de contenus générés par IA. Toutefois, ces détecteurs ne sont pas infaillibles et le débat reste ouvert, même s’il penche sérieusement du côté de l’IA. Avec la nouvelle fonctionnalité présentée par OpenAI, le doute ne devrait plus subsister.
En effet, OpenAI a annoncé l’ajout d’un filigrane invisible dans les textes produits par ChatGPT. La société américaine se plie ainsi à la nouvelle loi européenne sur la transparence, qui implique de marquer tout contenu généré par IA. C’était déjà le cas pour les images et les vidéos, ce sera maintenant le cas pour le texte.
Un tatouage numérique dans le texte
Pour le moment, ce filigrane n’est disponible que pour les développeurs. À terme, il sera déployé auprès des utilisateurs de ChatGPT dans l’Union européenne. Au lancement, il ne sera cependant pas activé par défaut. Il ne s’agit pas d’un symbole superposé au texte, mais d’un signal invisible dans le choix et l’ordre des mots, comme l’explique la firme californienne :
« Notre technologie de tatouage numérique de texte, textGrain, ajoute un signal statistique invisible aux choix de mots du modèle. Notre détecteur recherche ce signal pour déterminer si un passage contient un tatouage numérique OpenAI. »
En clair, il suffira de passer un texte généré par IA dans un détecteur pour que celui-ci puisse déterminer immédiatement s’il provient d’une machine, sans risque de faux positifs. Ce système a toutefois ses limites, puisqu’OpenAI précise que les textes courts (moins de 200 mots) sont plus difficiles à détecter. La modification peut également altérer le filigrane. Sur un texte de 400 mots, le remplacement de 10 % du contenu fait baisser le taux de détection de 99 % à 66 %. Rien d’étonnant, puisqu’un humain a réécrit une partie du texte.
Évidemment, ce n’est là que le début et on imagine qu’OpenAI affinera sa formule à l’avenir. Savoir précisément détecter un texte écrit par IA va devenir un enjeu majeur, que ce soit dans la littérature ou dans la vie de tous les jours : pour les employeurs qui reçoivent des candidatures ou tout simplement pour les professeurs, confrontés quotidiennement à des contenus générés par IA.
- OpenAI a introduit un filigrane numérique dans les textes générés par ChatGPT et Codex.
- Cette innovation permet d’identifier plus facilement les contenus produits par l’intelligence artificielle.
- L’objectif est d’améliorer la transparence sur l’utilisation des générateurs de texte par IA.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
