Bientôt, les textes que vous générez avec Claude pourront être identifiés grâce à un marqueur invisible. Son créateur, Anthropic, a signé le “Code de bonnes pratiques sur la transparence du contenu généré par l’IA” de l’Union européenne, pour se conformer aux nouvelles règles de Bruxelles. Et, parmi les conséquences de cette signature, il y a l’adoption d’un marqueur invisible, que vous ne verrez pas, mais qui permettra à des logiciels de déterminer si un texte a été généré par l’IA.
Cette mesure de transparence s’appliquera d’abord à tous les modèles d’IA que Claude propose dans l’UE depuis le 2 août. “Le texte généré comportera des filigranes intégrés et les fichiers générés incluront des métadonnées de provenance signées numériquement lorsque cela est possible”, explique Anthropic. Quant aux modèles d’IA anciens, ils pourraient aussi intégrer ce type de marqueur invisible, plus tard. En effet, l’entreprise indique qu’elle travaille aussi sur la prise en charge de cette nouvelle fonctionnalité par ses anciens modèles.
Ces marqueurs seront masqués sur les textes générés partout dans le monde, mais pas uniquement dans l’UE. De plus, tous les produits seront concernés, si le modèle utilisé intègre cette fonctionnalité. Cela inclut Claude, Claude Code, Claude Cowork, Claude Tag, mais aussi les modèles Claude utilisés par des applications tierces via l’API. Quant au logiciel qui permettra de détecter ce marqueur invisible, il est déjà en cours de développement. “Nous travaillons également à permettre aux utilisateurs et à d’autres tiers de détecter les filigranes intégrés et les métadonnées de provenance de Claude. La détection consiste à vérifier si un texte ou un fichier comporte une marque Claude prise en charge. Si une telle marque est détectée, cela indique que le contenu a peut-être été traité par Claude”, annonce Anthropic, à ce sujet.
Il faudra faire une interprétation très prudente
Tout en adoptant cette technologie, Anthropic admet que celle-ci a des limites. “La présence d’une marque détectée indique que le contenu a été traité par Claude, mais n’est pas une preuve totalement concluante”, prévient l’entreprise. Par exemple, un texte peut contenir le marqueur de Claude si l’auteur a utilisé l’IA d’Anthropic pour corriger, traduire ou même convertir un fichier.
Et l’absence de ce marqueur ne permet pas d’avoir une certitude totale que le texte n’a pas été généré ou traité par Claude. En effet, il peut s’agir d’un texte généré par une ancienne IA d’Anthropic qui n’intègre pas son nouveau marqueur invisible. De plus, si un contenu est modifié, cela peut retirer le marqueur invisible. Et Anthropic admet également que son signal n’est pas fiable si un texte est trop court.
En tout cas, il est à noter qu’Anthropic n’est pas le seul laboratoire d’IA à avoir signé le Code de bonnes pratiques de l’UE concernant l’IA. Parmi les autres signataires, on peut citer Google, ainsi que le groupe Meta.
- Signataire du “Code de bonnes pratiques sur la transparence du contenu généré par l’IA” de l’Union européenne, Anthropic annonce l’arrivée d’un marqueur invisible pour identifier les textes générés par Claude
- Ce marqueur sera d’abord intégré aux nouveaux modèles d’IA, mais l’entreprise travaille aussi sur l’intégration de cette technologie sur les modèles anciens
- Et un logiciel qui permettra à tout un chacun d’identifier les textes de Claude est aussi en cours de développement
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
