Aujourd’hui, certains modèles d’IA sont tellement puissants qu’ils sont en mesure de générer des images ultra-réalistes, et très trompeuses. Et si les plateformes en ligne ne souhaitent généralement pas interdire l’utilisation d’images générées avec l’intelligence artificielle, celles-ci essaient de lutter contre les abus et d’être transparentes.
En ce qui concerne TikTok, par exemple, celui-ci signale déjà l’utilisateur, via une étiquette, quand un contenu qui a été généré avec ses propres outils apparaît à l’écran. Et bientôt, ce dispositif, qui permet aux utilisateurs d’être informés, sera étendu aux images générées avec l’IA sur d’autres outils en ligne.
Pour identifier les images qui ont été créées avec l’intelligence artificielle générative, TikTok va s’appuyer sur la technologie Content Credentials de la Coalition for Content Provenance and Authenticity (C2PA). Cette technologie permet aux générateurs d’images d’inclure une signature cachée dans les contenus qu’ils produisent, ce qui permet ensuite aux plateformes comme TikTok d’identifier instantanément les images générées par l’IA. Par exemple, si une personne génère une image sur DALL-E 3, le modèle de création d’images d’OpenAI, puis publie cette image sur TikTok, le réseau social sera en mesure d’identifier ce contenu comme étant un produit de l’IA générative.
Limiter les risques, sans nuire à la créativité
“Le contenu généré par l’IA est un incroyable débouché créatif, mais la transparence pour les téléspectateurs est essentielle”, a déclaré Adam Presser, responsable des opérations, de la confiance et de la sécurité chez TikTok, selon TechCrunch. “En nous associant à des pairs pour étiqueter le contenu sur toutes les plateformes, nous permettons aux créateurs d’explorer facilement de manière responsable le contenu généré par l’IA, tout en continuant à dissuader les AIGC (ndlr, contenus générés par l’IA) nuisibles ou trompeurs qui sont interdits sur TikTok.”
#TikTok will be the 1st social media platform to label #AIGC. Adobe's Firefly, TikTok's own AI image generator, and #OpenAI's Dall-E generated content will all be automatically labeled for users to identify. pic.twitter.com/PV49hZiLyN
— Tech Tech China (@techtechchina) May 10, 2024
Par ailleurs, en plus d’étiqueter les contenus générés par l’IA qui sont publiés sur sa plateforme, TikTok va aussi appliquer la technologie Content Credentials aux images qui sont créées avec ses filtres IA. Ainsi, si une personne produit du contenu avec ces filtres TikTok, ce contenu pourra être étiqueté par d’autres réseaux sociaux.
Pour rappel, Meta, qui inclut Facebook, Instagram et WhatsApp, s’est aussi engagé à utiliser Content Credentials. “Nous développons des outils de pointe capables d’identifier les marqueurs invisibles à grande échelle – en particulier les informations « générées par l’IA » dans les normes techniques C2PA et IPTC – afin que nous puissions étiqueter les images de Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock. alors qu’ils mettent en œuvre leurs projets d’ajout de métadonnées aux images créées par leurs outils”, a annoncé la société de Mark Zuckerberg, en février.
- TikTok va commencer à étiqueter les images générées avec l’IA, même quand celles-ci ont été créées sur d’autres outils, comme DALL-E 3
- Pour identifier les images générées par l’IA, TikTok s’appuie sur Content Credentials de la Coalition for Content Provenance and Authenticity (C2PA)
- Cette technologie permet aux modèles d’IA de placer des marqueurs sur les contenus qu’ils produisent, afin que ces contenus soient facilement identifiables comme étant des produits de l’intelligence artificielle
- Le groupe Meta s’est aussi engagé à proposer une fonctionnalité similaire sur ses plateformes
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
Ben c’est pas trop tot, marre d’avoir des potes complotistes parqu’ils passent leur journée sur tik tok.