- Les IA génératives sont tellement performantes qu’elles peuvent générer de fausses photos très réalistes
- Mais il y a une partie du corps humain que celles-ci ne savent pas encore bien représenter : les mains
- Et cela serait dû aux données exploitées (car les mains sont rarement bien visibles sur les vraies photos)
Les intelligences artificielles génératives, comme ChatGPT, envahissent notre quotidien. Et il devient important de savoir distinguer les contenus générés par une IA de ceux créés par des humains. En ce qui concerne les textes, des sociétés planchent déjà sur ce problème. Et il existe également des services en ligne qui vous proposent de détecter les fausses photos créées par les IA génératives. Mais avant de passer par des algorithmes de détection, une simple observation des mains peut parfois suffire.
Que ce soit clair, les IA génératives d’images, comme DALL-E ou Midjourney (notre tuto) sont aujourd’hui très sophistiquées. Par exemple, une personne avait utilisé l’une de ces intelligences artificielles pour se créer une fausse vie sur Instagram. Et il a réussi à tromper tout le monde, même ses proches.
Les mains sont étranges sur ces images
Cependant, il semble qu’il y ait encore une partie du corps humain que ces IA génératives ont du mal à bien dessiner : les mains ! Donc, si vous avez un doute sur l’authenticité d’une photo, la première étape (avant d’utiliser un logiciel, par exemple) est d’observer les mains des personnes, si celles-ci sont visibles. Les récentes fausses photos du Pape François qui ont fait le buzz nous le prouvent d’ailleurs.
Ces images ont l’air très réalistes. Mais si vous les observez de près, vous verrez certaines choses qui ne tiennent pas la route. Par exemple, sur l’image de droite, dans sur le tweet ci-dessous, on voit clairement qu’il y a un problème avec la main droite.
https://twitter.com/verge/status/1640532168290992137
Et il ne s’agit pas d’une exception. Les IA génératives, pour le moment, ont vraiment du mal avec les mains. Un problème qui, d’ailleurs, a déjà inspiré de nombreux memes sur Twitter.
https://twitter.com/TalebKabbara/status/1634285739088269324
Pourquoi les IA ont un problème avec les mains ?
Si les IA génératives ont encore du mal à créer des mains réalistes, ce serait à cause des données avec lesquelles elles ont été entraînées. Au mois de janvier, BuzzFeed a interrogé Stability AI, la société derrière l’IA Stable Diffusion, à ce sujet. Et un représentant de cette entreprise a répondu : “Il est généralement entendu que dans les ensembles de données d’IA, les images humaines affichent les mains moins visibles que les visages. Les mains ont également tendance à être beaucoup plus petites dans les images sources, car elles sont relativement rarement visibles en grand format.”
En d’autres termes, ces intelligences artificielles génératives auraient donc besoin de plus d’images de mains, et de meilleure qualité, pour corriger ce problème. En attendant, cette lacune peut vous aider à déterminer rapidement si une image est authentique, sans passer par des techniques avancées.
Mais ce n’est pas tout. BuzzFeed cite également Amelia Winger-Bearskin, une professeure en art et en IA de l’Université de Floride. Celle-ci explique que dans les images que les IA peuvent utiliser, les mains sont souvent incomplètes, quand elles sont visibles. Elles peuvent tenir quelque chose, elles peuvent serrer une autre main, etc.
Quoi qu’il en soit, ces contenus générés par IA commencent à inquiéter. Et, en Europe, on étudie un texte qui imposerait un avertissement pour tout contenu (texte ou image) qui a été généré par une intelligence artificielle. Cela a récemment été annoncé par le Commissaire européen Thierry Breton, lors d’une interview avec France Info.
🗣 Des images créées par des IA ➡️ “C’est compliqué. Il faut laisser l’innovation. Il y en a beaucoup très positives, mais il y en a aussi très dangereuses. Tout ce qui sera généré par une intelligence artificielle, il y aura une obligation” de le préciser, annonce Thierry Breton pic.twitter.com/D3HKMv3wNR
— franceinfo (@franceinfo) April 3, 2023
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
