- La version 5 de Midjourney est l’auteur de ce deepfake du pape devenu viral au cours du weekend
- Les productions de cette IA, à partir d’une simple descritption succinte, sont devenues quasiment photoréalistes
- Le débat sur les dangers des images générées par des IA continue
Au cours du week-end, une image montrant le pape François dans une grosse doudoune blanche a fait le tour de Twitter, trompant de nombreuses personnes qui pensaient vraiment qu’il s’agissait du pape. En réalité cette image du pape a été créé en utilisant Midjourney v5.
OKAAYYY pic.twitter.com/MliHsksX7L
— leon (@skyferrori) March 25, 2023
Le bot Discord de création d’image vient de lancer sa 5e version qui lui permet de pousser beaucoup plus loin ce qu’il est possible de générer via l’IA. L’image elle-même est apparue pour la première fois dans le tweet d’un utilisateur nommé Leon (@skyferrori) samedi et a rapidement commencé à circuler dans un tumulte de tweets et de memes présentant des images similaires.
Twitter signale une image du Pape, à cause de l’IA
Peu de temps après, Twitter ajoutait un avertissement sous la photo alors déjà maintes fois partagée sur le réseau : “il s’agit d’une image générée par IA du pape François et non d’une photo authentique”. Selon le réglement de Twitter, les utilisateurs “ne peuvent pas partager de manière trompeuse des médias synthétiques ou manipulés susceptibles de causer du tort”.
Bien que, dans ce cas, la frontière entre le tort et la parodie puisse être floue, on peut comprendre que l’aura religieuse du sujet a pu conduire à prendre des mesures particulières. Mais alors, comment, dans le détail, le fait que l’image a été générée par l’IA a-t-il été découvert ?
Pour l’heure, les productions de l’IA ne sont pas encore parfaites. The Verge détaille d’ailleurs tous les petits détails et défauts qui trahissent son auteur réel. Par exemple, lorsqu’on zoome sur certaines portions de l’image on trouve des déformations et artefacts, tels que le collier crucifix du pape, l’ombre tordue de ses lunettes et la nature de ce qu’il tient dans sa main (une tasse ?).
Au premier coup d’œil, la fausse photo semble assez réaliste et peut effectivement tromper beaucoup de monde. Un fait renforcé par le fait que l’on attend le pape dans certaines tenues, et que la moindre petite extravagance a beaucoup de visibilité.
Le service d’image utilisé pour créer la fausse photo, Midjourney, a été lancé l’année dernière. Avec DALL-E et Stable Diffusion, Midjourney fait partie des trois grands modèles de synthèse d’images qui ont gagné en popularité en ligne. Tous trois permettent aux utilisateurs de générer de nouvelles images à partir de simples descriptions textuelles appelées “prompts”.
Dans ce cas, le prompt donné à Midjourney pour créer cette photo du pape aurait pu être aussi simple que “Montre moi le Pape François dans une doudoune blanche particulièrement épaisse”.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
Moi ce qui me fait le plus peur, c’est pas que l’on puisse générer des fakes news, mais surtout qu’on fasse passer pour des fakes news des vraies photos.