eL’intelligence artificielle est de plus en plus présente dans notre quotidien et ses avancées sont fulgurantes. OpenAI vient de lancer Sora, un nouvel outil d’IA capable de générer des vidéos ultra-réalistes. Si les résultats sont impressionnants, certains s’inquiètent de son potentiel à contribuer à la prolifération de fausses informations.
Il y a quelques jours, la revue scientifique Frontiers, reconnue pour sa fiabilité et son sérieux, a publié un article sur les fonctions cellulaires des cellules souches spermatogoniales en relation avec la voie de signalisation JAK-STAT. Le problème, c’est qu’une image d’un rat au pénis géant s’y est glissée en toute discrétion. Elle a été générée par Midjourney. Il a fallu deux jours que la revue réalise sa grossière erreur et supprime l’article en ligne.
Une erreur qui a de quoi inquiéter
Il faut préciser que l’utilisation de l’intelligence artificielle n’est pas prohibée par Frontiers. Effectivement, des outils comme Midjourney peuvent permettre d’illustrer des propos parfois abstraits ou trop complexes à l’écrit. Mais il y a certaines règles à suivre, avec une transparence rigoureuse, pour ne pas flouer les lecteurs. Si les auteurs de l’article sont jugés responsables de la vérification de l’exactitude factuelle de tout contenu généré par l’intelligence artificielle, il est étonnant que les diverses relectures par d’autres scientifiques n’aient pas permis d’éviter la publication erronée de cette image.
Outre une représentation disproportionnée de l’anatomie du rat, l’image comprend des légendes totalement incompréhensibles. Midjourney n’a jamais été très fort pour générer du texte. Ainsi, on peut lire des mots improbables comme “senctolic stem cells”, “dissilced” ou encore “iollote sserotgomar cell”.
L’image de ce rat au pénis démesurée peut prêter à rire. Pourtant, le fait que cette image erronée générée l’IA ait pu passer sous les radars des auteurs ainsi que des chercheurs chargés de relire les articles publiés dans cette revue scientifique reconnue est inquiétant. Cela n’aurait jamais dû arriver. Et pourtant…
Drôle, peut-être. Mais c’est la crédibilité de la revue scientifique Frontiers qui en prend en coup. Effectivement, il est difficile de prendre le magazine spécialisé au sérieux après une telle bévue. L’article a été corrigé puis retiré après deux jours de publication, ne répondant pas aux normes en matière de rigueur éditoriale et scientifique. Mais le mal est fait.
Si une erreur aussi grossière a pu passer entre les mailles du filet, cela peut très bien laisser entendre que des inexactitudes plus discrètes et plus infirmes aient pu se glisser dans de nombreux papiers déjà publiés. La revue scientifique Nature, elle, interdit l’usage de l’intelligence artificielle pour ces raisons précises. Selon elle, plus de 50 000 articles scientifiques ont fait l’objet d’une demande de rétraction suite à des soupçons d’erreurs générées par l’IA.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
