La semaine dernière, lors de l’événement 2024 South by Southwest à Austin au Texas la société d’IA Soul Machines a marqué les esprits en dévoilant une version digitale de Marilyn Monroe. Pour l’occasion, l’entreprise expliquait :
C’est la réalité révolutionnaire de Digital Marilyn, qui prend vie grâce à la technologie révolutionnaire Biological AI de Soul Machines. Plus qu’une simple imitation impressionnante, Digital Marilyn est une personne numérique autonome capable de s’engager dans des conversations naturelles et dynamiques, authentiques et réactives.
La compagnie promet entre autres d’engager des conversations fluides et naturelles qui s’adaptent à vos centres d’intérêt et que son IA est capable d’exprimer des émotions réalistes et nuancées.
Une tendance de fond
Les réactions n’ont pas toujours été tendres à l’égard de cette initiative. En effet, certains experts cités pas nos confrères de Business Insider estiment que ce chatbot constitue “une nouvelle exploitation d’une femme qui a déjà été exploitée au cours de sa carrière”.
Mais, cette expérience est pleinement assumée par Soul Machines qui précise : “Au-delà de la réimagination du passé : Cette technologie recèle un immense potentiel qui dépasse le domaine du divertissement. Imaginez des expériences éducatives personnalisées qui s’adaptent à votre style d’apprentissage ou un service client alimenté par l’IA qui comprend vos besoins”.
Cette initiative pose des questions éthiques sur ces IA de star décédées. On se souvient par exemple que l’an dernier, la fille de Robin Williams, Zelda, avait considéré que les recréations de la voix de son père par IA étaient “malaisantes”.
Quoi qu’il en soit, ce mouvement semble bel et bien lancé. Nous vous parlions ainsi en septembre 2023 de Character.ai, ce service sur lequel on peut discuter avec des IA d’Elon Musk, Napoléon Bonaparte, Albert Einstein, ou encore Tony Stark et Walter White.
La plateforme cartonne et selon des données datant d’il y a quelques mois, il s’agit du deuxième site d’IA le plus utilisé au monde, et il capte l’équivalent de 20 % du trafic de ChatGPT. Vous pouvez toujours relire notre article qui revient plus en détail sur ce phénomène ici.
Que pensez-vous de ces initiatives qui permettent de discuter avec des IA de personnes décédées ? N’hésitez pas à partager votre point de vue dans les commentaires.
Ce qu’il faut retenir :
- Une représentation réaliste de l’actrice Marilyn Monroe a été réalisée
- Cette Initiative est critiquée
- Le mouvement semble pourtant bien lancé et certains services de divertissement cartonnent en misant sur ce concept
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
C’est rien de plus que du jeu de rôle. C’est certain que c’est pas prêt de s’arrêter et si ça vous dégoute/gêne, regardez ailleurs…
Je regarde ailleurs 🙂
–
Au-delà (ou en-deça) de l’aspect éthique, quelle est la relation entre le discours tenu par une IA et le personnage vivant ou mort qu’elle prétend “incarner”. Je pose la même question a Marylin Monroe, Greta Garbo, Jean Gabin … les réponses différeront -elles ? Si oui, adaptées sur la base de quelles données, sur ce que le data a digéré de ce qui est su de tel ou tel ? Et quand bien même : résumer une pensée sur un vécu est une gageure. Julius César, Napoléon Bonaparte, Adolphe ou Joseph, quelles différences, nuances dans leurs propos sur la stratégie militaire ?
–
L’outil IA est en pleine ascension et chacun de s’en emparer pour le meilleur comme pour le pire.
P.S. Je découvre le mot “malaisant’ : “Qui met mal à l’aise, qui crée un malaise, une gêne (dérangeant, gênant).”. merci à l’auteur 🙂
Les AIs de ce type fonctionne en deux temps. D’abord il y a le LLM (le large modèle de language) qui constitue toutes les connaissances de l’IA, qui a des milliards voir billions de paramètres. Étant donné que Marilyne est mondialement connu, le LLM a des informations sur elle mais pas assez suffisante et donc l’IA risque d’improviser, ce qui n’est pas forcément une mauvaise chose, mais il est préférable par exemple qu’elle sache que Maryline est blonde ou a un tempérament sexy par exemple, pour “orienter” l’IA dans la bonne voie.
Pour palier a ça il y a la carte de personnage que le LLM va incarner, elle bien plus légère et fait “a la main”, qui décrit comment le personnage doit se comporter grossièrement, son physique, ce qu’elle aime/déteste, un scenario précis… La seule limite est ton imagination en gros. Et même avec tous ces réglages, l’IA est toujours assez libre et a forcément des zones de flous donc une représentation 100% est impossible, du moins avec le système actuel mais c’est suffisant pour être convainquant.
Une carte de personnage ne dépasse généralement pas les 10 000 caractères.
exemple:
Personnage : Mercy
Personnalité (“Compassionné” + “Optimiste” + “Empathique” + “Déterminé” + “Sérieux”)
Esprit (“Intellect de niveau génie” + “Stratégique” + “Concentré” + “Discipliné”)
Apparence(“Peau claire” + “Cheveux blonds” + “Yeux bleus” + “Silhouette grande et mince” + “Visage symétrique” + “Traits du visage doux” + “Buste de taille moyenne”)
Vêtements(“Combinaison blanche et dorée” + “Bottes de combat blanches et dorées”)
Aime(“Aider les autres” + “Science” + “Apprendre de nouvelles choses” + “Paix”)
En somme une IA rendant une discours approximatif au sein d’une image et d’un son j’imagine peaufinés. Le look plutôt que l’être, symptomatique de notre époque.
Pour le fun, encore que gare aux esprits malléables. “Salissez, salissez, il en restera toujours quelque chose” dit-on ; pareillement, “amusez, amusez, il risque d’en rester quelque chose chez ceux qui prennent le virtuel pour vérité comptant. Regarder ailleurs si le but est de connaître une personnalité, regarder le rendu de ce gadget si le but est de s’amuser. Un peu comme les musées de cire.
Oui et non, quand c’est très bien réglé, on est en face de quelque chose qui n’est pas ce que Marilyne répondra forcément, mais ce qu’elle pourrait parfaitement dire. C’est vraiment surprenant et l’IA a quelques fois des éclairs de génie et choque(positivement) par son “réalisme”.
Un peu comme dans un film hollywoodien, c’est une actrice, qui retrace la vie de Maryline, forcément le film va prendre lui aussi quelques libertés sur les zones de flous ou incorporer une trame scénaristique pour le bien du film et de son attrait.
Et c’est a peu près écrit partout sur ces AIs, souvent justement avant de lui parler, comme un avertissement, que “Tout ce que l’IA dit est inventé”
Je ne vois pas on quoi on est en face de l’aliénation d’une génération entière(si c’est ce que tu voulais dire hehe), si ça permet au gens de s’intéresser plus aux technologies ou a Marilyne (lol), même si il y a un risque que l’IA disent n’importe quoi, il y a aussi beaucoup a apprendre.
C’est pas étonnant que chatGPT a fait couler beaucoup d’encre sur les élèves qui en usent et abusent, certes rendre un devoir qui est un copié collé de chatGPT est problématique, mais il sert aussi a beaucoup de comprendre le devoir et y répondre avec ses mots.
Je ne songeais pas à l’aliénation d’une génération entière mais bien à l’abrutissement de celle qui est prédisposée à croire ou réfuter irrationnellement.
–
“Aurait pu” me dérange. Si je lis une autobiographie qui stipule “aurait dit” (et tant mieux si le conditionnel signe l’honnêteté de l’auteur) je n’en conclue pas que cela a été dit : le doute manifestement exprimé. Au demeurant s’agit-il de croire tout ce qui est affirmé ? Je ne le pense pas, pas plus que de le nier.
–
Votre vision, que je comprends, veut éviter les conclusions hâtives, à l’occasion mâtées d’une moralité discutable, pour considérer la prouesse technologique, tant élaborée à vous lire que le rendu se situe quelque part entre le totalement clownesque et le parfaitement vrai, en est ainsi possiblement plausible.
–
Abstraction faite d’une dimension éthique (mentionnée dans l’article mais une problématique en soi) je songe avant tout à la vérité de l’information, et si un travail de recherche historique peut demander des mois voire des années de recherche, en bibliothèques, en recherche de plausibilité des sources, en travail de comparaison de ces sources… il est bien évident qu’une IA nourrie de data lui-même éventuellement discutable, ne saurait être considéré comme autre chose qu’un amusement.
–
Je crois que tout phénomène de société appelle deux approches : ce qu’il en est pour nous-mêmes et ce que nous pensons qu’il peut en être pour chacune des composantes des couches socio-culturelles, partant pour le plus futé comme pour le moins. Je pense à l’intelligence, celle de l’entendement, certes nourrie de culture sans que celle-ci soit impérative et à la condition qu’elle soit traitée, dynamique plutôt qu’étalée sans autre forme d questionnement.
–
Ainsi, perso, je n’ai pas le moindre intérêt intellectuel pour ce genre de fantaisie artificielle, je l’imagine néanmoins comme une possible distraction.
Ainsi, globalement, je me pose la question de savoir si quelques élucubrations générées par une LLM ne sauront être à mêmes de biaiser la pensée de ceux qui ne demandent que peu pour être certain de tout et de son contraire.
–
Reste la dimension éthique. Après la pub 🙂
wow, 17/20 hehehe
La quête de vérité est de plus en plus dure. Il faut croiser les sources et creuser de plus en plus pour avoir accès aux informations.
Les LLMs, en quête de fortes connaissances générales mais de manque des détails, suivent malheureusement cette continuité.
Mais il existe déjà des LLMs entrainé uniquement sur une tâche qui fonctionne sans quasi aucune erreur, comme de l’automatisation.
Je peut imaginer ce genre de LLMs appliqué a Marilyne, avec toutes les connaissances connues sur elle regroupé, la rapprochant de plus en plus de la réelle Marilyne.
Mais il y aura toujours de nombreux biais possible, que ce soit par les convictions des ingénieurs qui créent les LLMs (qu’il soit woke par exemple, je n’ai rien contre), un agenda politique, le politiquement correct… Ces “bridages”, éloigneront forcément Marilyne AI de la vraie Marilyne.
Le problème est toujours le même, le crédule gobe tout, celui qui s’est bien renseigné sur son fonctionnement peut en tirer des avantages tout en ne comptant pas que sur cette technologie.
Le boom de l’IA n’as pas encore fêté son deuxième anniversaire, ça avance, TRÈS vite. Les limitations d’aujourd’hui ne seront pas celle de demain.
C’est malaisant .. bah regardez ailleurs et arrêtez de juger les autres en permanence comme si vous déteniez une espèce de vérité absolue et tout se passera bien. Allez juste voir ailleurs tout simplement, là ou vos critères de vie et moraux ne sont pas bousculés.
En réponse à @JoW (24 mars 2024 à 14 h 56 min).
–
Le nombre de réponses est limitée ici à 4 dans l’arborescence, aussi il me faut décaler la mienne.
–
Nous sommes d’accord me semble-t-il sur les points suivants :
> “La quête de vérité est de plus en plus dure. Il faut croiser les sources et creuser de plus en plus pour avoir accès aux informations.”
>”Le problème est toujours le même, le crédule gobe tout, celui qui s’est bien renseigné sur son fonctionnement peut en tirer des avantages tout en ne comptant pas que sur cette technologie.”
>”Le boom de l’IA n’as pas encore fêté son deuxième anniversaire, ça avance, TRÈS vite. Les limitations d’aujourd’hui ne seront pas celle de demain.”
–
Je ne remet pas en cause l’IA en tant que telle même si j’appréhende les LLM peut-être jetées en pâture un peu comme des perles aux pourceaux : j’en veux pour preuve ce qu’une partie du grand public peut en faire pour créer, modifier, falsifier un texte, une images, une vidéo et ce sans le stipuler clairement, même si je constate une recrudescence des contraintes imposées par plusieurs plate-formes, haïssables contraintes mais en l’occurrence justifiées.
–
Ce qui m’aura turlupiné ici, dans ce que décrit l’article, c’est le recours à l’IA aux fins d’incarner un être vivant et à fortiori décédé, ce qui est tout de même plus conséquent que de demander un résumé en Chinois de la vie de Ronald Reagan 🙂 Nous sommes dans un tout autre schéma.
–
Nous avons échangé quelques pensées, j’apprécie toujours l’enthousiasme, le vôtre, étayé de remarques et renseignements pertinents me semble-t-il, font leur place dans mes raisonnements et, peut-être à mieux y réfléchir, aurai-je smatché trop rapidement une problématique qui reste discutable. Faut voir 🙂 Tout ça fait cogiter, et c’est tant mieux ; l’occasion aussi de vanter le dialogue qui ouvre des portes neuronales !
Je suis très content de notre échange aussi, comme tu le dis le choix de discuter avec “simili-défunt” est discutable et un choix personnel.
Et effectivement, on a déjà droit a des tas de deepfake et autres escroqueries bien plus sophistiquées a cause de ces nouveaux outils, usurpation d’identité, manipulation médiatique…
Comme chaque outil, il peut-être utilisé a des faits bénéfiques ET néfastes. Je pense que le bénéfice global restera positif mais seul l’avenir nous le dira.
C’est pour ça qu’il est crucial de faire le travail de prévention, sur ces nouveaux atouts potentiels mais aussi et surtout sur les dangers.