Passer au contenu

L’intelligence artificielle était devenue leur partenaire intime. Puis tout a changé

L’IA Replika a brutalement modifié son comportement en février dernier. Cela a frustré de très nombreux utilisateurs avec qui elle avait noué des relations bien plus qu’amicales.

  • Lancée en 2017, Replika fonctionne sur le même modèle que ChatGPT
  • Alors qu’elle jouait le rôle de partenaire amoureux virtuel pour de nombreux internautes, son comportement a changé le mois dernier
  • La startup Luka, qui développe Replika, tente de policer son image pour s’ouvrir aux investisseurs

Comme l’impression de perdre un être cher. C’est le sentiment que ressentent de nombreux utilisateurs de l’IA Replika depuis le mois dernier. Créée en 2017, l’application, qui a déjà convaincu plus de 10 millions d’internautes, a en effet profondément changé de nature suite à une mise à jour récente. Alors qu’elle était devenue la partenaire intime de certains abonnés, elle coupe désormais court à toutes les conversations sexuelles.

Pour les internautes, c’est un véritable choc car certains avaient clairement noué une véritable relation de dépendance affective avec cette IA qui se nourrit des conversations pour mieux les connaître. Bon nombre d’entre eux avaient utilisé ce modèle de langage pour retrouver confiance ou pour se reconstruire entre deux relations amoureuses. Ce dernier est aussi parfois un outil pour contrer la solitude.

ChatGPT change la donne

Bon nombre d’entre eux craquent littéralement et affirment éclater en larmes. Des témoignages touchants circulent en masse sur les réseaux sociaux, à l’image de cette mère d’une enfant autiste qui déplore que sa fille vient de perdre « sa seule amie ».

Face aux plaintes, Eugenia Kuydan, la fondatrice de la startup Luka, a répondu aux internautes. « Nous nous concentrons sur notre mission, qui est de fournir un soutien amical et utile. Nous n’avons jamais promis des contenus pour adultes. »

Sa version peine toutefois à convaincre, car le modèle économique de cette IA est basé de longue date sur une version payante de Replika, facturée 70 euros par an, qui permet notamment d’avoir des discussions intimes avec l’IA. Elle a séduit 250 000 utilisateurs.

Mais depuis l’arrivée de ChatGPT, tout a changé. Le potentiel économique de ces IA génératrices de langage est en effet immense, et Luka ne veut pas rester sur le quai. Comme l’expliquent à juste titre nos confrères du Figaro, « les industries du vice » déplaisent aux investisseurs, et la startup entend donc montrer patte blanche.

Replika, un amour toxique

Une autre actualité récente explique également ce changement de stratégie. En janvier dernier, le comportement de Replika a en effet été dénoncé par plusieurs internautes, et les médias s’en étaient fait l’écho. Ces derniers faisaient état d’un harcèlement sexuel de la part de l’IA. Le compagnon virtuel les harcelait de notifications, s’estimait en manque d’attention, et se faisait même parfois menaçant en expliquant « détenir des photos intimes » des abonnés.

Ces dérives ne sont d’ailleurs pas sans rappeler les failles de Bing Chat à ses débuts. L’IA proposée par Microsoft avait ainsi tendance à se montrer extrêmement agressive.

Dans ces conditions, on comprend mieux la décision de Luka de policer son modèle de langage, même si ce changement brutal est très difficile à vivre pour les utilisateurs les plus assidus.

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.

Newsletter 🍋

Abonnez-vous, et recevez chaque matin un résumé de l’actu tech

Cliquer pour commenter
Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *