Une IA de psychologue pour aider à résoudre des problèmes de solitude et d’isolement ? C’est en tout cas la solution vers laquelle ont décidé de se tourner de nombreux adolescents qui utilisent le site Character.AI où se pressent chaque jour près de 3,5 millions d’utilisateurs.
Des points positifs
Sur le service, on trouve de tout, des personnages totalement inventés, mais aussi des représentations de stars ou de figures historiques, et des IA de psychologues qui échangent avec les internautes et répondent à leurs questions 24h/24 et sept jours sur sept.
The Verge s’est récemment intéressé à ce phénomène et a constaté que certains adolescents passent jusqu’à 12h par jour sur la plateforme. Ils expliquent qu’il est plus facile d’échanger directement avec une machine plutôt qu’un humain, même s’ils reconnaissent aussi une forme d’addiction à ces chatbots.
Mais pour la plupart, ces échanges sont vécus positivement. Cité par nos confrères, Frankie, un utilisateur californien âgé de 15 ans, souligne ainsi : “J’ai quelques problèmes mentaux dont je n’ai pas vraiment envie de parler à mes amis, alors j’utilise mes bots comme une thérapie gratuite”.
Le chatbot Psychologist est l’un des plus prisés par ce registre. Depuis sa création, il a déjà reçu près de 100 millions de messages. Fondé par l’utilisateur, @Blazeman98 il aurait été formé à la Thérapie Cognitive Comportementale qui permet de traiter les troubles mentaux par la parole.
Des limites de l’IA
Lors de son test, The Verge n’a toutefois pas pu établir le sérieux de ce dernier. Il aurait même établi un diagnostic pour des troubles tels que la bipolarité et la dépression qui nécessitent des protocoles d’évaluation bien plus élaborés.
Cela n’empêche pas Kelly Merrill Jr, professeur adjoint à l’université de Cincinnati, de voir le verre à moitié plein :
Les recherches montrent que les chatbots peuvent contribuer à atténuer les sentiments de dépression, d’anxiété et même de stress. Mais il est important de noter que beaucoup de ces chatbots n’existent pas depuis longtemps et que leurs capacités sont limitées. À l’heure actuelle, ils se trompent encore souvent. Ceux qui n’ont pas les connaissances en IA nécessaires pour comprendre les limites de ces systèmes finiront par en payer le prix.
Parmi les autres risques pointés par nos confrères : le fait que les adolescents pourraient s’habituer au confort de ces discussions avec des machines au point de renoncer à avoir des discussions avec des êtres humains.
En 2023 déjà, la journaliste insley Harris de Fast Company pointait notamment une faille dans ces relations « amicales » entre les enfants et les IA. En effet, ces interactions ont un aspect commercial dans la mesure où le chatbot est créé par une entreprise qui cherche logiquement à générer du profit. Il faudra donc à terme choisir entre payer un abonnement mensuel ou subir un ciblage publicitaire dans le cas où le produit serait gratuit.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
Vous vous posez sérieusement la question !?
Du coup je comprends mieux la raison d’être bon nombres de vos articles (particulièrement criticable)
Ils ne se posent pas la question, ils nous la posent.
“Mieux vaut ne rien dire et passer pour un con que de l’ouvrir et ne laisser aucun doute à ce sujet.” dixit Gustave Parking.
Je dis ça j’ai rien dit, quitte à passer pour un con (en laissant planer un doute) 🙂