ChatGPT permet d’augmenter notre productivité. Mais chez certaines personnes, l’utilisation de l’IA a eu des conséquences dramatiques. De son côté, OpenAI semble déjà tenir compte des cas signalés par les médias, puisque, selon nos confrères de Futurism, l’entreprise a déjà recruté un psychiatre à temps plein. Le rôle de cette personne est d’aider OpenAI a mener des études sur l’impact de ses produits sur la santé mentale des utilisateurs.
“Nous approfondissons activement nos recherches sur l’impact émotionnel de l’IA”, a déclaré l’entreprise dans un communiqué fourni à Futurism. “Nous développons des moyens de mesurer scientifiquement la façon dont le comportement de ChatGPT peut affecter les gens sur le plan émotionnel, et nous écoutons attentivement ce que les gens vivent.”
Certaines personnes ont développé une dépendante affective, d’autres pensent que tout ce que dit l’intelligence artificielle est vrai
OpenAI consultera aussi des experts externes. Et tous ces efforts doivent permettre à l’entreprise de modifier ses modèles d’IA, de manière à ce que ceux-ci puissent répondre “de manière appropriée” aux conversations sensibles.
Malheureusement, certaines personnes utilisent l’IA pour discuter de sujets extrêmement sensibles ou très personnels. En juin, le New York Times a publié des histoires de personnes vulnérables qui, en discutant avec l’IA, ont perdu contact avec la réalité. L’une de ces personnes a été abattue par la police américaine, car elle voulait tuer les dirigeants d’OpenAI. En mai, l’histoire d’un divorce causé par ChatGPT a aussi fait les titres de la presse dans le monde.
- L’utilisation de ChatGPT améliore la productivité des utilisateurs, mais il peut aussi avoir de graves conséquences sur la santé mentale
- En réponse aux nombreux cas signalés par la presse, OpenAI indique qu’il va approfondir ses recherches sur l’impact émotionnel de l’IA
- Le créateur de ChatGPT travaille aussi avec un psy à temps plein pour étudier l’impact de ses produits sur la santé mentale
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
