« Une détérioration de facultés cognitives qui devraient être préservées ». Des chercheurs de Microsoft et de l’université Carnegie n’y vont pas par quatre chemins pour présenter les risques liés à une utilisation massive de l’intelligence artificielle générative au travail. Pour y voir plus clair, les scientifiques ont justement mené une étude d’ampleur. Voici ce qu’il faut en retenir.
Un risque pour nos cerveaux ?
Concrètement, 319 travailleurs ont participé à cette enquête. Dans l’ensemble, ces professionnels ont mentionné 936 exemples de leur utilisation de ces outils dans le cadre de leur mission. Il leur a ensuite été demandé de répondre à des questions sur leur façon de recourir à cette technologie, leur confiance dans ces modèles et sur leur capacité à accomplir une tâche sans ces derniers.
Comme le détaille 404media, ces employés ont cité des cas concrets d’utilisation de l’IA à l’image d’un enseignant qui emploie le générateur d’images DALL-E pour générer des illustrations pour ses cours, ou encore un trader qui demande à ChatGPT des recommandations stratégiques pour des investissements.
Les auteurs de l’étude notent tout d’abord : « L’ironie clé de l’automatisation est qu’en mécanisant les tâches de routine et en laissant la gestion des exceptions à l’utilisateur humain, vous privez l’utilisateur des opportunités habituelles d’exercer son jugement et de renforcer sa musculature cognitive, le laissant atrophié et non préparé lorsque les exceptions surviennent ».
Alors que l’IA améliore l’efficacité de ces employés, en les privant de l’exécution de ces missions de routine, elle pourrait diminuer leur capacité à résoudre les problèmes par eux même, soulignent les auteurs.
Autre souci de taille relevé par cette étude : « Les utilisateurs ayant accès aux outils de GenAI produisent un ensemble de résultats moins diversifié pour la même tâche, par rapport à ceux qui n’en ont pas. Cette tendance à la convergence reflète un manque de jugement personnel, contextualisé, critique et réflexif sur les résultats de l’IA et peut donc être interprétée comme une détérioration de la pensée critique. »
Créer des IA qui nous fassent réfléchir
Les chercheurs estiment qu’il ne faut pas pour autant paniquer. Ils notent d’ailleurs que des discours alarmistes ont entouré le lancement d’innovations majeures par le passé avec l’idée qu’ils détruiraient l’intelligence humaine : l’écriture, l’impression, les calculatrices, ou encore Internet.
Pour allant de l’avant, les scientifiques suggèrent des axes d’amélioration pour éviter que ces technologies nous ramollissent le cerveau :
Les IA génératives pourraient intégrer des fonctionnalités qui facilitent l’apprentissage des utilisateurs, comme fournir des explications sur leur raisonnement, suggérer des domaines d’amélioration pour l’utilisateur ou proposer des critiques guidées. L’outil pourrait aider à développer des compétences spécifiques de pensée critique, comme l’analyse des arguments ou le recoupement des faits avec des sources faisant autorité. Cela s’alignerait sur l’approche de renforcement de la motivation consistant à positionner l’IA comme un partenaire dans le développement des compétences.
Ce message d’alerte est passé et il nous invite à une réflexion personnelle sur ces outils avec lesquels nous devons apprendre à cohabiter.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
