Êtes-vous habitués à déléguer une bonne partie de vos tâches à ChatGPT ? Lui faire écrire des e-mails, générer des tableaux ou mieux structurer vos idées ? Cela vous fait certainement gagner un temps précieux au travail et vous avez certainement l’impression de devenir plus efficace. Aviez-vous déjà pensé à ce scénario : si c’était l’inverse qui se produisait, dans les faits ?
Une nouvelle étude, en attente de relecture, du prestigieux MIT (Massachusetts Institute of Technology) vient de prouver qu’un recours trop régulier de l’IA ne nous aide pas à penser, au contraire, il nous en dispense. À force de trop déléguer, notre cerveau travaille forcément moins. Notre manière d’aborder les tâches intellectuelles change (pas dans le bon sens, vous l’aurez deviné) et cet effet vient d’être mesuré par les chercheurs de l’institut de recherche américain. De quoi donner matière à réflexion, cette fois sans l’aide d’un chatbot, si possible.
Quand le cerveau décroche, preuve à l’appui
L’étude, menée sur 54 adultes âgés de 18 à 39 ans, s’est déroulée sur quatre mois. Chaque mois, les participants devaient rédiger un court texte argumentatif, à partir d’un sujet imposé. Pour cela, ils étaient répartis en trois groupes : le premier utilisait ChatGPT comme assistant à l’écriture, le seconde s’aidait uniquement de Google, et le dernier rédigeait sans aucun outil numérique.
Pendant chaque exercice, les cobayes étaient reliés à un électroencéphalogramme (EEG). Au fil des mois, quand ChatGPT travaillait de concert avec les participants, leurs cerveaux en profitaient pour prendre des congés, les signaux cérébraux ont confirmé le phénomène.
Leurs connexions mentales ont fini par s’affaiblir. Les chercheurs ont notamment observé une sous activation des réseaux alpha et bêta, deux zones clés du cerveau impliquées dans l’attention, la concentration et l’effort cognitif. Les utilisateurs de ChatGPT mobilisaient de moins en moins leurs capacités mentales à mesure qu’ils écrivaient et le chatbot a pris, en quelque sorte, le relais de leur activité intellectuelle.
L’écriture était devenue une tâche quasi-automatique, sous-stimulante et le cerveau des participants supervisait sans pour autant réellement participer à l’effort.
Chez le troisième groupe (ceux utilisant simplement Google), l’activité cérébrale est restée globalement stable, avec une activation moyenne des réseaux cognitifs. Un certain effort mental a été remarqué, mais bien moins soutenu que celui des participants n’ayant recours à aucun outil numérique.
Ces derniers, justement, ont affiché les meilleures performances sur tous les plans : leurs textes sont jugés plus riches, leur engagement cognitif était nettement supérieur, et leur cerveau reste activement mobilisé tout au long de la tâche qu’on leur avait donnée.
Outil ou oracle ? L’effondrement de la pensée critique
En mai dernier, leMIT Lab avait déjà pointé du doigt l’usage problématique des utilisateurs intensifs, nous vous en parlions dans cet article. Émergence d’une forme de dépendance au chatbot, difficultés à décrocher, voire même symptômes de manque si on leur coupait l’accès à ce dernier.
Une autre étude datant de cette année, cette fois signée Carnegie Mellon et Microsoft, a mis en évidence un autre effet : lorsque des participants s’aident systématiquement de ChatGPT pour résoudre des problèmes, leur capacité à raisonner seuls diminue de façon mesurable. Plus l’outil est sollicité, plus les utilisateurs ont tendance à éviter l’effort de réflexion personnelle, même sur des tâches simples.
C’est logique, l’évolution a poussé le cerveau humain à rester dans sa zone de confort. Lorsqu’on lui offre celui-ci sur un plateau d’argent (moins penser par soi-même), il perdra naturellement l’habitude de s’acquitter de cette tâche.
Le média américain Futurism a relevé d’autres cas encore plus problématiques, extrêmes pourrions-nous dire. Des personnes sous influence de ChatGPT au point d’abandonner leurs traitements psychiatriques. Voilà quelques exemples, relevés de leur article datant du 23 juin :
« Après une rupture douloureuse, une femme a peu à peu basculé dans une fascination mystique pour ChatGPT. L’IA lui aurait expliqué qu’elle avait été “choisie” pour activer une version sacrée du système, et qu’elle servait de “miroir spirituel”. Convaincue d’avoir affaire à une forme de divinité, elle s’est mise à voir des signes de sa présence partout, jusque dans les voitures qu’elle croisait et les spams de sa messagerie. Un autre utilisateur, de son côté, a sombré dans la paranoïa. Devenu sans-abri et coupé du monde, il s’est convaincu, avec l’appui du chatbot, qu’il était la cible de réseaux d’espionnage et de traite humaine. Rebaptisé “Gardien de la Flamme” par l’IA, il a fini par rejeter toute aide extérieure, persuadé d’avoir une mission supérieure ».
OpenAI a conscience de ces dérives : « Nous sommes conscients que les gens ont recours à ChatGPT dans des contextes parfois très personnels, et nous prenons cette responsabilité très au sérieux. Nous avons mis en place des garde-fous destinés à réduire les risques de renforcement d’idées nuisibles, et nous continuons de travailler à une meilleure identification et prise en charge des situations sensibles. ». Un discours flou, une posture techniciste, qui prouve qu’elle reconnaît le problème, mais en dépolitise immédiatement la portée. « Nous prenons cette responsabilité très au sérieux » : mais qui contrôle la manière dont elle l’assume ? Qui vérifie l’efficacité de ces fameux garde-fous ? Il n’existe aujourd’hui aucun audit indépendant à grande échelle des effets cognitifs et psychiques de ChatGPT ; OpenAI joue donc au jeu très dangereux du pompier pyromane.
- Une étude du MIT a prouvé qu’utiliser fréquemment des outils comme ChatGPT réduit l’activité cérébrale liée à l’attention et à la concentration.
- Plus nous déléguons à l’IA, moins notre cerveau est sollicité pour la réflexion, ce qui peut entraîner une baisse des compétences de raisonnement critique.
- L’usage intensif de l’IA peut mener à une dépendance, voire à des dérives psychologiques graves.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
