- ChatGPT a le cerveau d’un enfant de 9 ans selon un chercheur de l’Université de Stanford
- Ses capacités de compréhension sont impressionnantes
- Cet outil reste perfectible, et il faut être prudent
En novembre dernier, un peu avant que ChatGPT ne devienne un phénomène de société, Michal Kosinski, un chercheur de l’université de Stanford, a fait passer de surprenants exercices au modèle de langage d’OpenAI. En temps normal, et en se basant sur la théorie de l’esprit, les scientifiques tentent d’examiner la capacité d’un enfant à comprendre les intentions d’une autre personne dans des situations spécifiques.
Pourquoi il ne faut pas s’emballer ?
Cette fois, c’est ChatGPT lui même qui était invité à anticiper les comportements via des énoncés écrits. Et les résultats sont pour le moins impressionnants, puisque l’IA a obtenu une note de 94 %, soit 17 sur 20, ce qui équivaut au score d’un enfant de neuf ans. Si ce constat est marquant, c’est surtout car les IA qui avaient été testées par le passé récoltaient généralement des notes assez basses et échouaient dans cette tâche.
Cité par nos confrères de Techradar, Michal Kosinski précise à ce sujet : « Nos résultats montrent que les modèles de langage récents atteignent des performances très élevées dans les tâches classiques de fausses croyances, largement utilisées pour tester la théorie de l’esprit chez les humains. »
Il prévient toutefois qu’il ne faut pas trop s’emballer. En effet, ces IA basées sur des réseaux de neurones artificiels ont un point faible : leurs concepteurs sont souvent incapables de prédire leurs réactions ni d’expliquer leurs résultats.
Quand ChatGPT débloque sur Bing
Dès lors, il peut en découler quelques problèmes et l’on pense notamment aux derniers soucis rencontrés par ChatGPT sur Bing. Poussée dans ses retranchements, l’IA s’est mise à débloquer en montant dans les tours et en adressant certains reproches inappropriés aux utilisateurs. Cela a forcé Microsoft à limiter le nombre d’interactions possibles pour éviter les débordements.
Bon, c’est pas gagné, ChatGPT. Commentaire moraliste fondé sur une compréhension étonnante de la biologie. pic.twitter.com/U18qcB63Tr
— Nicolas Vanbremeersch (@versac) January 27, 2023
Il faut aussi rappeler que ChatGPT n’est pas omniscient et que son fonctionnement n’est pas comparable à celui d’un cerveau humain. Le modèle de langage peut aussi commettre de grosses bourdes, comme lorsqu’il répond sérieusement à un utilisateur qui lui demande comment cuisiner une omelette à base d’œufs de cheval.
Pour autant, l’IA apprend aussi de ses erreurs et se perfectionne (à moins que les internautes ne se donnent le mot pour l’intoxiquer volontairement). Il y a donc fort à parier que ces fautes originelles ne seront plus qu’un lointain souvenir d’ici quelques mois.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
Et ça m’inquiète visiblement personne puisque tout le monde ne fait qu’en parler en minimisant toujours plus les impacts plus que probables : remplacement des humains…. Voir pire ….. En effet, dans l’article, il est dit clairement : “leurs concepteurs sont souvent incapables de prédire leurs réactions” !!!! Ça met super en confiance !!!
Mais il faut croire que l’homme n’est pas aussi intelligent que ça, puisque malgré les mises en garde de plus en plus précises, récurrentes, on continue de trouver ça génial, de faire joujou avec…. Vous savez, comme ces gens qui ont trouvé un lionceau tout mignon. Ils jouent avec, ils trouvent ça génial, ils peuvent se la jouer avec les autres. On leur dit pourtant que ce n’est pas un jouet. Que pour l’instant, il n’est pas dangereux mais quand il sera adulte, il pourra se retourner contre son propriétaire. Mais non, rien n’y fait, c’est trop mimi…. Et que croyez vous qu’il advienne quand le lionceau devient adulte…. Il veut bouffer son propriétaire. Le plus fort prend le dessus sur le plus faible. Qui croyez vous qui sera le plus faible entre une IA et vous ???
Mais non, on trouve des excuses, on nie les évidences, on est de mauvaise foi. On veut absolument son joujou….
Allez, amusez vous bien. Dans peu de temps, on devrait bien se marrer
… Ou pas !!!! Mais on nous aura prévenu. Faudra pas venir pleurer quand il sera trop tard….
Il est incapable de raisonner sur des chose inconnue alors qu’un enfant peut se projeter : c’est la base de l’intelligence : inférer…
La masse statistiques n’est pas de l’intelligence mais de la connaissance.
Avoir réussi à bien gérer cette masse est un bel exploit.
Cette base de connaissances doit rester humaine mais pas sur l’ensemble du web ou des bêtises font parfois loi !
Et comment soustraire de cette masse les propres productions des diverses IA (terme impropre) on se dirige vers l’inflation…
Alors justement je viens de lire qu’il est capable d’inférence
https://trustmyscience.com/ia-chatgpt-evaluee-theorie-esprit/
Comment fait il la distinction entre source fiable scientifiquement et les hérésies scientifiques ?
La bible n’est pas une source fiable. Je dis ça car dans certains pays la bible est l’alpha et l’oméga.
La vraie IA ne peut être a géométrie variable et bâtie selon des croyances.