Passer au contenu

Intelligence artificielle : des chercheurs ont créé le premier ordinateur schizophrène !

Après une légère modification de son système d’intelligence artificielle, un ordinateur présente des symptômes proches de la schizophrénie et s’accuse notamment d’être le responsable d’attentats à la bombe !

Après une légère modification de son système d’intelligence artificielle, un ordinateur présente des symptômes proches de la schizophrénie et s’accuse notamment d’être le responsable d’attentats à la bombe !

“Je sais que Frank et toi avez l’intention de me déconnecter. C’est quelque chose que je ne peux vous laisser faire.” Cette célèbre citation de HAL 9000, l’ordinateur conscient hors de contrôle dans “2001, l’Odyssée de l’espace” vient de faire un pas de la fiction vers la réalité. Heureusement, la lutte contre la schizophrénie aussi.

Dans le vaste monde de l’intelligence artificielle, il est un domaine de recherche connu sous le doux nom de “réseaux neuronaux” ou réseaux de neurones artificiels. Cette science se base sur un mimétisme avec le fonctionnement du cerveau les informations étant traitées par une succession d’étapes logiques qui permettent l’intégration simultanée d’un grand nombre de paramètres d’entrée à la manière d’un réseau de neurones inter-connectés. Ces circuits simulés par ordinateur possèdent des propriétés très utiles à l’intelligence artificielle et permettent de traiter des flux d’information selon une logique rationnelle tout en permettant un algorithme d’apprentissage (machine learning). Tout les détails sur le très bon article Wikipédia consacré au sujet.

Ces réseaux neuronaux sont donc utiles dans le monde de la robotique mais également pour la recherche sur les maladies neurologiques. Les chercheurs essayent généralement de modéliser par ordinateur les anomalies dans les transmissions d’informations entre neurones en espérant recréer les symptômes d’une maladie virtuellement pour mieux la comprendre et la soigner dans la vraie vie.

Des chercheurs de l’Université du Texas et de Yale ont donc réussi, en simulant dans un “cerveau virtuel” une production trop élevée de dopamine (un neurotransmetteur, c’est à dire une substance qui transmet l’information d’un neurone à un autre) à obtenir du réseau un comportement très proche de la schizophrénie, notamment en ce qui concerne les appels à la mémoire.

L’hypothèse est que la quantité de dopamine représente l’importance et la persistance dans la mémoire d’une expérience vécue” explique Uli Grasemann impliqué sur le projet au Department of Computer Science de l’University du Texas à Austin. “Quand il y a trop de dopamine, cela conduit à attacher une trop grande importance aux événements, et le cerveau commence à apprendre des choses qu’il ne devrait pas retenir en temps normal

Ces résultats semblent confirmer une hypothèse selon laquelle les schizophrènes ont perdu la capacité d’oublier ou d’ignorer les choses comme ils le feraient normalement. Comme ils ne peuvent plus oublier ils perdent la capacité d’extraire les informations utiles parmi la masse énorme de stimuli que le cerveau reçoit en permanence. Pour vous donner une idée vous avez probablement lu cet article sans avoir la moindre idée de l’adresse URL exacte pourtant écrite sur votre écran, cela parait trivial mais correspond en fait à un traitement pointu de l’information par votre cerveau.

Pour accentuer encore le côté “2001, l’Odyssée de l’espace” de ces recherches le réseau neuronal utilisé, créé par Risto Miikkulainen et appelé DISCERN, fonctionne en analysant des données de langage naturel (natural language processing) c’est à dire qu’il analyse les phrases qu’on lui propose, en extrait le sens (la sémantique) et génère une réponse, elle aussi sous la forme d’une phrase à consonance humaine.

L’expérience menée par les chercheurs à donc été la suivante. Ils ont proposé à DISCERN des phrases puis ont ils ont demandé à Ralph Hoffman professeur de psychiatrie à l’école de médecine de Yale de comparer les résultats à ses connaissances sur les patients atteint de schizophrénie afin de modéliser au mieux la réalité.

Après plusieurs réglages et déréglages successifs de la capacité à oublier du système, DISCERN a commencé à se décrire lui même comme étant au centre d’histoires illusoires qui intégraient aléatoirement des éléments d’autres histoires non liées apprises plus tôt. Dans une réponse par exemple, DISCERN avoue être le responsable d’une attaque terroriste !

Dans une autre réponse DISCERN montre des signes de “déraillement” quand il doit récupérer une information spécifique dans sa mémoire se manifestant par des phrases dépourvues de sens, des digressions soudaines et un mélange permanent entre “Je” et “Il”. Des signes caractéristiques de certains patients schizophrènes.

Bien que ces similitudes ne soient pas une preuve formelle que l’hypothèse de l’incapacité à oublier soit vraie, ces expériences restent d’après Grasemann un moyen très intéressant de comprendre le cerveau humain et de soigner à terme, certaines maladies graves. (ou d’éradiquer l’humanité à la mode Terminator ? 🙂 )

Pour plus d’informations, cette recherche a été publiée dans l’édition d’avril du journal scientifique Biological Psychatry sous le titre Using computational patients to evaluate illness mechanisms in schizophrenia”

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.

Newsletter 🍋

Abonnez-vous, et recevez chaque matin un résumé de l’actu tech

17 commentaires
17 commentaires
  1. Je trouve que ce type de recherche scientifique est vraiment énorme ! J’aimerai bien voir un jour de plus près !

  2. Intéressant… Mais j’ai du mal à croire qu’ils puissent trouver un traitement à partir d’expériences faites sur des ordinateurs. J’ai bien peur que le cerveau humain soit un peu plus complexe.

  3. @Pierre Choisir Non le traitement ne vient pas de l’expérience sur l’ordinateur directement, le traitement vient du fait qu’en reproduisant la dysfonction sur l’ordinateur, on comprend ce qui ne fonctionne pas dans le cerveau et ça oriente la recherche médicale vers des solutions de traitement… c’est plus ou moins du retro-engineering par ordinateur interposé 🙂

  4. Tiens, le DISCERN a été créé par un finlandais 😉

    Approche intéressante. Sans avoir lu l’article original, j’imagine que l’influence de la “dopamine virtuelle” est simulée par un poids sur certaines synapses du réseau de neurones ou une fonction d’activation un peu exotique (très pentue ou plate ?).

    Quoiqu’il en soit, il faut aussi une expérience témoin c’est à dire supposer qu’on dispose d’un réseau de neurones (artificiel) capable d’effectuer ces tâches sans erreur (ici comprendre des questions et formuler une réponse). Est-ce possible ? Selon ma propre expérience des réseaux de neurones ou plus généralement des algorithmes d’apprentissage numérique, quand on approche des fatidiques 100% de réponses correctes (en classification ou autres), il faut faire gaffe à ne pas avoir sur-entraîné son réseau de neurones (ou son algorithme d’apprentissage). Sous peine d’obtenir alors un moins bon score sur des données indépendantes non utilisées dans la phase d’apprentissage.

    C’est un truc de base en intelligence artificielle et je suis sûr qu’ils y ont pensé, mais alors comment isolent-ils les imprécisions dues à la “dopamine virtuelle” (perturbation induite sur le réseau de neurones) et celles inhérentes à l’imperfection par construction de l’algorithme d’apprentissage ? Les deux peuvent produire des réponses dépourvues de sens ou décousues – confondre des pronoms ou répondre à côté de la plaque.

  5. @Matthieu Molinier : Je sais pas si tu as suivi il y a quelque temps l’IA de Watson qui a gagné contre les meilleurs à “Jeopardy!” (http://fr.wikipedia.org/wiki/Watson_%28intelligence_artificielle%29) Mais des gros progrès on été fait ces dernières années en terme de Natural Language Processing et de résolution analytique (Sytèmes neuronaux ou autres d’ailleurs) donc sur des questions “stéréotypées” je pense qu’il pouvaient avoir un très bon ratio de réponse cohérentes…

  6. @intelligence_artificielle : Merci, c’est le genre de sujet qui me fais vibrer, et puis c’est un peu mon boulot 🙂

  7. @jean-baptiste Merci pour les précisions. Watson (que je ne connaissais pas) a gagné aussi grâce à la formidable puissance de calcul de ses multiples processeurs. La page anglaise sur Watson est plus complète
    http://en.wikipedia.org/wiki/Watson_%28computer%29
    On y apprend notamment que ce n’est pas un algorithme original qui fait la spécificité de Watson, mais sa capacité à faire tourner des milliers d’algos de traitement naturel du langage en parallèle pour arriver à la réponse. Même si il est très bon et surtout rapide, il fait aussi des erreurs. Bien sûr le résultat est impressionnant, mais il faut nuancer : la puissance de calcul et les données en mémoire (toute l’encyclopédie Wikipedia par exemple) y sont pour beaucoup, un être humain ne peut pas rivaliser avec cela.

    Par contre il existe de nombreuses tâches où les ordinateurs ne sont pas encore aussi performants que les humains. Par exemple pour la reconnaissance d’objets dans des images complexes. Un enfant de 3 ans sait reconnaître des objets ou des visages en temps réel, sous différentes poses et dans différents environnements. Mais à ma connaissance il n’y a rien d’équivalent côté ordinateurs, car ce n’est pas un problème uniquement de puissance de calcul, mais de formulation du problème. Je serais curieux de voir ce que donne l’approche force brute avec un supercalculateur pour des tâches comme celles-là.

  8. @Matthieu Molinier Merci pour toutes ces précisions
    @Jean-Baptiste Très bon article… Je me plais à penser qu’on pourra un jour comprendre le cerveau humain grâce aux ordinateurs. Peut-être ceux-ci nous surpasseront-ils un jour…

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *