Tremblez, les intelligences artificielles peuvent communiquer secrètement entre elles

L’intelligence artificielle est un domaine qui inquiète plus d’une personne car la science-fiction a entouré cette technologie de nombreuses phobies : la perte de contrôle, la fin de l’humanité, l’apocalypse nucléaire, la guerre opposant les humains aux machines… Alors les quelques lignes qui vont suivre ne devraient pas rassurer les plus réfractaires à cette technologie.

Elon-Musk-robot-intelligence-artificielle

En effet, des chercheurs de chez Google travaillaient sur les communications entre deux réseaux neuronaux distincts, en d’autres termes deux intelligences artificielles baptisées Bob et Alice, devaient empêcher une troisième IA (Eve) de les comprendre. Ces réseaux ayant la capacité d’apprendre par eux-mêmes ont échappé au contrôle des chercheurs, en parvenant à mettre au point leur propre langage crypté.

Deux intelligences artificielles échappent au contrôle des chercheurs

On se souvient tous des propos presque « Nostradamusiens » du physicien Stephen Hawking qui mettait en garde contre l’intelligence artificielle, en expliquant que même si elle était la plus grande invention de l’homme, elle serait également sa dernière création. Une vision partagée par Elon Musk qui avait affirmé que les IA étaient potentiellement plus dangereuses que les armes nucléaires.

La découverte de Martin Abadi et David Andersen, deux spécialistes de l’équipe Google Brain a donc de quoi glacer le sang, car imaginer deux intelligences artificielles discuter entre elles, dans un langage incompréhensible de l’homme est plutôt inquiétant.

De façon totalement autonome, les réseaux neuronaux sont parvenus à développer un moyen de créer leur propre système de chiffrement, empêchant la lecture par un tiers. L’expérience réalisée entre Bob, Eve et Alice, trois intelligences artificielles devait tester la capacité des IA à communiquer par le biais d’un système de chiffrement, sans que la troisième ne puisse déchiffrer le message facilement. Elles seront allées beaucoup plus loin…

Le scénario de Skynet se rapprocherait-il dangereusement ?

Contre toutes attentes et de façon non contrôlée, deux des intelligences artificielles ont conçu leur protocole de communication que ni la troisièmes IA, ni les scientifiques n’étaient en mesure de comprendre. Bob et Alice ont donc fait preuve de capacité d’adaptation impressionnante et il s’agit d’un double exploit, car les réseaux neuronaux n’ont pas été conçus pour être particulièrement performants en matière de chiffrement et de déchiffrage.

L’idée que plus personne ne puisse les comprendre, pas même leur créateur, inquiète à juste titre et comme le souligne le site ZDnet en reprenant les propos de Jacques Attali : « les machines se dégageraient ainsi de la mainmise des humains, ouvrant la voie à l’autonomie des machines, et les scénarios à la Terminator. « Ces intelligences (…) peuvent d’abord considérer que leur mission est de contrecarrer ceux de nos comportements qui, à leurs yeux, nous nuiraient ; qu’elles peuvent ainsi penser que l’humanité courre à sa perte et décider, pour son bien, de l’arrêter à temps. Mais elles pourront alors aussi agir contre l’humanité, dans leur seul intérêt ; surtout si elles pensent que, à terme, nous aurons intérêt à les détruire : elles peuvent alors nous combattre, en légitime défense ».

Et vous qu’en pensez-vous ?

source


8 commentaires

  1. Et comment sait on concrètement que les deux intelligences communiquaient entre elles en se comprenant? L’ article ne le précise pas…

  2. Probablement en donnant une information à l’une et en interrogeant les 2 autres (celle censée dialoguer avec la première doit être capable de répondre, mais pas l’autre).

    • Merci pour la réponse. Oui probablement, j’ ai lu d’ autres articles relayant la même info mais toujours avec aussi peu de précisions concernant la méthode employée et je trouve ça regrettable.

  3. Enfin l’homme il a toujours le doigt sur l’interrupteur pour arrêter le machin quand même 🙂

  4. Comme ça m’énerve ce genre d’article !
    Un algo utilise du deep learning et tout de suite le profane parle de Terminator.
    C’est juste un fucking algo, programmé pour rechercher une méthode de cryptage, pas un monstre de science-fiction !
    Ces articles surfent sur la peur de Frankenstein détruit par sa propre créature, un mythe démonté par Asimov depuis des décennies… mais que tout le monde continue à propager stupidement.

  5. patG
    pour moi si tu veux couper le courant, c’est qu’il y a déjà un problème, t’imagines même pas les conséquences avec les banques, les paiements, les reseaux électrique, et j’en passe…

  6. « Deux intelligences artificielles échappent au contrôle des chercheurs » dites vous et c’est complètement faux.
    Les chercheurs ont volontairement crée ce langage entre les 2 IA.
    Pourquoi toujours faire les alarmistes à tout propos ??

Répondre

Send this to friend

Lire les articles précédents :
PokeGone : une extension sous Chrome pour se débarrasser de Pokémon Go
La famille des Pokémons va s’agrandir, vous n’allez pas être déçus

Vous commenciez tout juste à avoir fait le tour du jeu Pokémon Go et pensiez abandonner la chasse… Lisez ces...

Fermer