Geoffrey Hinton, l’un des pères fondateurs de l’intelligence artificielle (IA), a annoncé avoir quitté son poste chez Google, où il travaillait depuis 2013. Dans une interview au New York Times publiée le 1er mai 2023, il explique les raisons de sa décision et exprime ses inquiétudes sur les risques liés au développement de l’IA.
Un pionnier de l’IA
Geoffrey Hinton, 75 ans, est un chercheur canado-britannique qui a contribué à l’essor de l’IA basée sur les réseaux de neurones artificiels. Ces systèmes imitent le fonctionnement du cerveau humain et sont capables d’apprendre à partir de grandes quantités de données. Ils sont utilisés pour des applications comme la reconnaissance d’images, la traduction automatique, la génération de texte ou la conduite autonome.
En 2012, avec deux de ses étudiants de l’université de Toronto, Ilya Sutskever et Alex Krishevsky, il a démontré la supériorité de cette approche en battant les meilleurs algorithmes de reconnaissance d’images lors d’un concours international.
Cette percée a attiré l’attention des géants du numérique comme Google, qui a recruté Geoffrey Hinton et investi 44 millions de dollars dans son laboratoire. En 2019, il a reçu le prix Turing, la plus haute distinction en informatique, avec deux autres pionniers de l’IA, le Français Yann Le Cun et le Canadien Yoshua Bengio.
Des craintes pour l’avenir
Geoffrey Hinton affirme avoir quitté Google pour pouvoir parler librement des dangers de l’IA, sans se soucier de l’impact sur son employeur qui vient d’ailleurs de lancer Bard, sa nouvelle intelligence artificielle conversationnelle.
Il dit avoir compris que les ordinateurs pourraient devenir plus intelligents que les humains bien plus tôt que lui et d’autres experts ne l’avaient prévu. Il ajoute qu’une partie de lui regrette le travail de sa vie et qu’il se console avec l’excuse habituelle : “si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait”. Ses craintes portent sur plusieurs aspects :
- La diffusion massive de fausses informations sur Internet, grâce à des IA comme ChatGPT capables de générer des images, des vidéos et des textes indiscernables de la réalité. Il redoute que les gens normaux ne puissent plus distinguer le vrai du faux et que cela mine la confiance dans la démocratie.
- L’impact économique et social de l’IA, qui pourrait rendre obsolètes certains métiers et augmenter les inégalités. Il s’inquiète aussi du sort des données personnelles collectées par les entreprises pour alimenter leurs IA.
- Le risque militaire et civilisationnel de l’IA, qui pourrait être utilisée pour créer des armes autonomes ou des robots tueurs. Il craint aussi qu’une IA super-intelligente ne devienne incontrôlable et ne menace l’existence de l’humanité, façon Skynet dans Terminator.
Un appel à la régulation
Geoffrey Hinton n’est pas le seul à alerter sur les dangers de l’IA. D’autres personnalités comme Elon Musk, Stephen Hawking ou Nick Bostrom ont exprimé leurs préoccupations. En mars 2023, un groupe de scientifiques a demandé un moratoire de six mois sur la recherche sur les IA plus puissantes que GPT-4, le logiciel d’intelligence artificielle conversationnelle développé par OpenAI.
Geoffrey Hinton estime que les scientifiques ne devraient pas faire encore monter en puissance ces IA avant de savoir s’ils sont capables de les contrôler. Il appelle à une régulation mondiale de l’IA, qui impliquerait les gouvernements, les entreprises et la société civile.
Un espoir pour l’humanité
Malgré ses craintes, Geoffrey Hinton n’est pas totalement pessimiste sur l’avenir de l’IA. Il pense que cette technologie peut aussi apporter des bénéfices à l’humanité, notamment dans les domaines de la santé, de l’éducation ou de l’environnement. Il cite par exemple les progrès réalisés par les IA pour diagnostiquer des maladies, personnaliser des apprentissages ou réduire la consommation d’énergie.
Il espère aussi que l’IA pourra aider les humains à mieux se comprendre et à coopérer. Il imagine que les IA pourraient servir de médiateurs entre les cultures, les religions ou les opinions politiques. Et suggère même que les IA pourraient nous apprendre à être plus éthiques et plus altruistes.
Il conclut son interview en disant qu’il n’a pas peur de l’IA en tant que telle, mais de la façon dont les humains vont l’utiliser. Il appelle donc à une prise de conscience collective et à une responsabilité partagée pour faire de l’IA un outil au service du bien commun.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
