Ils avaient 40 ans d’avance, et l’académie royale des sciences de Suède vient de les en féliciter en leur remettant le prix Nobel. Dans les années 80, les scientifiques Geoffrey Hinton et John Hopfield travaillent sur les réseaux neuronaux artificiels. Ils veulent concevoir une machine capable « d’apprendre par l’exemple ».
Ces travaux ont jeté les bases de l’intelligence artificielle et de l’apprentissage automatique, comme nous les connaissons aujourd’hui. Dans un communiqué de presse, réagissant à l’annonce du comité Nobel, le professeur Hinton, qui travaille à l’Université de Toronto, se dit « extrêmement surpris et honoré » de recevoir ce prix.
BREAKING NEWS
The Royal Swedish Academy of Sciences has decided to award the 2024 #NobelPrize in Physics to John J. Hopfield and Geoffrey E. Hinton “for foundational discoveries and inventions that enable machine learning with artificial neural networks.” pic.twitter.com/94LT8opG79— The Nobel Prize (@NobelPrize) October 8, 2024
Un inventeur plein de regrets
Celui que les médias ont baptisé le “parrain de l’IA” avait néanmoins pris beaucoup de recul face à cette technologie. En 2023, il aurait démissionné de son poste chez Google pour alerter face aux dangers que représente l’intelligence artificielle.
Dans une déclaration faite au New York Times, il reconnaissait qu’une « partie de lui regrettait » les travaux qu’il a menés tout au long de son existence. Il s’était dit préoccupé par la façon dont « de mauvais acteurs » pourraient utiliser l’IA dans les prochaines décennies pour faire « de mauvaises choses ».
Malgré le gain de ce prix Nobel, récompense ultime pour tous les scientifiques, Hinton continue d’alerter sur les risques liés à l’intelligence artificielle. Dans une entrevue avec des journalistes réalisées hier, il assurait que « nous n’avons aucune idée de comment peuvent fonctionner des choses plus intelligentes que nous ».
Avant de préciser que “cela va être merveilleux à bien des égards”, mais voyant toujours le revers de la médaille, il promet également qu’il faut “s’inquiéter d’un certain nombre de conséquences possibles.” Il mentionne notamment la « perte de contrôle » humaine comme l’un des plus grands risques liés à l’IA pour les prochaines années.
L’IA : une menace dès aujourd’hui
Geoffrey Hinton n’est pas le seul scientifique à douter des capacités de l’Homme à utiliser l’IA de la meilleure des façons. S’ils reconnaissent tous que l’intelligence artificielle est un outil formidable, ouvrant des portes jusqu’alors fermées, ils sont aussi conscients des risques que cette technologie amène.
Dans une déclaration faite à la presse, le co-lauréat du prix Nobel, John Hopfield se dit lui aussi « très inquiet » de voir l’IA se développer à une vitesse exponentielle. À ses yeux, il faut avant tout comprendre comment les réseaux neuronaux artificiels (qu’il a mis sur pied en grande partie) fonctionnent, afin de connaître leurs limites et de pouvoir travailler en connaissance de cause.
Le travail d’apprenti sorcier de ces dernières années n’est pas du tout à son goût. Le chercheur de 91 ans a fait le parallèle lors de son intervention médiatique avec le développement de l’arme atomique. « Nous sommes habitués à des technologies qui ne sont pas uniquement bonnes ou mauvaises, mais qui peuvent aller dans les deux sens. »
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
J’adore comment la littérature avertit dès les années 50 sur les dangers d’une entité artificielle qui prend trop de place au sein de la société alors que la tentation de la concrétiser s’avère finalement trop grande pour des individus qui veulent n’en voir que les avantages et non les dangers.
Le parallèle avec la technologie atomique est parfaite. À quand un Hiroshima de l’IA alors ? Sachant que même cela n’a pas suffit à privilégier les recherches sur son contrôle au profit de celle sur sa puissance…
Nous sommes déjà grandement dépendant de l’énergie nucléaire, et il est évident que ces dernières années l’IA prend une place croissante, alimenté par toute sorte d’entité qui y voit avant tout un outil à cash.