99,9 % de chances pour que l’IA détruise l’humanité dans les cent prochaines années. C’est le pronostic extrêmement pessimiste du chercheur Roman Yampolskiy dans le podcast de Lex Fridman. Celui qui enseigne l’informatique à l’université de Louisville a récemment publié un livre intitulé “AI : Unexplainable, Unpredictable, Uncontrollable” (IA : inexplicable, imprévisible, incontrôlable).
Un futur apocalyptique à cause de l’IA
D’après cet expert, la seule chance que nous puissions échapper à ce sombre scénario est que nous soyons en mesure de créer des logiciels et des applications sans bug dans le siècle à venir, mais c’est extrêmement peu probable. Dès lors, des dérives sont à prévoir et elles nous mettront en grand danger.
Roman Yampolskiy entrevoit surtout un monde où l’intelligence artificielle deviendrait plus intelligente que les humains. C’est le concept d’intelligence artificielle générale (AGI) dont il est question ici.
Dans ce contexte, il nous compare à des écureuils totalement dépassé, tandis que cette technologie pourrait créer des choses dont nous ne soupçonnons même pas l’existence. De ce scénario découlent trois futurs qui ne sont clairement pas enviables.
Dans un premier cas, toute l’humanité mourrait d’un coup. Dans une seconde hypothèse, nous souffririons tellement sous le joug de l’IA que la plupart des humains souhaiteraient en finir. Dans le troisième, nous n’aurions plus aucune raison d’être tant l’IA aurait pris le dessus sur nous dans tous les domaines et notamment dans la création. La vie n’aurait ainsi plus aucun sens et nos semblables, plus aucune motivation pour la prolonger.
Ces chercheurs très pessimistes sur l’IA
Le moins que l’on puisse dire, c’est que Roman Yampolskiy n’est pas des plus optimistes. Si certains observateurs s’opposent formellement à cette vision, d’autres la soutiennent. Pour ne citer qu’un seul exemple, Eliezer Yudkowsky, un universitaire âgé de 44 ans, qui a travaillé par le passé au développement d’IA, est aujourd’hui chercheur principal d’une organisation à but non lucratif appelée Machine Intelligence Research Institute à Berkeley en Californie.
Selon lui, “le problème, c’est que les gens ne s’en rendent pas compte. Nous avons une infime chance que l’humanité survive.” Il estime que ces technologies évoluent tellement vite qu’elles se retourneront bientôt contre leurs concepteurs. Il anticipe “un genre de civilisation extraterrestre qui pense mille fois plus vite que nous” disséminés dans un grand nombre de boîtes qui nous ne pourrions plus démonter.
Notre seule chance de survie fait penser à un scénario de science-fiction : préparer des frappes aériennes ciblées, voire utiliser l’arme nucléaire… Pour en savoir plus, vous pouvez toujours relire notre article sur le sujet ici.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
Que sera sera. Détruire la planète peut-être pas, mais infliger un coup de massue à l’ego, certainement.
Ceux d’entre-nous qui ramons — un peu, beaucoup, désespérément — pour tenter de suivre les méandres d’une pensée complexe, sommes habitués, on est comme vaccinés quand une IA nous fait nous sentir tout petits. Mais mettons-nous un instant à la place de qu’il est convenu d’appeler un génie : pour eux c’est, ce sera très dur. Est-ce leur ego qui leur a permis d’atteindre des sommets, ou le contraire, aucune idée, mais toujours est-il que Garry Kasparov, en son temps, a du la sentir passer quand il s’est fait battre en 1997, même pas par une IA mais par un “simple’ ordinateur ‘Deep Blue’. Et Einstein alors, avec ses 160+ de QI, ramené au stade infantile s’il devait être confronté à une IA. Dur.
Petit argent petits problèmes, gros argent gros problèmes et, pareillement, p’tite cervelle p’tits problèmes, grosse cervelle gros problèmes. Qu’il peut être doux de se prélasser dans l’insouciance …
Détruire l’humanité d’ici un siècle, ce serait plutôt un scénario optimiste ! C’est une boutade, à vrai dire je crains plutôt qu’on se retrouve dans un merdier sans nom dans un avenir BEAUCOUP BEAUCOUP plus proche. De là à arriver à l’extermination de l’Homme, c’est une issue possible. Mais bien avant qu’on en soit là, ou plutôt nos descendants, nous-mêmes allons être confrontés à un tsunami civilisationnel comme jamais l’humanité n’en a connu. Les grandes révolutions se sont toujours écoulées sur des générations (les premières sur des milliers d’années même). En ce qui concerne l’IA, on parle en années, pour ne pas dire en trimestres ! Plutôt de se préoccuper de l’an 2100, on devrait déjà s’affoler un peu sur les prochaines années, beaucoup parlent de caps cruciaux d’ici 2027 ou 2030 : c’est demain….
nous aussi on a vu Terminator et Matrix.
L’IA sert pour l’instant effectuer des fake porno de Taylor Swift…. on est loin du T800.