Passer au contenu

L’un des pionniers de l’IA exprime inquiétudes et regrets

L’un des parrains de l’IA s’inquiète face à l’absence de mesures de sécurité sur l’utilisation de cette technologie surpuissante.

  • Yoshua Bengio, l’un des “parrains” de l’IA, exprime des remords quant à l’orientation de son domaine
  • Bengio souligne le danger de l’abus de l’IA par des “mauvais acteurs”, notamment les militaires, les terroristes et les individus psychotiques
  • Malgré les tensions et les divergences d’opinions entre les “parrains” de l’IA, Bengio reste optimiste et croit que l’humanité peut relever le défi posé par l’IA

Yoshua Bengio, l’un des trois “parrains” de l’intelligence artificielle (IA), exprime des remords quant à l’orientation actuelle de son domaine d’expertise. Dans une interview récente avec la BBC, il avoue qu’il aurait privilégié la sécurité à l’utilité si seulement il avait su à quelle vitesse l’IA se développerait.

Yoshua Bengio a également signé une lettre ouverte perturbante avec d’autres leaders de l’industrie, dont Geoffrey Hinton, un autre “parrain” de l’IA, qui a récemment quitté son poste chez Google. Cette lettre avertit du “risque d’extinction” que pose l’IA.

“Cela pourrait être très dangereux”

Yoshua Bengio se dit particulièrement préoccupé par l’abus potentiel de l’IA par des “mauvais acteurs”. “Cela pourrait être des militaires, ce pourrait être des terroristes, ce pourrait être quelqu’un de très en colère, psychotique”, a-t-il confié à la BBC. “Il est si facile de programmer ces systèmes d’IA pour leur demander de faire quelque chose de très mauvais, cela pourrait être très dangereux”, ajoute-t-il.

Selon Yoshua Bengio, les gouvernements devraient surveiller les entreprises qui développent l’IA, tout comme ils le font “pour tout autre secteur comme la construction d’avions ou de voitures ou les produits pharmaceutiques”. Il propose également l’idée radicale que les personnes travaillant sur ces systèmes d’IA aient besoin d’une sorte de certification en matière de “formation éthique”, chose que les informaticiens n’ont généralement pas.

Parmi les parrains de l’IA, seul Yann LeCun n’est pas convaincu que cette innovation représente une menace existentielle pour l’humanité. Il est d’ailleurs le seul du trio à ne pas avoir signé la récente tribune.

Malgré ces divergences, Yoshua Bengio reste optimiste quant à la capacité de l’humanité à relever ce défi. “Il n’est jamais trop tard pour s’améliorer”, a-t-il déclaré dans l’interview. Et de conclure en comparant la situation de l’IA à celle à laquelle nous sommes confrontés en matière d’écologie et de climat.

“C’est exactement comme le changement climatique. Nous avons mis beaucoup de carbone dans l’atmosphère. Et il aurait été préférable que nous ne l’ayons pas fait, mais voyons ce que nous pouvons faire maintenant”, déclare-t-il.

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.

Newsletter 🍋

Abonnez-vous, et recevez chaque matin un résumé de l’actu tech

Cliquer pour commenter
Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *