L’idée d’une IA superintelligente qui surpasserait l’être humain dans la plupart des tâches intellectuelles fait fantasmer la plupart des grands patrons de la Tech. D’autres entrevoient déjà la possibilité du lancement d’une intelligence artificielle générale où la machine surclasserait l’intelligence humaine sur certaines tâches particulières.
C’est dans ce contexte qu’est intervenu cet appel signé par plus de 700 scientifiques, des entrepreneurs et des personnalités politiques le mercredi 22 octobre dernier. Dans ce texte très court, les participants tiennent à alerter sur les risques potentiels que nous font courir ces innovations qui sont toutefois encore très loin d’avoir vu le jour :
Les outils innovants basés sur l’IA peuvent apporter une santé et une prospérité sans précédent. Cependant, outre ces outils, de nombreuses entreprises leaders dans le domaine de l’IA ont pour objectif déclaré de développer au cours de la prochaine décennie une superintelligence capable de surpasser considérablement tous les humains dans pratiquement toutes les tâches cognitives.
Vers l’interdiction de la superintelligence ?
Ils ajoutent aussitôt :
Cela a suscité des inquiétudes, allant de l’obsolescence et de la perte de pouvoir économique des humains, à la perte de liberté, de libertés civiles, de dignité et de contrôle, en passant par les risques pour la sécurité nationale et même l’extinction potentielle de l’humanité. La déclaration succincte ci-dessous vise à faire connaître le nombre croissant d’experts et de personnalités publiques qui s’opposent à la course à la superintelligence.
Dès lors, des personnalités telles que Geoffrey Hinton, prix Nobel de physique en 2024, Stuart Russell professeur d’informatique à l’Université de Californie à Berkeley ou encore Yoshua Bengio, professeur à l’université de Montréal, l’entrepreneur Richard Bronson, le prince Harry, ou encore Steve Wozniak, le cofondateur d’Apple demandent « l’interdiction du développement de la superintelligence, qui ne sera levée qu’après l’obtention d’un large consensus scientifique sur la sécurité et le contrôle de cette technologie, ainsi que d’une forte adhésion du public ».
Le message est passé et il devrait animer quelque peu le débat public, même si l’on peut clairement douter de la plausibilité d’un moratoire global, alors que les États-Unis, la Chine, et l’Europe se livrent à une compétition féroce dans le domaine de l’IA.
Ce qu’il faut retenir :
- Des personnalités s’inquiètent du développement d’une superintelligence qui mettrait en danger les humains
- Elles signent un appel pour demander une interdiction globale de cette technologie
- Le débat devrait avoir lieu, mais il semble peu probable que cette idée se matérialise
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
