Intelligence artificielle : 9 scénarios inquiétants

Grand sujet de recherche, l’Intelligence Artificielle nous montre chaque jour un peu plus des capacités hors normes. Des experts viennent de publier un rapport inquiétant, qui énumère quels usages malveillants pourraient en être faits.

Un rapport d’une centaine de pages rédigé par des experts en intelligence artificielle, provenant de l’industrie et du milieu universitaire, vient d’être publié. Et le message est clair : chaque progression de l’intelligence artificielle contient un côté obscur.

L’article, intitulé « The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation » (utilisation malveillante de l’intelligence artificielle : prévisions, prévention et relativisation), cherche à faire prendre conscience des risques et dangers de la puissance de l’Intelligence Artificielle. Car si sa capacité à prendre des milliers de décisions complexes chaque seconde et d’apprendre à une vitesse fulgurante permettra par exemple de sauver des vies de bien des manières différentes, elle peut  également se révéler être une arme dévastatrice entre de mauvaises main.

Si ce constat n’a rien de nouveau (un couteau peut servir à beurrer des biscottes ou à tuer), les hypothèses d’usages malveillants listées dans ce rapport le sont plus. Pour dresser cette liste, les experts se sont penchés sur des utilisations malveillantes déjà en place, ou à venir dans les cinq prochaines années.

Voici une liste des principaux préjudices probables divisés en trois groupes : numérique, physique et politique.

Numérique :

  • Hameçonnage automatisé et création de faux courriels, sites Web et liens pour voler de l’information.
  • Hacking plus rapide, grâce à la découverte automatisée des failles de sécurité des logiciels.
  • Tromper les autres… intelligences artificielles, en tenant compte de leur manière de percevoir les choses.

Physique :

  • Automatiser le terrorisme, en utilisant des drones commerciaux ou des véhicules autonomes comme armes.
  • Des armées de robots, constitués de nombreux robots autonomes qui ont une mission / un but commun.
  • Attaques à distance, avec des robots et drones piloté depuis n’importe où.

Politique :

  • Propagande, par le biais d’images et de vidéos générées de manière autonome par des IA
  • Suppression automatique de la dissidence, en recherchant et en supprimant automatiquement du texte ou des images.
  • Persuasion personnalisée, en tirant parti des informations personnelles pour influencer les opinions de quelqu’un.

Le rapport dresse un tableau inquiétant de ce que pourrait être notre avenir, d’autant plus qu’il est à court terme. Mais nous ne sommes pas pour autant condamnés à vivre dans une dystopie : les chercheurs travaillent déjà sur des solutions potentielles à ces problèmes, bien qu’ils avertissent le combat sera rude.

Le rapport est disponible à la consultation ici (en anglais)


3 commentaires

Commenter

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.