Cela fait des années que des voix s’élèvent pour dénoncer les dangers des armes autonomes, aussi appelées “robots tueurs”. Ces termes désignent des systèmes capables de tirer sans qu’un humain n’intervienne et posent de grosses questions éthiques, morales et juridiques.
Dans une déclaration conjointe, le secrétaire général de l’ONU, António Guterres, et la présidente du Comité international de la Croix-Rouge (CICR), Mirjana Spoljaric, ont justement tenu, une nouvelle fois, à tirer la sonnette d’alarme à ce sujet.
Leur prise de position intervient alors que des négociateurs vont se réunir à Genève en novembre prochain pour tenter de renforcer la Convention sur certaines armes classiques. L’idée est de mettre en place des règles juridiques contraignantes pour l’utilisation de ces nouveaux dispositifs sur les champs de bataille.
Alors que le sujet semblait jusque-là abstrait, on a d’ailleurs pu constater à quel point les drones guidées par l’IA changent la donne lors de la guerre en Iran ou en Ukraine. Dès lors, les dirigeants de l’ONU et du CICR jugent que « nous sommes désormais dangereusement proches de franchir une ligne rouge morale : le ciblage autonome d’êtres humains par des machines ».
Ils rappellent à cet égard que « les systèmes d’armes autonomes ne relèvent pas d’un avenir lointain ; une course vers une autonomie accrue des systèmes d’armes est déjà bien engagée ». Et les deux signataires de conclure :
Les scientifiques et les ingénieurs qui développent ces systèmes ont eux-mêmes tiré la sonnette d’alarme. Lorsque les concepteurs de cette technologie réclament des limites, les États ne peuvent se permettre de rester passifs. Cette année doit marquer un tournant.
Les questions soulevées par les “robots tueurs”
Pour rappel, nous évoquions dans un précédent article les avertissements d’experts du sujet. C’est le cas de Bonnie Docherty, professeure de droit à Harvard, qui prévenait en 2024 que ces nouveaux robots posent de vraies questions éthiques. Ainsi, la partialité algorithmique pourrait déboucher sur une discrimination à l’égard de certains profils sur le champ de bataille, selon l’aspect des personnes.
De même, la machine va réduire sa décision à un ensemble de chiffres ou de données sans la moindre humanité, et rien n’indique qu’elle ne pourrait pas dépasser les bornes dans certains cas.
Sur le plan juridique, enfin, la chercheuse estime que ces systèmes ne peuvent pas faire la différence entre les militaires et les civils, l’un des principaux fondements du droit de la guerre. Elle ne mettrait ainsi pas suffisamment en balance les risques lorsqu’elle prendra une décision.
Autre question soulevée : qui sera responsable en cas de débordement d’un “robot tueur” ? Certainement pas l’IA, mais pas non plus l’opérateur qui supervise à distance l’appareil puisqu’il n’aura pas directement donné d’ordre.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
