La publication a rapidement fait polémique. Le 5 mai dernier, des scientifiques de l’Université américaine d’Harrisburg clament avoir créé un système de reconnaissance faciale en mesure d’anticiper le passage à l’acte d’une personne. « Avec une précision de 80% et sans parti pris racial, le logiciel peut prédire si quelqu’un est un criminel uniquement sur la base d’une image de son visage. Le logiciel est destiné à aider les forces de l’ordre à prévenir la criminalité », précisent alors les chercheurs.
Depuis, de nombreux spécialistes du sujet sont montés au créneau contre ce projet. Récemment 1000 experts de l’intelligence artificielle ont justement publié une lettre ouverte pour faire part de leur indignation et s’opposer à l’utilisation de ces algorithmes.
« Il n’y a pas de lien entre les caractéristiques physiques et la criminalité »
Parmi les signataires, on retrouve, des scientifiques des données, des sociologues ou encore des historiens. Selon eux, il faut en finir d’urgence avec cette idée selon laquelle l’intelligence artificielle peut servir à prédire si une personne est susceptible d’être un criminel. Les données utilisées pour enrichir les algorithmes prédictifs proviennent en effet des statistiques judiciaires. Elles n’ont donc aucun caractère neutre mais reflètent bien les pratiques du système de justice pénale d’un pays à un moment donné.
« La criminalité fonctionne comme un indicateur indirect de la race en raison de pratiques raciales discriminatoires dans l’application des lois et la justice pénale. Les recherches de cette nature créent des boucles rétroactives dangereuses », soutiennent-ils. On peut en effet craindre que des algorithmes qui fonctionnent à partir de données biaisées ne viennent à leur tour interférer dans les pratiques des forces de l’ordre.
« Le fait d’avoir un visage qui ressemble à celui d’une autre personne qui a commis un acte répréhensible ne fait pas commettre un crime à un individu. Il n’y a tout simplement pas de lien entre les caractéristiques physiques et la criminalité», poursuivent-ils.
Il y a donc selon eux urgence à arrêter de publier de tels travaux qui représentent un risque de légitimation de ces pratiques. Cette levée de boucliers fait suite à l’opposition croissante à la reconnaissance faciale aux États-Unis. Le sujet est devenu très politique et le Congrès est d’ailleurs en train de travailler sur un encadrement juridique de ces technologies.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
