Passer au contenu

La reconnaissance faciale d’Amazon confond politiciens et criminels

Selon une expérience réalisée par l’ACLU, le système de reconnaissance faciale d’Amazon aurait inculpé à tort 28 membres du Congrès américain, les considérant comme de potentiels criminels.

Durant quelques mois, Amazon a collaboré avec les autorités de la ville d’Orlando afin que ces dernières puissent tester le système de reconnaissance faciale Rekognition. L’Union américaine pour les libertés civiles (ACLU) s’est vivement opposée au projet lorsqu’elle a découvert que le système était déployé sur trois caméras de surveillance de la ville. Si le projet devait simplement permettre de tester la technologie, plusieurs associations ont protesté, arguant du fait qu’un tel système pouvait entraver les libertés individuelles. Outre ce dernier point, l’ACLU reproche aussi à Amazon de s’associer au gouvernement autour d’un tel projet. Plusieurs employés ont rejoint l’avis de l’association en rédigeant une lettre à l’intention du PDG du groupe, Jeff Bezos. Dans celle-ci, les signataires dénoncent le prêt aux autorités d’un logiciel capable d’identifier une centaine d’individus sur une seule image.

De plus, il semblerait que le système de surveillance d’Amazon ne soit pas encore prêt à l’emploi, puisqu’un test réalisé par l’ACLU démontre les faiblesses de certaines de ses capacités. Pour réaliser l’expérience, l’association américaine a compilé 25 000 photographies de criminels afin de les comparer à celle des 535 membres du Congrès et d’analyser les possibles correspondances. Un test qui n’a pas loupé puisque 28 politiciens ont été considérés par Rekognition comme des criminels.

Les minorités (encore) visées par le système de surveillance d’Amazon

Plus alarmant encore, la technologie de reconnaissance faciale s’est largement focalisée, à tort, sur les populations Afro-Américaines ou des Latino-Américaines. Si ces derniers ne représentent que 20% des 535 membres du congrès, 39% des personnes identifiées comme criminels sont Afro-Américaines ou des Latino-Américaines. Suite à ces résultats, Jacob Snow, avocat de l’ACLU s’est alarmé : « La reconnaissance faciale servira à alimenter une surveillance discriminatoire et un maintien de l’ordre qui cibleront les communautés de couleur, les immigrants et les activistes (…) Une fois enclenchée, les dégâts ne pourront pas être annulés ».

Pour sa part, Amazon a argué du fait que le logiciel avait été mal réglé et que la précision aurait dû être de 95% et non 80%, comme lors du test de l’ACLU. De fait, un porte-parole du groupe a déclaré : « Si 80% de confiance est un seuil acceptable pour les photos de hot-dogs, chaises, animaux ou autres cas d’utilisation des médias sociaux, il ne serait pas approprié d’identifier les individus avec un niveau de certitude raisonnable ».

Pour rappel, plusieurs entités s’inquiètent des collaborations entre les entreprises privées et les gouvernements, si bien que Google a mis fin à sa collaboration avec le Pentagone suite aux polémiques.

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.

Amazon Prime Video
Amazon Prime Video
Par : Amazon Mobile LLC
4.3 / 5
4,5 M avis
2 commentaires
2 commentaires
  1. Et si cette Intelligence artificielle avait raison ? Si elle n’avait fait que son travail ?
    Voilà une question qui mérite réflexion.

    Pour valider cette expérience, il faudrait examiner à la loupe les actions de ces messieurs.
    Mais ce n’est pas sûr qu’il se prêtent à l’expérience, même pour la science.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *