Connect with us

Actualités

La reconnaissance faciale d’Amazon confond politiciens et criminels

Selon une expérience réalisée par l’ACLU, le système de reconnaissance faciale d’Amazon aurait inculpé à tort 28 membres du Congrès américain, les considérant comme de potentiels criminels.

Il y a

le

Amazon Rekognition employés

Durant quelques mois, Amazon a collaboré avec les autorités de la ville d’Orlando afin que ces dernières puissent tester le système de reconnaissance faciale Rekognition. L’Union américaine pour les libertés civiles (ACLU) s’est vivement opposée au projet lorsqu’elle a découvert que le système était déployé sur trois caméras de surveillance de la ville. Si le projet devait simplement permettre de tester la technologie, plusieurs associations ont protesté, arguant du fait qu’un tel système pouvait entraver les libertés individuelles. Outre ce dernier point, l’ACLU reproche aussi à Amazon de s’associer au gouvernement autour d’un tel projet. Plusieurs employés ont rejoint l’avis de l’association en rédigeant une lettre à l’intention du PDG du groupe, Jeff Bezos. Dans celle-ci, les signataires dénoncent le prêt aux autorités d’un logiciel capable d’identifier une centaine d’individus sur une seule image.

De plus, il semblerait que le système de surveillance d’Amazon ne soit pas encore prêt à l’emploi, puisqu’un test réalisé par l’ACLU démontre les faiblesses de certaines de ses capacités. Pour réaliser l’expérience, l’association américaine a compilé 25 000 photographies de criminels afin de les comparer à celle des 535 membres du Congrès et d’analyser les possibles correspondances. Un test qui n’a pas loupé puisque 28 politiciens ont été considérés par Rekognition comme des criminels.

> Lire aussi :  Quelles sont les alternatives à Netflix aujourd’hui ?

Les minorités (encore) visées par le système de surveillance d’Amazon

Plus alarmant encore, la technologie de reconnaissance faciale s’est largement focalisée, à tort, sur les populations Afro-Américaines ou des Latino-Américaines. Si ces derniers ne représentent que 20% des 535 membres du congrès, 39% des personnes identifiées comme criminels sont Afro-Américaines ou des Latino-Américaines. Suite à ces résultats, Jacob Snow, avocat de l’ACLU s’est alarmé : « La reconnaissance faciale servira à alimenter une surveillance discriminatoire et un maintien de l’ordre qui cibleront les communautés de couleur, les immigrants et les activistes (…) Une fois enclenchée, les dégâts ne pourront pas être annulés ».

résultats système Amazon criminels

© ACLU

Pour sa part, Amazon a argué du fait que le logiciel avait été mal réglé et que la précision aurait dû être de 95% et non 80%, comme lors du test de l’ACLU. De fait, un porte-parole du groupe a déclaré : « Si 80% de confiance est un seuil acceptable pour les photos de hot-dogs, chaises, animaux ou autres cas d’utilisation des médias sociaux, il ne serait pas approprié d’identifier les individus avec un niveau de certitude raisonnable ».

> Lire aussi :  Tencent mise sur la reconnaissance faciale pour détecter les joueurs trop jeunes

Pour rappel, plusieurs entités s’inquiètent des collaborations entre les entreprises privées et les gouvernements, si bien que Google a mis fin à sa collaboration avec le Pentagone suite aux polémiques.

2 Commentaires

2 Commentaires

  1. Eric

    27 juillet 2018 at 12 h 53 min

    Peut être que ce ne sont pas de faux positifs ! Criminels politiciens… C’est un pléonasme non ? :p

  2. Patrick Huet

    28 juillet 2018 at 13 h 33 min

    Et si cette Intelligence artificielle avait raison ? Si elle n’avait fait que son travail ?
    Voilà une question qui mérite réflexion.

    Pour valider cette expérience, il faudrait examiner à la loupe les actions de ces messieurs.
    Mais ce n’est pas sûr qu’il se prêtent à l’expérience, même pour la science.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Dernières news

Les bons plans

Les tests