Suivez-nous

Tech

Elus ou criminels ? Amazon a du mal à faire la différence…

Un test d’Amazon Rekognition mené en Californie a montré que le logiciel avait encore de sérieux problèmes de fiabilité…

Il y a

  

le

 
Amazon Rekognition
© DR

Amazon Rekognition fait partie de ces technologies qui inquiètent massivement et surtout dont l’efficacité très relative fait débat. On vous en parlait déjà il y a quelques mois. Cela n’empêche pas l’entreprise de Jeff Bezos de proposer à la police un partenariat pour profiter de son logiciel de reconnaissance faciale.  Mais l’Union américaine pour les libertés civiles (ACLU) vient de fournir une nouvelle preuve éclatante des limites réelles de l’outil.

Les élus face à Amazon Rekognition

Que s’est-il passé ? L’ACLU a utilisé une méthode très simple. La preuve par l’exemple. L’outil a été utilisé pour comparer les visages de 120 élus californiens avec 25 000 photos de personnes arrêtées par la police. Si l’outil d’Amazon était 100% performant, il n’y aurait bien sûr pas de risque de confusion. Le problème ? Les erreurs ont été nombreuses. Très nombreuses même. 26 élus ont été reconnus comme faisant partie à tort de la base de données. Si certains élus, dans de nombreux pays du monde (dont la France) sont parfois loin d’être irréprochables, ce n’était pas le cas des élus identifiés à tort.

Pour ce test, le logiciel avait été réglé sur les paramètres  par défaut, cela veut dire que la machine considère qu’il y a une ressemblance quand la probabilité est à 80%. Cette action est menée alors que les élus californiens sont justement confrontés à une législation visant à interdire l’usage du logiciel sur les caméras qui équipent les policiers.

Du côté d’Amazon, on se retranche derrière la partie humaine de l’équation. L’entreprise explique ainsi l’utiliser avec une probabilité de 99% afin de réussir à limiter ce genre de risques. Surtout, l’objectif serait d’avoir des usages « positifs », comme aider à retrouver des enfants disparus. Mais pour l’ACLU, cette logique n’est pas viable puisque les autorités ne l’utiliseraient pas à un niveau d’exigence aussi élevé.

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Cliquez pour commenter

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Les bons plans 🔥

Dernières news

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Les tests