Amazon Rekognition fait partie de ces technologies qui inquiètent massivement et surtout dont l’efficacité très relative fait débat. On vous en parlait déjà il y a quelques mois. Cela n’empêche pas l’entreprise de Jeff Bezos de proposer à la police un partenariat pour profiter de son logiciel de reconnaissance faciale. Mais l’Union américaine pour les libertés civiles (ACLU) vient de fournir une nouvelle preuve éclatante des limites réelles de l’outil.
Les élus face à Amazon Rekognition
Que s’est-il passé ? L’ACLU a utilisé une méthode très simple. La preuve par l’exemple. L’outil a été utilisé pour comparer les visages de 120 élus californiens avec 25 000 photos de personnes arrêtées par la police. Si l’outil d’Amazon était 100% performant, il n’y aurait bien sûr pas de risque de confusion. Le problème ? Les erreurs ont été nombreuses. Très nombreuses même. 26 élus ont été reconnus comme faisant partie à tort de la base de données. Si certains élus, dans de nombreux pays du monde (dont la France) sont parfois loin d’être irréprochables, ce n’était pas le cas des élus identifiés à tort.
Pour ce test, le logiciel avait été réglé sur les paramètres par défaut, cela veut dire que la machine considère qu’il y a une ressemblance quand la probabilité est à 80%. Cette action est menée alors que les élus californiens sont justement confrontés à une législation visant à interdire l’usage du logiciel sur les caméras qui équipent les policiers.
Du côté d’Amazon, on se retranche derrière la partie humaine de l’équation. L’entreprise explique ainsi l’utiliser avec une probabilité de 99% afin de réussir à limiter ce genre de risques. Surtout, l’objectif serait d’avoir des usages “positifs”, comme aider à retrouver des enfants disparus. Mais pour l’ACLU, cette logique n’est pas viable puisque les autorités ne l’utiliseraient pas à un niveau d’exigence aussi élevé.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
