Suivez-nous

Tech

Arrestation à Detroit : le système de reconnaissance faciale commet une erreur

Les policiers de Detroit ont arrêté un homme identifié par erreur avec la reconnaissance faciale. C’est la première fois qu’une telle erreur est recencée.

Il y a

  

le

 
Reconnaissance-faciale-erreur
© Photo Mix/Pixabay

Une image floue, un système de reconnaissance faciale pas si fiable que l’on croit et Robert Williams se voit passer 30 heures en garde à vue à la place d’un autre suspect. Le seul point commun entre eux : être afro-américain. Compte tenu des derniers évènements dont a été témoin l’Amérique avec des violences policières sur fond de racisme, cette erreur n’est pas passée inaperçue.

En l’espèce c’est le système de reconnaissance faciale DataWorks Plus qui a été utilisé. Il est avéré depuis plusieurs années que la reconnaissance faciale est moins fiable pour les personnes non blanches pour lesquels le système fait ressortir beaucoup plus de faux positifs. Cette arrestation en est malheureusement l’illustration.

Un système défaillant associé à des erreurs humaines

Selon l’ACLU (American Civil Liberties Union) il s’agit de la première arrestation injustifiée liée à un système de reconnaissance faciale. L’image prise comme référence a été capturée par des caméras de surveillance de la bijouterie où ont été commis les vols de montres objet de cette affaire.

La photo de Williams est ressortie parmi d’autres clichés d’une base de données de reconnaissance faciale de l’État du Michigan. Les policiers ont présenté sa photo au gardien du magasin, qui malgré l’absence de ressemblance, l’a identifié alors qu’il n’était lui-même pas présent sur le site lors du délit. Suite à cela, Williams a été arrêté et menotté devant sa femme et ses deux petites filles.

L’ACLU a décidé de porter plainte contre la police de Detroit pour cette arrestation sans fondement. L’homme a en effet passé 30 heures en garde à vue. C’est en tenant la photo du voleur présumé à côté de lui qu’un des policiers aurait finalement réagi en disant « L’ordinateur a dû se tromper. »

Il a dû attendre deux semaines pour que les poursuites à son encontre soient officiellement stoppées avec la mention « sans préjudice », qui signifiait qu’il pouvait être potentiellement arrêté de nouveau. L’ACLU a d’ailleurs indiqué que suite à son arrestation, le dossier de William contenant sa photo, ses empreintes digitales et son ADN était toujours présents dans les documents des forces de l’ordre.

La police de Detroit a finalement accepté de classer l’affaire sur décision du procureur en indiquant qu’elle n’utilisait désormais la reconnaissance faciale que pour les crimes violents.

L’ACLU a demandé l’effacement total du dossier de William, ce que les procureurs ont accepté. Cela lui permet de ne pas voir son identité ressortir dans les bases de données criminelles de Detroit.

De manière plus globale, la reconnaissance faciale est devenue un sujet complexe, notamment pour les grandes entreprises comme IBM, Amazon ou Microsoft qui ont dû renoncer à la commercialisation de leurs outils suite aux violences policières et à un manque d’encadrement juridique de ces technologies.

Le manque de vérification peut aussi être pointé du doigt dans cette affaire. Les policiers semblent avoir eu une confiance aveugle dans leur outil de reconnaissance faciale à tel point qu’ils n’ont pris ni la peine de vérifier la photo et encore moins de vérifier la présence de William sur les lieux des vols, alors qu’il s’est avéré qu’il était finalement très loin de cet endroit. On peut constater un travail d’enquête bâclée sous prétexte de se reposer uniquement sur la technologie de la reconnaissance faciale.

Suite à cette erreur, l’ACLU a par ailleurs demandé l’arrêt de l’utilisation de la reconnaissance faciale par la police pour éviter ce genre d’erreur à l’avenir.

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Cliquez pour commenter

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Les bons plans

Dernières news

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Les tests