Le ministère de la Justice britannique s’aventure sur un terrain glissant, hanté par les fantômes de la fiction de Philip K. Dick. Exit Tom Cruise et les jumeaux précogs, bienvenue aux data scientists et à leurs lignes de code prophétiques. Lorsqu’on voit le projet gouvernemental baptisé « homicide prediction project », impossible de ne pas penser à cette terrible dystopie qu’est Minority Report.
Renommé dans une novlangue administrative plus digestible : « sharing data to improve risk assessment », on pourrait voir le fantasme du film de Spielberg – arrêter les criminels avant qu’ils n’agissent – se transformer en vrai politique publique.
L’ère de la prédiction criminelle
L’idée est de collecter massivement des données personnelles, les passer à la moulinette algorithmique, et identifier les futurs auteurs d’homicides. Mis au jour par l’organisation Statewatch, ce dispositif a été commandité par le bureau du Premier ministre durant le mandat de Rishi Sunak. Il puise dans un réservoir de données vertigineux : historiques judiciaires du Service de probation, archives policières du Grand Manchester antérieures à 2015, profils démographiques complets avec noms, dates de naissance, genre, ethnicité et identifiants policiers.
D’autres indicateurs ; encore plus discutables ; seront aussi le carburant de cette machine à prédire : marqueurs de santé mentale, d’addiction ou… de tentatives de suicide. Un cocktail de données intimes qui ferait pâlir d’envie le Département Precrime du film de Spielberg par son intrusion dans les recoins les plus sombres de l’intimité des citoyens.
L’innocence est-elle une variable superflue ?
À la différence du film où les précogs visualisaient l’avenir sans jamais se tromper, les algorithmes britanniques risquent fort de reproduire les biais systémiques qui traversent déjà le système pénal. C’est un des principaux points faibles des algorithmes ; en tant que reproductions mathématiques des données qui les nourrissent, ils ne peuvent intrinsèquement corriger les imperfections ou les préjugés présents dans ces données.
Pour Sofia Lyall, chercheuse pour Statewatch, le Gouvernement britannique est clairement sur la mauvaise voie : « Ce dernier modèle, qui exploite des données issues de notre police et du ministère de l’Intérieur, institutions gangrénées par le racisme, ne fera qu’aggraver et amplifier la discrimination structurelle qui mine le système juridique pénal. À l’instar d’autres systèmes similaires, il intégrera des préjugés à l’encontre des communautés racialisées et à faibles revenus. Mettre au point un outil automatisé pour dresser le profil de personnes comme étant des criminels violents est profondément répréhensible, et l’utilisation de données aussi sensibles que celles concernant la santé mentale, la toxicomanie et le handicap est extrêmement intrusive et alarmante. »
L’oracle numérique britannique pourrait bien confondre corrélation et causalité, transformant des facteurs sociaux (précarité, appartenance ethnique, quartier défavorisé) en indicateurs de dangerosité. C’était même le dilemme moral principal de Minority Report : peut-on juger quelqu’un pour un crime qu’il n’a pas encore commis ?
Le ministère de la Justice défend son outil avec un aplomb technocrate : il s’agit simplement d’« explorer des techniques alternatives et innovantes » pour « contribuer à la protection du public ». Une rhétorique sécuritaire qui peine à masquer ce qu’il se passe réellement : la présomption d’innocence cède le pas à la présomption de dangerosité, calculée par des statistiques.
Un porte-parole du même ministère se montre plus rassurant : « Ce projet est mené uniquement à des fins de recherche. Il a été conçu à partir de données existantes détenues par les services pénitentiaires et de probation britanniques, ainsi que par les forces de police, concernant les personnes condamnées. L’objectif est de mieux comprendre le risque de récidive violente chez les personnes en probation. Un rapport sera publié prochainement ». Même présenté ainsi, le projet flirte dangereusement avec cette logique prédictive qui avait fait le succès du roman dystopique de Philip K. Dick. Suffira-t-il d’être trop pauvre, trop dépressif, ou trop visible pour devenir une menace pour la société ?
- Le gouvernement britannique développe un système pour anticiper les crimes violents en analysant des données personnelles sensibles, y compris des éléments liés à la santé mentale et aux antécédents judiciaires.
- Ce dispositif soulève de graves inquiétudes sur les dérives discriminatoires et l’automatisation des préjugés sociaux déjà présents dans le système pénal.
- Derrière un discours technique et sécuritaire, le projet remet en question les fondements mêmes de la justice, en faisant passer la présomption de culpabilité pour une simple variable de calcul.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
