La déshumanisation par l’intelligence artificielle. France Travail développe un outil IA censé trier les demandeurs d’emploi. L’idée serait de classer automatiquement les profils afin de renforcer les contrôles, en évitant tout « a priori » humain. L’IA renforcerait ainsi le système des contrôles aléatoires.
L’alerte a été donnée par La Quadrature du Net, qui dévoile un document de travail interne de l’institution intitulé « Ciblage du Contrôle de la Recherche d’Emploi ». Il présente cet outil qui utilise l’IA afin d’identifier les profils « suspects ». En clair, ceux qui seront contrôlés ou non. Actuellement, il est en phase de test sur les inscrits ayant signé une rupture conventionnelle, mais pourrait être étendu à tous.
L’IA décidera de l’implication des demandeurs d’emploi
Cette IA passera en revue tous les dossiers de sa base de données en se basant sur 26 critères précis, comme les activités déclarées, la visibilité du CV en ligne, le niveau de formation ou encore l’ancienneté. Ensuite, tous les profils seront classés en deux catégories : les « suspects » et les « non-suspects ». Les « suspects » constitueront ainsi les dossiers prioritaires pour les contrôles et pourront donc éventuellement faire l’objet d’une radiation.
Les contrôles existaient déjà à France Travail, mais cet outil vise à accélérer le processus. Pour justifier son utilisation, l’institution évoque « la suppression des a priori » afin de rendre les contrôles plus « objectifs ». En clair, il s’agit de laisser la machine analyser froidement les dossiers, sans préjugés, en déshumanisant totalement le processus et en ne se basant que sur des données brutes. Une méthode qui, selon France Travail, fait déjà ses preuves. En effet, 79 % des dossiers ciblés par l’outil ont donné lieu à un examen approfondi, contre 53 % avec l’ancien système basé sur une sélection aléatoire. Plus encore, 64 % des dossiers contrôlés ont conduit à des sanctions ou à une « redynamisation ».
Sur le papier, on a donc une IA impartiale, qui analyse les données pour mettre en lumière les inscrits jugés suspects. Au-delà de cette méthode discutable, La Quadrature du Net dénonce le fait que le code source ne soit pas public. France Travail peut ajuster le seuil à partir duquel un dossier est suspect comme il l’entend. A noter que l’institution a identifié un risque d’un contrôle axé sur les faibles revenus, et que l’algorithme a été modifié en conséquence. Au total, plus de 6 millions de personnes seraient concernées par ce nouvel outil.
L’idée derrière tout cela est d’évincer autant que possible le facteur humain afin d’automatiser les processus, que ce soit pour les contrôles ou pour la recherche d’emploi. Un procédé déjà appliqué dans une autre institution : la Caisse nationale des allocations familiales (CNAF).
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
