Cette IA effrayante est capable de remplacer un procureur

L’intelligence artificielle peut-elle remplacer un procureur humain ? C’est l’objectif d’une recherche menée par des chercheurs de l’Académie chinoise des sciences. Ces derniers ont mis au point un système capable d’analyser des dossiers et de prendre la décision d’inculper une personne pour un crime qu’elle a commis.

Les résultats seraient impressionnants, selon les scientifiques. Ainsi, le programme est en capacité de présenter une accusation sur la base d’une description écrite d’une affaire avec une précision de 97 %.

Certains s’inquiètent toutefois de voir ce dispositif mis en place. Ce dernier servirait notamment dans les cas de délits tels que la « subversion du pouvoir politique de l’État », ou le « sabotage de l’unité nationale ». Des termes parfois difficiles à appréhender par les humains et qui sont souvent utilisés pour poursuivre des opposants au régime.

Il est bien plus simple de contester une décision humaine qu’une décision prise par une IA

Du côté de ces concepteurs, on explique que cette innovation pourrait permettre de réduire la charge de travail des procureurs, en leur donnant plus de temps pour gérer les tâches plus délicates.

Il permettrait donc aux autorités judiciaires d’avancer sur des délits répandus à Shanghai, tels que les fraudes à la carte de crédit, les vol, et les blessures intentionnelles. Il ne s’agirait donc pas d’un rôle décisionnel mais d’un accompagnement. La définition des sanctions restant pleinement à la charge des humains.

Comme le rappelle ZmeScience, ce n’est pas la première fois que la Chine développe une technologie dédiée à son système judiciaire. En 2017, un tribunal cybernétique a été lancé et il permet aux parties de comparaître par vidéo devant des juges basés sur une IA. Des décideurs humains surveillent toutefois le procès et ce sont eux qui rendent la décision finale.

L’idée d’utiliser une intelligence artificielle dans la justice a de quoi inquiéter, d’autant que les algorithmes sont connus pour présenter des biais humains tels que le racisme ou le sexisme. Cela n’empêche pas certains chercheurs de plancher sur ces dossiers. En 2020, des scientifiques de l’Université de Stanford et de l’Université de Berkeley ont constaté que les algorithmes seraient meilleurs que les humains pour prévenir des risques de récidive.

Toutefois, il apparaît que les machines comme les humains se trompent assez souvent dans leurs prédictions. Or, il est bien plus simple de contester une décision humaine qu’une décision prise par un logiciel.

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.