Suivez-nous

Tech

Comment l’UE veut lutter contre les effets pervers de l’intelligence artificielle

Les derniers arbitrages sont en train d’être effectués avant l’annonce du nouveau règlement le 21 avril prochain.

Publié le

 
IBM caméra reconnaissance faciale
© Unsplash / Scott Webb

En septembre 2017, le président russe Vladimir Poutine affirmait à propos de l’Intelligence artificielle que « celui qui deviendra le leader dans ce domaine sera le maître du monde. » De fait, les grandes puissances sont toutes très actives sur ce secteur, à commencer par la Chine et les États-Unis. L’Union européenne veut aussi aller de l’avant, sans pour autant oublier les potentielles dérives qui pourraient être associées à ce type de technologies.

C’est en ce sens que la Commission présentera le 21 avril prochain son projet de régulation de l’intelligence artificielle. Politico s’est procuré en avant-première ce document qui pourrait encore évoluer d’ici la semaine prochaine. Il comprend des mesures très fermes qui, sans contenter tout le monde, feraient du Vieux continent un précurseur.

Bannissement des systèmes de crédits sociaux et encadrement de la reconnaissance faciale

En clair, et pour ne citer que quelques exemples fournis par nos confrères, si un système permet de modéliser le changement climatique, ou de rendre le réseau énergétique plus efficace, il est évidemment le bienvenu. Mais les algorithmes utilisés pour les recrutements, évaluer la solvabilité d’une personne, distribuer des prestations sociales, ou encore prendre des décisions judiciaires, seront par principe considérés comme à haut risque et feront l’objet d’un examen bien plus approfondi.

Plusieurs autres applications potentielles de l’intelligence artificielle sont dans le viseur des autorités européennes. Les systèmes de crédit sociaux qui permettent de juger de la fiabilité d’une personne en fonction de son comportement social ou des traits de sa personnalisé seront formellement interdits. Les IA « qui causent du tort aux personnes en manipulant leur comportement, leurs opinions, ou leurs décisions », devraient également être bannies.

L’UE ne ferme en revanche pas totalement la porte aux systèmes d’identification biométrique à distance. La reconnaissance faciale sera toutefois encadrée et soumise à une autorisation spéciale. Politico affirme que cette mesure est destinée à apaiser des pays comme la France qui sont tentés d’intégrer ces dispositifs dans leur arsenal de sécurité.

Des amendes salées en cas de non-respect des règles

L’annonce devrait toutefois déplaire aux nombreux groupes de défense des droits civils et numériques qui militent pour une interdiction de la surveillance biométrique de masse en Europe. Une pétition a même été lancée en février dernier à ce sujet et a déjà obtenu plus de 46 000 signatures.

Afin de s’assurer de l’application de ces nouvelles règles, la Commission prévoit des sanctions assez fermes pour les entreprises récalcitrantes. Elles pourraient en effet se voir appliquer une amende allant jusqu’à 20 millions d’euros ou 4 % de leur chiffre d’affaires.

Ce nouveau corpus réglementaire fonctionnerait un peu à la manière du RGPD. Ainsi, les États membres devront créer des comités d’évaluation nationaux afin de tester et valider les systèmes d’IA considérés comme à haut risque. L’ensemble sera supervisé par un comité européen de l’Intelligence artificielle qui partagera les meilleures pratiques. Il comprendra un représentant par pays de l’UE, le contrôleur européen de la protection des données, et un représentant de la Commission.

À noter que les députés européens sont également très mobilisés sur ce dossier. La commission de la culture et de l’éducation du Parlement s’est prononcée en faveur d’une résolution visant à encadre l’intelligence artificielle. L’objectif est de « réduire les préjugés de genre, sociaux ou culturels dans ces technologies ».

En janvier dernier, une autre réunion a été consacrée à ce sujet par des parlementaires du Vieux continent. Une des intervenantes, Francesca Lagioia, chercheuse à Institut universitaire européen, a parfaitement résumé les enjeux : « L’IA offre certainement de grandes opportunités aux individus et aux sociétés mondiales en ce qui concerne la durabilité et la possibilité d’accroître les connaissances. Mais cela implique également des risques importants, comme par exemple le chômage, la discrimination et l’exclusion. »

3 Commentaires

3 Commentaires

  1. Jc

    15 avril 2021 à 19 h 05 min

    Bravo à l’europe pour son engagement face à l’intelligence artficiélle, j’espère que les risques seront pris TRÈS au sérieux.
    Il y a l’évolution de la technologie qui n’est qu’1 exemple (la vaccination en masse va menacer l’humanité, base de données oblige, contrairement à l’idée du fichage, laaargement arriérée).

  2. Tof

    16 avril 2021 à 9 h 30 min

    L’intelligence artificielle N’existe pas!

  3. Albert

    16 avril 2021 à 11 h 33 min

    Un projet de régulation de l’IA!!!Reste à savoir ce qu’il en restera après les diverses pressions que le sujet ne va manquer de générer comme de l’inventivité déjà au travail visant à en contourner les futures règles aux mailles finalement bien trop larges. On demande à voir…

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *