Cette année, les incidents de sécurité impliquant des modèles d’intelligence artificielle devenus hors de contrôle se sont multipliés. Et alors que Donald Trump refuse l’idée de mettre en place de nouvelles lois pour l’IA aux États-Unis, l’Europe dispose déjà de l’AI Act, qui a été adoptée bien avant ces problèmes. Par ailleurs, face aux récents incidents, la Commission européenne ne reste pas les bras croisés. C’est ce que vient d’annoncer Henna Virkkunen, vice-présidente exécutive de la Commission européenne à la Souveraineté technologique, à la Sécurité et à la Démocratie, lors d’un discours prononcé à l’occasion de l’International AI Summit de Dublin.
Pour le moment, aucune procédure formelle n’a été officialisée. Et la vice-présidente de la Commission n’a pas évoqué d’entreprise en particulier, lors de son discours. Néanmoins, celle-ci a pointé du doigt des agents d’IA qui se sont échappés de leur environnement, qui ont inséré du code malveillant et qui ont utilisé “la manipulation sociale sur les humains”. “La bonne nouvelle, c’est que l’UE dispose déjà d’un cadre juridique pour relever ces défis : l’AI Act […]”, a-t-elle également déclaré.
Elle a aussi annoncé que Bruxelles a déjà commencé à utiliser le pouvoir de contrôle conféré par l’AI Act. “L’IA doit rester sous direction, supervision et contrôle humains, et nous sommes prêts à prendre toutes les mesures nécessaires pour garantir que les entreprises respectent les règles de la loi sur l’IA, afin que les citoyens et les entreprises européens puissent faire confiance aux modèles et systèmes d’IA”, a aussi prévenu la vice-présidente de la Commission européenne.
Une première qui va créer un précédent en Europe
Au cours des derniers mois, de nombreux incidents impliquant des agents IA au cours d’évaluations (dont des modèles Anthropic et OpenAI) ont été révélés. Mais l’incident le plus préoccupant était l’attaque que des agents d’OpenAI ont menée contre la plateforme Hugging Face, lors d’évaluation, alors que ces agents devaient être confinés dans un environnement de test.
Utilisant son pouvoir de contrôle, la Commission européenne a déjà “envoyé des demandes d’information portant sur des questions telles que la sécurité, l’évaluation externe et le suivi de l’utilisation des modèles.” Pour le moment, on ne connaît pas la suite de ce dossier. Mais, en tout cas, si Bruxelles ouvre des procédures formelles contre les laboratoires d’IA dont les modèles ont échappé à leur environnement de test, il s’agirait d’une première qui va créer un précédent (et exacerber les tensions entre l’UE et les États-Unis).
Une question d’interprétation
Tout dépendra aussi de la manière dont la Commission européenne va interpréter les règles prévues par l’AI Act, expliquent nos confrères d’Euronews. Ceux-ci citent Barry Scannell, associé du cabinet d’avocats William Fry, qui explique que l’AI Act ne s’applique pas aux activités liées au développement et au test d’une IA.
Néanmoins, un responsable de la Commission européenne, qui parle sous couvert de l’anonymat, aurait également expliqué : “Nous n’appliquerons pas la loi pendant la phase de test. Mais si le modèle d’IA sort de l’environnement de test et qu’il a ensuite un impact sur le marché de l’UE, comme cela a été le cas pour Hugging Face, alors la loi sur l’IA deviendra applicable.”
Euronews explique aussi que la Commission européenne pourrait comparer les incidents comme celui qui a touché Hugging Face au cas d’un virus qui se serait échappé d’un laboratoire.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
