Tout en développant des modèles d’IA de pointe, Anthropic avertit régulièrement sur les risques liés à cette technologie. Mais le laboratoire, qui propose le chatbot Claude, ne se contente pas de donner son avis publiquement. D’après les révélations de Politico, celui-ci essaie également d’exposer son point de vue sur la manière dont IA devrait être régulée au Congrès américain. Citant des sources proches du dossier, le média indique que des représentants d’Anthropic aurait présenté un projet de loi visant à réglementer la sûreté et la sécurité des modèles IA à des membres du Congrès.
Cité par Politico, un porte-parole d’Anthropic a indiqué que le projet de loi en question reflète les propositions du “cadre de l’IA avancée” que l’entreprise a publié en juin. Et celui-ci confirme également qu’il plaide en faveur de ces propositions auprès des législateurs fédéraux et étatiques, aux États-Unis. “Ce cadre expose ce que, selon nous, les gouvernements devraient faire à court terme face aux risques les plus graves liés à l’IA de pointe”, lit-on dans l’introduction de ce document, qui est accessible sur le site web d’Anthropic.
Le gouvernement américain pourrait bloquer une IA si un seuil de risque est dépassé
D’après Politico, la proposition de loi d’Anthropic permettrait au gouvernement américain de bloquer un modèle d’IA (son développement et son utilisation) si un seuil de risque est dépassé. Le mécanisme serait activé lorsqu’un modèle d’intelligence artificielle présente un risque prévisible et imminent de dommages supérieurs à 1 milliard de dollars, ou bien lorsque le modèle pourrait causer plus de 50 décès ou blessures graves. Et ces risques devraient provenir de menaces biologiques, de modèles qui échappent au contrôle de l’entreprise qui la développe, ou de cyberattaques.
Le média précise également que le langage utilisé par le projet de loi d’Anthropic est proche de celui de la loi sur l’IA de l’Etat de Californie, qui a été signée en 2025. Et cela est logique, puisque le créateur de Claude recommandait déjà l’utilisation de la définition des “risques catastrophiques” selon la loi californienne, dans le document qu’il a publié au mois de juin.
Sinon, on rappelle également que les patrons d’Anthropic et d’OpenAI étaient favorables à un frein sur le développement des modèles d’IA de pointe, à l’échelle internationale, pour que l’industrie se donne le temps de faire évoluer les garde-fous de la technologie.
- Anthropic plaide en faveur d’un projet de loi qui vise à réguler l’IA aux États-Unis
- Ce projet reflète les recommandations d’un document publié en juin
- S’inspirant d’une loi déjà appliquée en Californie, le document évoque les niveaux de risque qui devraient déclencher le blocage d’un modèle d’IA
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
