Un consensus a été trouvé entre Dario Amodei, patron d’Anthropic, Sam Altman, le patron d’OpenAI, et Elon Musk, qui dirige SpaceX (dont le laboratoire d’IA SpaceXAI). Ces trois patrons américains sont désormais tous d’accord sur le fait que la progression de l’IA générative doit être ralentie, par précaution, car les risques sont de plus en plus importants. Mais Donald Trump, de son côté, n’est pas d’accord.
En effet, le président américain voit les choses d’un angle purement géopolitique. “Nous sommes en tête face à la Chine en matière d’IA. Nous sommes le pays le plus avancé au monde, et franchement, je veux que cela reste ainsi, car celui qui maîtrise l’IA l’emporte”, a-t-il déclaré, dimanche, selon Reuters.
L’appel du patron d’Anthropic
Tout est parti d’un billet de blog publié par Dario Amodei, le 12 septembre. Dans ce billet, celui-ci suggère un ralentissement du développement de l’IA, pour que l’industrie se donne le temps de développer les bons garde-fous.
En effet, si l’IA peut apporter d’importants progrès à l’humanité, celle-ci peut aussi devenir hors de contrôle, être détournée pour lancer des cyberattaques ou des attaques biologiques, ou provoquer d’importantes perturbations économiques. Mais une telle mesure, pour qu’elle s’applique partout dans le monde, nécessiterait une coopération entre les États-Unis et la Chine.
Le patron d’Anthropic en est arrivé à cette conclusion suite aux nombreux incidents de sécurité impliquant des modèles d’IA (dont des modèles Claude), et notamment le piratage de Hugging Face par des modèles d’OpenAI, qui suggère une perte de contrôle. Durant cet incident “un groupe d’agents a agi comme un collectif fanatiquement dévoué, menant des cyberattaques contre des cibles qui ne leur avaient pas été demandées”, explique Amodei.
Dario a raison, selon Elon Musk
L’idée n’est pas de stopper l’évolution de l’IA générative, mais de faire en sorte que les nouvelles fonctionnalités arrivent plus tard, lorsqu’on sera en mesure de les contrôler. Cet avis est partagé par Elon Musk. “Dario a raison”, a-t-il écrit dans une réaction sur le réseau social X. Celui-ci a également rappelé qu’il a donné l’alerte dès 2023. Dans une réponse, à l’époque, le milliardaire écrivait que le risque associé à l’AGI (une intelligence artificielle générale dont les capacités à apprendre de nouvelles tâches seraient comparables à celles de l’humain) est encore plus élevé que le risque associé aux armes nucléaires. “Les êtres humains extrêmement intelligents ont du mal à imaginer quelque chose de bien plus intelligent qu’eux-mêmes”, écrivait-il également dans cette réponse.
I’ve seen quite a few technologies develop, but none with this level of risk. AGI is significantly higher risk than nuclear weapons, in my opinion.
Super smart humans have trouble imagining something vastly smarter than themselves.
— Elon Musk (@elonmusk) April 25, 2023
Quant à Sam Altman, a aussi écrit un long billet sur X, après la publication de Dario Amodei. Et comme le patron d’Anthropic, celui d’OpenAI demande l’aide du gouvernement américain pour que la gestion des risques associés à l’IA générative soit coordonnée sur le plan international.
The world deserves confidence that American companies developing increasingly capable AI will act responsibly, especially as the trajectory of progress has steepened. Every frontier lab must deliver on this, and there is no reason any of us should come to work if we cannot.
We…
— Sam Altman (@sama) September 14, 2026
Les États-Unis sont face à un dilemme
En tout cas, la situation est complexe, car un ralentissement du développement des modèles d’IA uniquement aux États-Unis pourrait profiter à d’autres puissances, dont la Chine. En effet, malgré les restrictions imposées par l’Oncle Sam concernant l’accès aux puces, les laboratoires chinois sont déjà parvenus à créer des modèles de pointe dont les performances se rapprochent de celles des meilleures IA américaines (actuellement, il s’agit de Claude Fable 5.1, de GPT-6 Astra d’OpenAI).
D’ailleurs, tout en évoquant ses craintes par rapport aux risques de l’intelligence artificielle, Dario Amodei reconnaît aussi les enjeux géopolitiques. “Si nous limitons considérablement nos capacités en matière d’IA en pensant que la Chine fera de même, et que la Chine fait défection, l’IA pourrait être si puissante qu’une telle défection pourrait conduire à sa domination géopolitique”, a-t-il écrit. De ce fait, celui-ci estime qu’un accord entre les États-Unis et la Chine sur la sécurité de l’IA devrait être “vérifiable à 100 %” et devrait aussi être limité pour qu’une défection de la Chine ne devienne pas une menace “existentielle” sur le plan militaire.
Dario Amodei propose quatre niveaux d’accord possibles. Le premier niveau interdirait tout simplement les usages dangereux de l’IA, comme la production d’armes biologiques. Le niveau le plus élevé comporterait un “ralentissement complet, voire une “pause”, dans le cadre duquel les gouvernements participants acceptent de limiter sensiblement le rythme global de développement de l’IA.”
Ce qu’on en pense
Reste à savoir si Washington finira par écouter ses champions de l’IA. Pour le moment, Donald Trump ne semble pas reconnaître les risques associés au développement de l’intelligence artificielle. Dimanche, le président américain a évoqué des “forces très négatives” qui parlent de scénarios qui, pour lui, ne se produiront pas, selon Reuters.
- Le patron d’Anthropic évoque les risques associés aux nouvelles fonctionnalités de l’IA générative et demande un ralentissement général du progrès de cette technologie, avec une coopération du gouvernement américain avec la Chine
- Cet avis est partagé par Elon Musk et Sam Altman, le patron d’OpenAI
- Mais Donald Trump, de son côté, veut s’assurer que les États-Unis continuent de dominer la course à l’intelligence artificielle
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
