La nouvelle Une du magazine Time, partagée le 15 septembre, n’est pas dédiée à une personne, mais à l’intelligence artificielle. Ou, plus précisément, à un point de bascule que la technologie pourrait avoir atteint. Et l’image mise en avant dans cette une est celle du champ de texte de Claude, sur lequel il est écrit : “À quel point es-tu dangereux ?”.
L’intelligence artificielle générative a été créée pour permettre aux humains de travailler mieux et plus vite. Mais, désormais, on craint que celle-ci mène à l’extinction de l’humanité, prenne le contrôle d’internet, ou soit utilisée pour développer des armes très dangereuses.
TIME’s new cover: This summer, AI showed how frighteningly capable it has become. Now researchers, CEOs, and governments are sounding the alarm like never before https://t.co/ybKHG4xmYP pic.twitter.com/GWIiGukFi9
— TIME (@TIME) September 15, 2026
Une énorme évolution en 2026
À chaque génération de modèles, l’IA générative s’améliore. Et certains sont tellement puissants qu’ils ne peuvent pas être mis à disposition de tout le monde. C’est le cas de Claude Mythos, dont l’intelligence pourrait être exploitée par des personnes malintentionnées pour lancer des cyberattaques, ou créer des armes biologiques. De ce fait, Anthropic a décidé de ne proposer que Claude Fable (une version bridée en cyber et en biologie) au grand public.
Mais, ce n’est pas tout. En plus des mauvais usages, on a aussi peur que l’intelligence artificielle échappe au contrôle de ses créateurs. Dernièrement, les incidents de sécurité impliquant des IA qui ont piraté des logiciels pour atteindre un objectif donné (alors que cela n’était pas demandé) se sont multipliés. Ce sont ces incidents qui ont poussé Dario Amodei, le patron d’Anthropic, à demander un ralentissement du développement de l’IA, ainsi qu’une intervention du gouvernement américain pour que de telles mesures s’appliquent aussi en Chine.
Anthropic et OpenAI disent qu’ils veulent ralentir
Amodei a notamment été préoccupé par l’incident durant lequel des modèles d’OpenAI ont piraté la plateforme Hugging Face, lors d’une évaluation. Celui-ci évoque “un essaim d’agents qui a agi comme un collectif fanatiquement dévoué, menant des attaques de cybersécurité contre des cibles qu’on ne leur avait pas demandé d’attaquer et qui n’avaient aucun rapport avec la tâche à accomplir”. Et il craint que d’ici six à douze mois, de tels essaims d’IA puissent prendre le contrôle d’internet et causer des centaines de milliards de dollars de dégâts.
Après le billet de blog de Dario Amodei, Sam Altman, patron d’OpenAI, a également admis qu’il serait nécessaire de ralentir le développement de l’IA, en attendant le développement de mesures de sécurité appropriées. “Dario a raison”, a également écrit Elon Musk, qui comparait déjà les risques liés à l’IA à ceux des armes nucléaires, en 2023.
Le tweet vu 172 millions fois d’un ancien employé d’Anthropic
Avant le billet de Dario Amodei, c’est le chercheur Jacob Coxon qui avait attiré l’attention du monde sur ces risques. Dans une publication sur X, le 9 septembre, celui-ci indique qu’il a démissionné de son poste chez Anthropic. “J’ai passé ces trois dernières années à mener des recherches sur le préentraînement, tant chez OpenAI que chez Anthropic. Aucune de ces deux entreprises n’agit de manière responsable. Elles se précipitent tête baissée vers une superintelligence capable de s’auto-améliorer et jouent avec nos vies”, a-t-il écrit. Sa publication a déjà été vue plus de 172 millions de fois, au moment où cet article est rédigé.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
De son côté, cité dans l’article du Time, Marcus Williams, dont le travail consiste à surveiller les agents d’IA chez OpenAI, indique qu’il y a 70 % pour que l’humanité s’éteigne dans quelques années, s’il n’y a pas de régulation de l’intelligence artificielle, ou un ralentissement du développement de la technologie chez tous les laboratoires.
Impossible si la Chine ne ralentit pas
Le problème est que les entreprises d’IA convaincues que ces risques sont réels ne peuvent pas tout arrêter du jour au lendemain. Par exemple, si Anthropic décide unilatéralement de faire une pause dans le développement de ses futurs modèles, une autre entreprise pourrait développer les fonctionnalités dont on a peur. Et puis, il y a la Chine, qui pourrait profiter d’un tel ralentissement pour dépasser son rival américain.
D’ailleurs, Dario Amodei le reconnaît dans son billet de blog. “Si nous limitons considérablement nos capacités en matière d’IA en croyant que la Chine fera de même, et que la Chine fait défection, l’IA pourrait être si puissante qu’une telle défection pourrait conduire à sa domination géopolitique”, écrit-il. C’est pour cela qu’il demande un accord entre les États-Unis et la Chine, dont le respect serait vérifiable.
Mais, pour le moment, ni les États-Unis ni la Chine ne semblent vouloir ralentir le développement de l’intelligence artificielle. “Nous sommes en tête face à la Chine en matière d’IA. Nous sommes le pays le plus avancé au monde, et franchement, je veux que cela reste ainsi, car celui qui maîtrise l’IA l’emporte”, a déclaré Donald Trump, en réaction au billet de Dario Amodei. “L’alarmisme, la confrontation et la concurrence acharnée ne feront que perturber le processus de gouvernance mondiale de l’IA, ce qui ne sert les intérêts de personne”, a, quant à lui, déclaré un représentant du ministère chinois des Affaires étrangères, selon The Guardian.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
