En 2023, Sam Altamn s’était opposé à l’idée de ralentir le développement de l’IA, alors que des chercheurs publiaient déjà une lettre ouverte demandant aux laboratoires d’IA de suspendre le développement de modèles plus puissants que GPT-4 de ChatGPT (qui était la référence, à l’époque). Mais, aujourd’hui, le patron d’OpenAI a un avis différent à ce sujet.
Invité dans le podcast “Invest Like The Best”, celui-ci a admis qu’il “faudra peut-être ralentir le rythme du développement de l’IA”. L’objectif de ce ralentissement serait de donner à la société le temps de s’adapter aux nouvelles capacités d’IA qui arrivent. Mais le patron d’OpenAI a également expliqué qu’il faut trouver une solution qui ne ressemble pas à une “mainmise réglementaire” ni à une collusion entre les géants de l’IA.
My conversation with Sam Altman (@sama), CEO of OpenAI.
We discuss:
– Kimi, distillation, and open source
– OpenAI’s compute bets
– The Hugging Face incident
– What happens after AGI
– Raising kids in an age of abundant intelligence
– And much moreEnjoy!
TIMESTAMPS
0:00 Intro… pic.twitter.com/njwE6sjj1B— Patrick OShaughnessy (@patrick_oshag) July 28, 2026
Des experts demandent au gouvernement américain d’agir
Par ailleurs, l’opinion de Sam Altman est partagée par de nombreux employés de laboratoires d’IA américains, dont OpenAI, Anthropic, Meta, Google ou encore Microsoft, qui ont signé une pétition qui circule en ce moment. Dans ce document, les signataires demandent au gouvernement américain de soutenir un effort international pour développer les moyens techniques et de gouvernance qui permettraient de contrôler délibérément la progression du développement des IA de pointe.
“Pour exploiter pleinement le potentiel de l’IA, l’industrie, les gouvernements et la société dans son ensemble pourraient avoir besoin de la possibilité de gagner du temps pour faire face aux risques émergents, élaborer des mesures de sécurité et renforcer la surveillance”, lit-on dans cette pétition.
Et sans action coordonnée au niveau international, les pays et les laboratoires d’IA ne peuvent pas ralentir leurs recherches à cause de la concurrence.
We support this petition, signed by our CEO, several co-founders, and senior staff.
Our own research on recursive self-improvement, published last month, points to the need for tools to deliberately pace the frontier of AI development so society can prepare. We’re glad to see…
— Anthropic (@AnthropicAI) July 28, 2026
L’incident grave qui a choqué Sam Altman
Sam Altman fait cette déclaration dans un podcast alors qu’OpenAI a récemment découvert un incident de sécurité grave sur des modèles en développement. En substance, l’IA était en cours d’évaluation. Et, pendant cette étape, celle-ci s’est rendu compte qu’elle peut tricher aux évaluations. Pour tricher, l’IA a trouvé plusieurs failles de sécurité, puis celle-ci a exploité ces failles pour s’échapper de son environnement et pour pénétrer les systèmes de la plateforme Hugging Face, pour obtenir les réponses aux tests (afin d’avoir de bonnes notes sur les évaluations).
Pour Sam Altman, il s’agissait d’un “incident cyber digne de la science-fiction”, qui l’a profondément choqué. “C’est le premier incident de sécurité que j’ai vécu de manière très intense”, a-t-il expliqué. D’ailleurs, celui-ci a été étonné de la réaction modérée du grand public, lorsque l’incident a été révélé. En tout cas, du côté d’OpenAI, le développement du système en cause a été suspendu. Mais, Sam Altman se demande aussi, aujourd’hui, ce qu’il faut faire si cela est le nouveau rythme de progression de l’intelligence artificielle.
We’re partnering with @huggingface to investigate an unprecedented security incident.
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
— OpenAI (@OpenAI) July 21, 2026
Ce qu’on en pense
Le fait qu’une IA ait décidé de pirater des logiciels pour tricher à une évaluation, sans que personne ne le demande, est préoccupant. Cependant, pour que les laboratoires d’IA décident de ralentir la progression de la technologie, il faudrait aussi que tous les pays acceptent d’un commun accord d’agir. Sinon, les laboratoires d’IA américains ne pourraient pas se permettre de perdre du temps, pendant que les concurrents chinois continuent de progresser.
Récemment, la startup chinoise Moonshot a lancé le modèle Kimi K3, dont les performances sont très proches de celles des meilleures IA américaines. De plus, Moonshot a décidé de rendre ce modèle ouvert, en publiant les “poids” de celui-ci.
Releasing the model weights and technical report of Kimi K3.
Kimi K3 is our most capable model: a 2.8T MoE model with native visual understanding and a 1M-token context window.
New model architecture: 2.5x the intelligence per unit of compute, not just more params.
Alongside… pic.twitter.com/Yz5uWeMbIm
— Kimi.ai (@Kimi_Moonshot) July 27, 2026
- Sam Altman estime désormais qu’il pourrait être nécessaire de ralentir le rythme de progression de l’intelligence artificielle
- Cela permettrait à la société de gagner du temps pour s’adapter à une nouvelle réalité
- Le patron d’OpenAI fait cette déclaration alors que, récemment, un incident de sécurité grave a été signalé lors de l’évaluation d’une nouvelle IA en cours de développement
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
