- Le directeur scientifique réagit à la lettre signée par Elon Musk et demandant une pause dans la course à l’IA
- Pour lui, ralentir n’est pas la solution
- OpenAI, développeur de ChatGPT, et partenaire de Microsoft, s’est déjà exprimé à ce sujet
Microsoft n’appuie pas sur “pause”. Grâce à son partenariat avec OpenAI, la firme de Redmond est bien positionnée pour gagner la course à l’IA contre Google. Et celle-ci n’a aucune intention de ralentir, malgré la demande de six mois demandée par plus de 25 000 signataires, dont Elon Musk. Pour rappel, évoquant les risques liés à l’intelligence artificielle, le document signé par Musk demande une pause de six mois sur le développement d’intelligences artificielles plus puissantes que GPT-4.
Mais dans une récente déclaration, Eric Horvitz, le chef scientifique de Microsoft, a clarifié les choses : la firme de Redmond refuse. Dans une interview avec le magazine Fortune, celui-ci explique qu’il respecte ceux qui ont signé cette lettre demandant un moratoire et il estime même que les préoccupations par rapport à la course à l’IA sont “raisonnables”.
Cependant, pour lui, la pause demandée par la lettre n’est pas une solution. “[…] je préfèrerais voir plus de connaissances, et même une accélération de la recherche et du développement, plutôt qu’une pause de six mois, ce dont je ne suis même pas sûr que ce soit faisable. C’est une demande très mal définie à certains égards…”, a-t-il déclaré. D’après lui, une pause de six mois ne changerait pas grand-chose et il préfèrerait au contraire accélérer les investissements pour mieux comprendre, guider et même réguler l’IA.
Pourquoi une pause ?
“Les systèmes d’IA dotés d’une intelligence humaine et compétitive peuvent poser de graves risques pour la société et l’humanité, comme le montrent des recherches approfondies et reconnues par les meilleurs laboratoires d’IA”, lit-on dans cette lettre signée par Elon Musk. Et comme ces systèmes peuvent apporter d’importants changements pour l’humanité, une certaine planification est requise.
Or, selon celle-ci, “ce niveau de planification et de gestion ne se produit pas, même si ces derniers mois ont vu les laboratoires d’IA enfermés dans une course effrénée pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prévoir, ou contrôler de manière fiable”.
L’idée est d’utiliser cette période de pause pour que tous les acteurs définissent ensemble des protocoles de sécurité pour les intelligences artificielles avancées. Et si cette pause n’a pas lieu, les signataires demandent aux gouvernements d’intervenir.
OpenAI a déjà réagi
Il est à noter que la société OpenAI, le partenaire de Microsoft dans le domaine des IA génératives, a déjà réagi à cette lettre. Intervenant lors d’un événement du MIT, son PDG, Sam Altman, a admis que même lui était inquiété par l’IA en début d’année. “Je pense qu’il est vraiment important d’avancer avec une prudence et une rigueur croissante pour les questions de sécurité”, a-t-il aussi indiqué. De plus, plus les IA seront développées, plus les mesures de sécurité devront être importantes. Néanmoins, pour le PDG d’OpenAI, la lettre signée par Elon Musk manquerait de “nuances techniques”.
En substance, tout le monde admet que les risques liés à l’IA existent et que des protocoles de sécurité sont effectivement nécessaires. Mais la proposition de faire une pause sur la course à l’IA ne convainc pas (et pourrait profiter à la Chine). Comme Microsoft, Google n’appuie pas sur pause. Mais son PDG, Sundar Pichai, pense qu’il s’agit d’inquiétudes fondées.
“Dans ce domaine, je pense qu’il est important d’entendre les préoccupations. Il y a beaucoup de gens réfléchis derrière cela, y compris des gens qui ont pensé à l’IA pendant longtemps”, a-t-il expliqué, selon un article du New York Times. Concernant Elon Musk, Pichai évoque une discussion qu’il aurait déjà eue avec le PDG de Tesla et Twitter au sujet de ces inquiétudes, il y a 8 ans. Musk aurait donc toujours été préoccupé.
Pour rappel, Elon Musk a investi dans OpenAI, avant de sortir du projet. Et aujourd’hui, celui-ci est en train de créer un nouveau laboratoire l’IA. De ce fait, certains estiment que la signature de la lettre par Musk est avant tout un moyen de ralentir les futurs concurrents.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
