Passer au contenu

« Pas une entreprise d’IA sûre » : des experts dézinguent le double discours d’Anthropic, qui cacherait bien son jeu

Anthropic prétend prioriser la sécurité, mais une coalition d’experts assure que c’est tout l’inverse.

Alors qu’Anthropic s’apprête à réaliser la plus importante entrée en Bourse de l’Histoire sur le Nasdaq, une fronde inédite vient ternir l’opération. L’ONG américaine Center for AI Safety (CAIS) vient en effet de publier le « MisAnthropic Statement », une lettre ouverte qui attaque frontalement l’image de marque du créateur de Claude.

Elle cible spécifiquement le double discours de la firme. Depuis sa création, Anthropic cultive son image d’acteur responsable et soucieux d’encadrer les dérives de l’intelligence artificielle. Pour rappel, ses sept cofondateurs d’Anthropic ont quitté OpenAI car ils n’étaient pas en accord avec la sécurité de ses modèles. C’est d’ailleurs tout le pitch derrière la firme : son IA, elle, est conçue pour se montrer responsable et sécurisée.

Des signataires de tous les bords

Mais pour les signataires, il s’agit avant tout d’un feu de poudre visant surtout à séduire les investisseurs, les talents et le grand public. « Anthropic avertit qu’une IA capable de s’améliorer elle-même de manière récursive pourrait concentrer les pouvoirs et échapper au contrôle humain, tout en faisant la course pour la construire en premier », déplorent les auteurs.

Parmi, on retrouve des figures historiques de la sécurité de l’IA, comme Max Tegmark et Tristan Harris, aux côtés de Guillaume Verdon, alias « Beff Jezos », ou de Thomas Wolf, cofondateur de Hugging Face. De grandes figures académiques complètent le tableau, à l’image du prix Nobel d’économie Oliver Hart, du prix Turing Judea Pearl ou du psychologue Steven Pinker.

Et ils vont même plus loin, car selon eux, Anthropic n’est pas une « entreprise d’IA sûre, et nous devons rejeter sa tentative imprudente d’accumuler du pouvoir au nom du bien commun ».

Dario Amodei Time
© Mijansk786 / Shutterstock

Ses agissements seraient en désaccord avec son discours

Les agissements d’Anthropic en coulisses sont pointés du doigt. En février dernier, l’entreprise a par exemple revu à la baisse sa charte de sécurité, en abandonnant notamment ses engagements unilatéraux à mettre en pause le développement de ses modèles face à certains seuils de risque. Elle mettrait également en pratique un lobbying douteux afin d’affaiblir plusieurs projets de loi américains visant à réguler l’IA.

Il y a quelques mois, Dario Amodei, son patron publiait un vaste texte appelant à freiner le développement d’une IA pour éviter la perte de contrôle. Un plaidoyer que sa société ne semble jamais avoir mis en pratique… Au contraire. « Nous reconnaissons tous le danger d’une entreprise qui s’est convaincue que sa propre domination sert le bien commun », conclut Dan Hendrycks, directeur du CAIS.

Une alerte lourde de sens, pour une entreprise qui s’apprête à peser plus de 1 400 milliards de dollars.

  • Anthropic fait l’objet d’une lettre ouverte cinglante du Center for AI Safety (CAIS).
  • On lui reproche d’avoir assoupli ses engagements de sécurité et d’avoir fait du lobbying pour affaiblir plusieurs projets de loi américains encadrant l’IA.
  • Le timing n’est pas anodin : Anthropic entre en Bourse ce jeudi 19 novembre.

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.

Newsletter 🍋

Abonnez-vous, et recevez chaque matin un résumé de l’actu tech