Plus les modèles d’IA progressent, plus les risques associés sont élevés, si les mesures adéquates ne sont pas prises pour encadrer la technologie. Par exemple, il existe aujourd’hui des modèles de pointes capables de mener des attaques en exploitant des failles, simplement pour atteindre un objectif qui a été fixé par l’humain. Et, afin de mitiger ces risques, OpenAI a développé un cadre appelé “Preparedness Framework”. Ce cadre est un outil interne qui permet à l’entreprise de mesurer et de développer des protections contre “les dommages graves causés par les capacités d’IA de pointe”.
Mais, apparemment, l’entreprise aurait décidé de dissoudre l’équipe dédiée qui était chargée de ce cadre de préparation. Selon un article de Financial Times, le créateur de ChatGPT est en pleine restructuration. Et parmi les conséquences de cette restructuration, il y aurait la dissolution de l’équipe “preparedness”, qui joue pourtant un rôle crucial en matière de sécurité. Selon les sources du FT, les cadres de cette équipe travaillent désormais sur des domaines de préparation spécifiques, comme les risques cyber ou les risques biologiques, au sein d’autres équipes.
En d’autres termes, OpenAI n’arrête pas de se préparer aux risques liés aux nouvelles capacités de l’IA. Mais, au lieu d’avoir une équipe dédiée, l’entreprise intègrerait les fonctions de préparation au sein d’autres équipes.
À l’approche de son entrée en Bourse, OpenAI rechercherait l’efficacité
Cette mesure ferait partie d’une série de réorganisations en interne chez OpenAI, pour se préparer à son entrée en Bourse. L’objectif de l’entreprise serait de gagner en efficacité, en rationalisant ses ressources. Par ailleurs, Sam Altman aurait également demandé aux équipes de réduire les “activités parallèles” pour se focaliser sur le produit phare, ChatGPT, ainsi que sur la concurrence avec Anthropic (très populaire chez les professionnels).
Pour le moment, on ne sait pas quand OpenAI entrera en Bourse. Mais, après l’IPO, celui-ci devra déclarer ses résultats financiers chaque trimestre et répondre à certaines questions d’analystes sur ses activités. Par ailleurs, la valeur de l’action variera énormément en fonction des résultats financiers et des perspectives de l’entreprise.
- Selon le Financial Times, OpenAI aurait dissout son équipe “preparedness” dédiée à la surveillance des risques liés aux capacités des IA de pointe
- Les fonctions auraient été transférées à d’autres équipes au sein de l’entreprise
- Cela ferait partie d’une restructuration interne pour se préparer à l’entrée en Bourse du créateur de ChatGPT
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
