À la suite des nombreux incidents de sécurité impliquant des modèles d’IA en développement (dont le piratage de Hugging Face par un essaim d’agents IA), OpenAI a décidé de prendre une mesure radicale : désormais, ses modèles d’IA en développement n’ont presque plus accès à internet, mais exploitent une version hors-ligne. Cela fait partie des mesures que l’entreprise vient d’annoncer pour isoler ses modèles lors de la phase de développement, durant laquelle une IA peut avoir des comportements imprévisibles (alors que la technologie devient de plus en plus intelligente).
“Pour l’entraînement et la plupart des évaluations, l’Internet en ligne se situe en dehors de cette limite, car nous estimons que permettre aux modèles d’accéder à l’Internet en ligne peut présenter des risques importants. Bien que l’accès à Internet puisse aider les modèles à acquérir des compétences utiles, il offre également à un agent performant, mais dont les objectifs ne correspondent pas aux nôtres, la possibilité d’influencer des systèmes qui échappent à notre contrôle”, écrit l’entreprise.
Les modèles d’IA en développement utilisent un “monde hors-ligne”
En substance, OpenAI veut éviter que les incidents comme celui qui a affecté Hugging Face se reproduisent en isolant encore plus ses IA pendant l’entraînement et pendant les évaluations.
Les modèles s’entraînent désormais à naviguer sur internet, à récupérer des informations pour ses réponses, et à utiliser des applications en se servant d’un “monde hors-ligne” que le créateur de ChatGPT a conçu spécialement pour la recherche. Il s’agit d’un ensemble de pages web indexées et de versions mises en cache que les modèles peuvent utiliser sans risque de conséquences dans le monde réel.
En tout cas, en annonçant ce changement, OpenAI admet que les autres méthodes autrefois utilisées pour empêcher les mauvais comportements de l’IA pendant la phase de développement ne sont pas efficaces.
- OpenAI isole encore plus ses modèles d’IA pendant l’entraînement et pendant les évaluations
- Celui-ci a développé une version hors-ligne d’internet que ses agents peuvent utiliser sans risque de conséquences dans le monde réel
- OpenAI admet ainsi que les anciennes méthodes d’isolation ne sont plus efficaces, alors que ses IA sont de plus en plus puissantes
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
