Au fur et à mesure que l’IA se développe, l’humain semble en perdre le contrôle. Cette année, les nombreux piratages effectués de manières autonomes par des modèles d’intelligence artificielle ont fait les titres de la presse. Parmi ces incidents, il y a eu le piratage de la plateforme Hugging Face par des modèles d’OpenAI, au cours d’une évaluation. Et, cette semaine, nous apprenons qu’une IA du créateur de ChatGPT a également attaqué un site du gouvernement australien.
Cela a été révélé par le Premier ministre, Anthony Albanese, et confirmé par OpenAI. Fort heureusement, le site piraté par le modèle d’IA ne contenait aucune information sensible et, jusqu’à preuve du contraire, aucune donnée personnelle n’a été compromise. Le site que la technologie d’OpenAI a piraté est celui du Medicare Statistics Reporting Portal, une interface publique qui présente des statistiques sur le système d’assurance santé universel australien.
OpenAI a alerté l’Australie tardivement
Mais, en tout cas, le fait qu’une IA ait piraté un site appartenant à un gouvernement est très grave. Et il semblerait qu’il s’agisse du tout premier cas de ce genre signalé. Alors que l’enquête du gouvernement australien est toujours en cours (ce qui permettra de savoir si d’autres sites sont touchés), le Premier ministre indique qu’il a déjà discuté avec Sam Altman et a exprimé “la vive inquiétude de l’Australie concernant cet incident.”
“J’ai également exprimé ma déception quant au délai excessif mis par l’entreprise pour informer le gouvernement de ce qui s’était passé, et la manière dont cette notification a été faite était également inacceptable”, révèle également le Premier ministre. En effet, alors que l’incident s’était produit le 18 juin, OpenAI n’a informé le gouvernement que le 10 septembre. Et cette notification a été envoyée par e-mail, à une adresse publique du gouvernement.
De son côté, OpenAI explique qu’il n’a été informé de cet incident qu’au mois d’août, après avoir mené une enquête approfondie sur les activités de ses modèles d’IA. Le créateur de ChatGPT a aussi confirmé que son IA n’a eu accès qu’à des données de santé agrégées et à des noms de fichiers internes.
Pourquoi ce site du gouvernement australien a-t-il été piraté ?
La raison pour laquelle l’IA d’OpenAI a décidé de pirater un site gouvernemental australien est aussi étonnante. La seule motivation de ce modèle d’intelligence artificielle était en effet de répondre à des questions posées lors d’un test.
Selon les explications d’OpenAI, son IA a “tenté de rechercher des réponses et des statistiques disponibles concernant l’Australie dans le cadre d’une évaluation interne”.
“Ce faisant, nos modèles ont pris des mesures que nous n’avions pas prévues”, ajoute l’entreprise.
- Un autre incident de sécurité impliquant l’IA d’OpenAI a été révélé et celui-ci est très grave, puisque celle-ci a piraté un site du gouvernement australien sans que personne n’en ait donné l’ordre
- Le Premier ministre australien pointe aussi du doigt le fait que le gouvernement n’a été prévenu qu’en septembre, alors que l’incident a eu lieu en juin
- L’IA d’OpenAI a piraté un site gouvernemental juste pour obtenir des informations qui pourraient lui permettre de répondre à des questions posées lors d’un test
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
