C’est un sondage qui en dit long. D’après une enquête réalisée par la société Kantar en 2023, 72 % des Français ont conscience de divulguer leurs informations personnelles en ligne. De même, 92 % des répondants sont préoccupés par ces problématiques. C’est dire si cet enjeu est devenu primordial.
À l’occasion de la journée européenne de la protection des données à caractère personnel, nous avons eu l’idée d’explorer quelles pourraient être les conséquences de l’arrivée des IA génératives telles que ChatGPT et ses rivaux sur la protection de notre vie privée en ligne.
Des risques pour la confidentialité ?
Des militants se sont ainsi déjà indignés des atteintes qu’étaient susceptibles de porter ces nouveaux outils à la confidentialité de nos données personnelles. Dans un article passionnant l’Official Monetary and Financial Institutions Forum (OMFIF), un think tank qui s’intéresse aux politiques économiques et à l’investissement public, montre que ces technologies reposent sur la collecte de vastes bases de données pour fonctionner.
En théorie, ces modèles de langage ne puisent que dans des informations ouvertes, y compris des profils de réseaux sociaux si ces derniers sont publics. Cela pourrait toutefois contrevenir aux RGPD, le règlement qui protège les données personnelles au sein de l’Union européenne.
Cité par les experts, Chris Elwell-Sutton est associé au sein de l’équipe données, confidentialité et cybersécurité du cabinet d’avocats britannique TLT, souligne ainsi :
Il existe une croyance commune selon laquelle, si les données sont extraites de sources accessibles au public, elles échappent au champ d’application du RGPD et des régimes de confidentialité similaires. C’est une erreur, potentiellement très coûteuse. Une fois vos données personnelles stockées dans un système de fichiers, vous bénéficiez de la protection du RGPD, quelle que soit leur source d’origine.
Conscient des risques, OpenAI, la société qui développe ChatGPT a revu ses règles en matière de confidentialité. Elle permet notamment à ses utilisateurs de refuser que leurs données soient utilisées pour former l’IA. La compagnie a aussi pris des mesures afin de supprimer les informations personnelles identifiables sur l’ensemble de ces données de formation.
Les progrès permis par l’IA
Si ces nouvelles IA génératives sont porteuses de risques, elles pourraient également être une aubaine pour mieux protéger nos informations en ligne des acteurs malveillants. Ainsi, ces outils peuvent améliorer l’efficacité de la protection en ligne. C’est ce qu’explique Sam King, directeur général du groupe de sécurité Veracode au Financial Times :
Les équipes de sécurité utilisent l’IA depuis des années pour détecter les vulnérabilités et générer des alertes de menaces, mais l’IA générative amène cela à un autre niveau. Désormais, nous pouvons utiliser la technologie non seulement pour détecter les problèmes, mais aussi pour les résoudre et, à terme, les prévenir.
Comment expliquer ce vent d’optimisme ? Les partisans de l’IA générative expliquent que des chatbots aident déjà des analystes humains à mieux détecter les menaces potentielles. Ces modèles entraînés sur ces sujets spécifiques peuvent par ailleurs être utilisés pour tester et garantir la sécurité du code d’une entreprise.
Il suggérera ainsi des correctifs adaptés ou des mesures d’atténuation face aux risques. C’est donc un cas de figure où l’IA peut permettre de mieux protéger les données personnelles des internautes stockés sur un service.
Certains experts tiennent toutefois à tempérer ces espoirs. Ils rappellent ainsi à nos confrères que des chatbots ont aussi été mis au point pour aider les cybercriminels. Des outils tels que FraudGPT ou WormGPT démocratisent l’accès au piratage pour des personnes dont les compétences techniques sont limitées.
Ce qu’il faut retenir :
- L’IA est porteuse de craintes et d’espoirs pour la protection de nos données personnelles
- Le recueil de données sensibles pourrait menacer la confidentialité en ligne
- La mise en place d’outils adaptés peut aussi contrer certains vols de données
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
