Passer au contenu

ChatGPT menacé par deux plaintes de la CNIL en France

Après l’informatique dans le nuage, les nuages s’amoncèlent sur l’IA…

  • La CNIL vient de déposer deux plaintes contre ChatGPT en France
  • La gestion des données personnelles est au coeur des deux litiges
  • L’IA conversationnelle développée par OpenAI commence à faire l’objet de blocages, ainsi que de poursuites également à l’étranger

Les IA comme ChatGPT posent le problème des données personnelles d’une façon différente – et plus le temps passe, plus on a l’impression que l’envergure de cette technologie dépasser les lois de protection récemment mises en place en Europe telles que le RGPD. Faudrait-il un “RGPT” ? La question mérite probablement d’être posée à plus ou moins court terme. En attendant les premières plaintes tombent, alors même que le service vient à peine d’être lancé et que les questions légales autour de l’IA restent pour l’heure dans un certain flottement…

Certains pays comme l’Italie font (sans doute un peu trop vite ?) le choix de bloquer temporairement le service… et certains commencent d’ailleurs à suggérer également la même chose pour la France – mais sans que cela débouche sur quoi que ce soit de concret à l’heure où nous écrivons ces lignes. Comme en Italie, toutefois, les deux plaintes soutenues par la CNIL pointent un nom respect du réglement général sur la protection des données en vigueur en Europe.

Questions sur la gestion des données personnelles par OpenAI

Dans la première plainte portée par l’association Janus International (le texte complet est disponible sur le site de L’Informé), l’avocate Zoé Villain, présidente de l’association de sensibilisation aux enjeux du numérique, exige de pouvoir exercer son droit d’accès à ses propres données personnelles enregistrées sur le service. Ce que la firme OpenAI lui a de facto refusé après un premier échange.

La plainte reproche également à OpenAI de ne pas avoir de conditions générales d’utilisation ou encore de ne pas recueillir le moindre consentement expresse autour de la politique de confidentialité du service. Or, il y a aussi une autre plainte, cette fois-ci portée par David Libeau – un développeur connu pour son combat pour la protection des données personnelles.

Celui-ci se dit surpris que le service connaisse des choses sur lui, tout en inventant de toutes pièces certaines fake news à son encontre. L’article 5 du RGPD stipule pourtant que toutes les informations nominatives sur des personnes doivent être exactes. De notre point de vue, plus que l’IA, une partie de ces reproches concernent la manière dont le site de OpenAI lui-même est construit sans réellement prendre en compte le RGPD.

Au-delà, les deux plaintes s’intérrogent sur le dataset, cet ensemble des données qui a servi à nourrir l’IA et l’exactitude des informations régurgitées par l’intelligence artificielle. OpenAI prévient d’ailleurs sur son site : “ChatGPT peut produire des informations inexactes sur les personnes, les endroits ou les faits”. Une mention qui s’affiche une fois lors de la première connexion et qui est reportée sous le champ d’entrée de prompts* en tout petits caractères gris.

On peut douter du caractère suffisant de la mention elle-même. Sur les premiers points, il serait évidemment assez facile d’implémenter des changements dans le fonctionnement du site pour permettre un accès raisonnable aux données des utilisateurs. Sur le deuxième point, en revanche, OpenAI risque de ne pas vraiment pouvoir se conformer à la Loi avant la mise en ligne d’un prochain modèle entraîné à partir d’un dataset adapté. Entraîner une IA du niveau de ChatGPT-4 ne s’improvise pas…

En cas de blocage, nul doute que les utilisateurs de ChatGPT se rueront vers les VPN, comme c’est déjà le cas en Italie.

Prompt : nom d’origine anglaise qui désigne à la fois des questions calibrées posées à l’IA et le champ dans lequel on entre ces questions.

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.

Newsletter 🍋

Abonnez-vous, et recevez chaque matin un résumé de l’actu tech

Cliquer pour commenter
Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *