“Par précaution”, la ville de Montpellier s’interdit ChatGPT

• La Ville de Montpellier a décidé d’interdire l’accès à ChatGPT à ses équipes
• L’adjoint au maire chargé du numérique explique que cette décision est prise à titre conservatoire
• L’idée est de se prémunir des risques de sécurité ou de potentielles erreurs

C’est une première en France. La Ville de Montpellier vient de prendre une décision radicale vis à vis de ChatGPT. Elle interdit en effet à ses agents et à tous les interlocuteurs de la ville et de la métropole qui sont sous contrat de recourir à ses services.

L’adjoint au maire en chargé du numérique, Manu Reynaud, fait part dans une note interne qu’ont pu consulter nos confrères du Midi Libre, de sa préoccupation. Sa décision est ainsi prise « par précaution et à titre conservatoire ».

Selon lui, ChatGPT et les modèles de langage sont « une révolution dont on ne connaît pas encore l’ampleur ». Il peut potentiellement y avoir un problème de sécurité : « Nous ne pouvons garantir que des informations échangées avec la plateforme seront protégées contre les éventuelles violations de sécurité, de droits ou de confidentialité », précise l’élu.

Quels moyens de contrôle ?

Mais il souligne par ailleurs que cette technologie peut aussi commettre des erreurs. On ne connaît pas vraiment les sources de l’IA, et elle a été pointé du doigt pour des bévues assez spectaculaires par le passé.

Enfin Manu Reynaud fait part de préoccupations juridiques. En effet, alors que les marchés publics sont calculés en terme d’horaires de travail, si un modèle de langage peut effectuer en quelques minutes une commande censée se faire en plusieurs semaines, on pourrait à terme voir des contentieux apparaître.

Reste une question de taille : comment peut-on s’y prendre concrètement pour limiter l’accès à ChatGPT. Comme le soulignent à juste titre nos confrères du Journal du Geek, il est en effet très difficile de vérifier si une tâche a été totalement ou partiellement effectuée par une IA. L’adjoint au maire le reconnaît d’ailleurs : « Les moyens de contrôle n’existent pas encore ».

Cette initiative sera en tout cas intéressante à suivre et elle pose de vraies questions auxquelles nous seront tous confrontés à l’avenir. Certaines collectivités ont d’ailleurs déjà mis à ces IA. C’est notamment le cas du système scolaire public de la ville de New York qui a décidé d’interdire ChatGPT à ses élèves en début d’année. Les décideurs faisaient là encore part de leurs craintes en matière de sécurité et de la fiabilité des contenus produits.

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.