Lorsque l’on gère une entreprise en 2023, il peut apparaître très tentant d’intégrer un chatbot pour aider (ou séduire) ses clients. Pourtant, les sociétés ont clairement intérêt à manier ces outils avec prudence. C’est ce que l’on peut retenir de cet article récemment publié par le National Cyber Security Center britannique (NSCS).
L’autorité mentionne en effet plusieurs risques qui guettent les organisations concernées. Ainsi, ces IA sont en constante évolution. Leurs API peuvent changer à tout moment, dès lors si votre organisation repose un peu trop sur ces services, une modification pourrait sérieusement impacter votre activité. De même, ces dernières ne vous appartiennent pas, et une modification tarifaire peut également exposer à des risques.
Un chatbot peut coûter cher à une entreprise
Par ailleurs, le fonctionnement précis de modèles de langage de type ChatGPT et ses rivaux demeure un mystère, y compris parfois chez ses propres concepteurs. Leur utilisation peut donc être détournée et nuire aux intérêts d’une entreprise.
Le NSCS cite ainsi l’exemple d’un utilisateur qui est parvenu à faire tenir des propos choquants ou embarrassants à une IA. Il peut par la suite faire des captures d’écran et se moquer ouvertement d’une société sur les réseaux sociaux. De quoi poser d’évidents problèmes d’image à cette dernière.
Un autre scénario encore plus sournois est envisagé par l’auteur de cette note. Ainsi, si une banque déploie un chatbot à destination de ses clients pour poser des questions ou réaliser des actions, un pirate pourrait être en mesure de réaliser un virement en sa faveur via une manœuvre assez technique, mais loin d’être irréalisable.
Ces avertissements de l’autorité britannique sont loin d’être isolés. D’autres organisations se méfient des chatbots et plusieurs géants de la Tech comme Apple et Amazon interdisent à leurs salariés d’utiliser ChatGPT.
En France, la mairie de Montpellier demande également à son personnel de ne pas utiliser cette IA. En mars dernier, l’adjoint au maire en chargé du numérique, Manu Reynaud expliquait ainsi : « Nous ne pouvons garantir que des informations échangées avec la plateforme seront protégées contre les éventuelles violations de sécurité, de droits ou de confidentialité ». Vous pouvez d’ailleurs toujours relire notre article à ce sujet ici.
Ce qu’il faut retenir :
- Dans une note récente, National Cyber Security Center britannique (NSCS) appelle les entreprises à la prudence quant à l’utilisation des chatbots
- L’autorité dévoile quelques risques liés à cette technologie
- Elle souligne surtout que nous ne maîtrisons pas encore toutes les conséquences de cette dernière
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
