AI Overviews sur Google Chrome permet à l’utilisateur d’avoir des réponses générées par Gemini lors d’une requête. Ainsi, lorsque vous posez une question au navigateur, la réponse IA apparaît avant les résultats. Cette fonctionnalité n’est pas disponible en France, mais s’est déjà implantée depuis longtemps dans d’autres pays, comme aux Etats-Unis ou en Grande Bretagne.
Pourtant, il semblerait qu’il ne faille pas se fier aux réponses de AI Overviews, surtout en ce qui concerne la santé. Comme le révèle The Guardian, les réponses fournies par l’outil sont non seulement fausses, mais aussi potentiellement dangereuses.
Des résumés trompeurs, potentiellement dangereux
The Guardian qualifie certaines réponses de « réellement dangereuses ». Par exemple, Google conseille les patients souffrant d’un cancer du pancréas d’éviter les aliments riches en matière grasses, alors qu’il faut faire exactement le contraire, selon les médecins cités par le journal. Ce n’est pas un cas isolé, puisque AI Overviews donne de fausses informations sur les maladies hépatiques, ou encore des maladies du foie.
Ce n’est pas une erreur anodine, mais bien un problème majeur de santé publique. Pamela Healy, directrice de l’association British Liver Trust et citée par The Guardian, met en garde contre ces résumés IA :
« De nombreuses personnes atteintes d’une maladie du foie n’ont aucun symptôme avant d’avoir été dépistées. Mais ces résumés IA peuvent considérer comme normal des symptômes qui ne le sont pas. C’est dangereux, car certaines personnes peuvent penser ne rien avoir et donc ne pas prendre rendez-vous chez le médecin ».
Des résumés alarmants, donc, dont les imprécisions doivent être pris au sérieux. Le site TechCrunch a, dans la foulée de l’enquête du Guardian, a tenté d’effectuer les requêtes pointées du doigt et, surprise, plus aucun résumé IA n’était affiché.
Google a indiqué qu’il ne commentait pas la suppression des recherches, mais qu’il effectuait régulièrement différentes améliorations sur sa fonctionnalité. Ce problème va au-delà des simples erreurs de l’IA, puisqu’il concerne la santé publique. Inutile de dire qu’effectuer des recherches sur Internet au moindre symptôme est une mauvaise idée, même si nous l’avons tous fait au moins une fois. Avec Google AI Overviews, ce ne sont plus forums ou les sites douteux qui sont la cause des angoisses (ou au contraire du relativisme), mais bien Google « en personne ».
- L’IA de Google a diffusé des informations médicales incorrectes et potentiellement dangereuses.
- La société a retiré les réponses inexactes de son moteur de recherche Chrome.
- Cet incident soulève des préoccupations sur l’utilisation de l’IA dans le secteur médical.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
