Elon Musk aspire à ce que son intelligence artificielle (IA) Grok soit la plus performante au monde dans de nombreux domaines, et notamment médical. Pour cela, il n’hésite pas à faire des requêtes plutôt osées auprès des utilisateurs de X, anciennement Twitter.
D’importantes erreurs
Grok, développé par la jeune startup d’Elon Musk xAI, est accessible pour les abonnés payants à X. Et pour l’entraîner, l’entreprise utilise les très nombreuses données présentes sur le réseau social. Le milliardaire semble désormais vouloir passer à la vitesse supérieure afin que l’IA soit également performante pour interpréter les résultats d’imagerie médicale.
« Essayez de soumettre à Grok des radiographies, des TEP scans, des IRM ou d’autres images médicales pour qu’elles soient analysées. Il s’agit encore d’un stade précoce, mais il est déjà assez précis et deviendra de plus en plus performant. Faites-nous savoir si Grok a raison ou s’il a besoin d’être amélioré », a-t-il indiqué dans une publication sur X passée inaperçue.
Certains internautes se sont exécutés et, le moins que l’on puisse dire, c’est que Grok a encore du travail. En effet, le modèle a mal interprété plusieurs examens selon des médecins qui ont réagi sur la plateforme. Il a par exemple confondu un « cas d’école » de tuberculose avec une hernie discale ou une sténose vertébrale. Dans un autre cas, il a considéré que la mammographie d’un kyste mammaire bénin était une image de testicules.
This is classical textbook case of Tuberculosis (TB) – There is paradiscal change! But it is not even in the differential diagnoses! :/
Needs to improve a lot @elonmusk, maybe it needs to especially needs to know the location of the user uploading the image as well, because… pic.twitter.com/KzfOYswNKj
— Dr. Datta (AIIMS Delhi) (@DrDatta_AIIMS) October 29, 2024
Et les données personnelles dans tout ça ?
Outre de mauvaises interprétations qui pourraient avoir d’importantes répercussions sur des utilisateurs faisant confiance à l’IA, la requête d’Elon Musk soulève plusieurs questions. L’entrepreneur semble placer le développement de Grok avant tout le reste, quitte à commettre des erreurs.
Car demander aux utilisateurs de fournir directement leurs données, plutôt que de les extraire de bases de données sécurisées contenant des informations de patients anonymisées, est contraire aux méthodologies en médecine. Les informations provenant d’un échantillon très limité, c’est-à-dire ceux qui acceptent de partager leurs images et tests, ne représentent pas une population large et diversifiée.
De même, ces informations ne sont pas soumises à la loi américaine sur la portabilité et la responsabilité en matière d’assurance maladie, qui protège les données privées des patients contre le partage sans leur consentement. Cette approche risque de divulguer accidentellement des informations sensibles, car des données personnelles sont souvent intégrées dans les images médicales.
Puisque les grands modèles de langage s’appuient sur les conversations qu’ils ont pour affiner leurs capacités, ces données personnelles vont certainement être utilisées pour former Grok. Il n’est donc pas exclu qu’il divulgue par inadvertance des informations sensibles, d’autant plus lorsque l’on connaît la propension des IA à halluciner.
- Elon Musk veut que les utilisateurs de X partagent leurs examens d’imagerie médicale sur la plateforme.
- Cela va permettre d’entraîner Grok, son intelligence artificielle, à les interpréter.
- Une méthodologie qui pose de nombreuses questions, aussi bien d’un point de vue médical qu’éthique.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
