Coup dur pour Google Home, son IA relaye les fausses informations

Voilà qui est plutôt gênant pour Google, son tout nouvel assistant Google Assistant intégré dans Google Home l’assistant domotique de la firme de Mountain View relayerait les fausses informations présentes sur la toile. Un manque de discernement de l’intelligence artificielle, qui montre que de grands progrès sont à faire, si l’on ne souhaite pas être induit en erreur par un assistant virtuel.

Google Home et les fakenews

Facebook et Google ont décidé de partir en guerre contre les fakesnews depuis quelques semaines. La première raison invoquée était liée aux critiques des journalistes envers les deux géants pour le laxisme dont ils font preuves sur leurs services, permettant à des rumeurs ou à des fakenews de s’amplifier sur la toile. Il est possible que ce combat contre les fausses informations soit aussi en partie dû au fait que l’intelligence artificielle des assistants domotiques soit incapable de discerner un faux article.

Les fakenews perturbent le bon fonctionnement de Google Home

Le résultat, c’est que Google Home laisse passer certaines articles, comme « Présidents américains anciens membres du Klu Klux Klan », ou encore « Des nazis au sein du parti républicain », ce qui est un vrai problème car les utilisateurs se retrouvent régulièrement confrontés avec des actualités totalement fausses.

Le principal problème réside dans le fait que l’intelligence artificielle de Google Assistant considère un seul résultat lorsqu’on lui pose une question et base son choix sur le plus grand nombre de consultations ou la popularité, et non sur la fiabilité de l’information. Cette incapacité de discernement conduit à des résultats aberrants issus de fakesnews très populaires, puisque reprises des millions de fois sur les réseaux sociaux, et partagées par une constellation de sites de buzz ou de blogs.

Le journaliste Rory Cellan-Jones de la BBC a réalisé un test très simple, en demandant à Google Home si Barack Obama préparait un coup d’état, la réponse qui est pourtant évidente aux yeux d’un humain ne l’est pas pour l’IA puisqu’elle a proposé un résultat détaillant justement la préparation d’un coup d’État… De quoi donner du grain à moudre à tous les partisans des complots en tout genre. Google a dit travailler activement sur le sujet et qu’il proposerait rapidement une solution pour réduire (faute d’éliminer), tous les contenus trompeurs, faux, inappropriés ou rumeurs, des réponses proposées par son algorithme.

Il est possible que l’on ait atteint la limite des intelligences artificielles, du moins pour un certain temps.


Nos dernières vidéos

Répondre

Send this to a friend