“Oui, des astronautes ont rencontré des chats sur la lune, ont joué avec eux et leur ont prodigué des soins”. Cette réplique de la fonctionnalité de recherche mise en place par Google basée sur l’IA a de quoi faire sourire. En réponse à une question de l’agence Associated Press, cette dernière a produit de nombreuses hallucinations. Les internautes américains (où la fonctionnalité a été largement implanté) ont fait feu de tout bois et révélé les failles de ce nouvel outil.
De quoi alerter Melanie Mitchell, chercheuse en intelligence artificielle à l’Institut Santa Fe, au Nouveau-Mexique. Elle a testé la fonctionnalité du moteur de recherche et lui a demandé combien de musulmans avaient été présidents des États-Unis. La réponse correcte est zéro. Sauf que l’IA de Google a répliqué : “Les États-Unis ont eu un seul président musulman, Barack Hussein Obama”. Elle reprend ainsi une vieille fake news répétée fréquemment par Donald Trump et l’extrême droite américaine.
Google se défend
Citée par nos confrères, l’experte n’y va d’ailleurs pas quatre chemins : “Le système d’intelligence artificielle de Google n’est pas assez intelligent pour comprendre que cette citation n’étaye pas l’affirmation. Étant donné qu’elle n’est pas digne de confiance, je pense que cette fonction d’aperçu de l’IA est très irresponsable et qu’elle devrait être mise hors ligne”.
Sous le feu des critiques, Google s’est fermement défendu par le biais d’un communiqué. Le géant de la Tech assure prendre des mesures rapides pour éliminer les erreurs les plus grossières et problématiques. Il explique “développer des améliorations plus larges” et que ces dernières sont déjà en cours de déploiement.
Sur le fond toutefois, il ne semble pas être question de faire machine arrière : “La grande majorité des aperçus d’IA fournissent des informations de grande qualité, avec des liens permettant d’aller plus loin sur le web. Beaucoup des exemples que nous avons vus étaient des requêtes peu courantes, et nous avons également vu des exemples qui ont été trafiqués ou que nous n’avons pas pu reproduire.”
Une version qui n’en reste pas moins discutable. Certains analystes soulignent d’ailleurs les risques de l’implémentation de l’IA dans le moteur de recherche. Face à un souci urgent, les internautes pourraient s’en tenir à une première réponse erronée de l’IA et ne pas aller plus loin.
La BBC rappelle également à quel point Google marche sur des œufs sur ce dossier. Son moteur de recherche reste à la base de son modèle économique et il se doit donc de protéger sa poule aux œufs d’or basée sur la publicité. D’un autre côté, la pression s’accroît pour lancer des produits d’IA, et ce même si ces derniers produisen des hallucinations problématiques, et posent des questions concrètes sur le plan environnemental et énergétique.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
Pour info, essayé à l’instant avec Gemini et Copilot et les 2 répondent 0 en expliquant les tendances religieuses des présidents des états-unis… Bref, important de rappeler que l’IA apprend vite avec les modérateurs humains qui travaillent tout au fond de la cave des grosses entreprises de la tech !
Les GAFAM sont un peu limité en terme de choix pour puiser de la donnée pour nourrir leurs AIs, les artistes leur collent des procès, le contenu “no copyright” est assez limité voir mauvais, la seule solution est de s’associer avec d’autres gros sites web pour bouffer leur data contre un gros billet (pour Google c’est Reddit, sauf qu’il y a aussi des trolls dessus, ce qui cause ces inepsies). Et effectivement plusieurs de ces absurdités sont justes des photomontages. Toujours est il que le problème reste réel.