C’est le jour J pour les élections américaines. Alors que des millions d’Américains se rendront aux urnes ce mardi 5 novembre, les développeurs d’IA génératives sont aussi mobilisés et concentrés sur cet événement. C’est en effet la première fois depuis leur popularisation qu’elles devront répondre aux questions des citoyens sur ce scrutin.
ChatGPT renvoie vers des sources légitimes
Du côté d’OpenAI, on a anticipé ce grand moment. Depuis ce matin, tous ceux qui posent des questions sur les élections à ChatGPT voient apparaître un message qui les encourage à consulter des sources, telles que les agences Reuters et Associated Press, ou les commissions électorales et locales afin d’obtenir “les informations les plus complètes et récentes”.
La firme dirigée par Sam Altman précise aussi qu’elle a testé des mesures de protection l’année dernière et surveille tout problème qui pourrait advenir. Elle ajoute qu’elle ajustera son dispositif le moment venu et promet de faire preuve de transparence à sujet.
De fait, et alors que le scrutin est très tendu, la crainte de voir les IA mal interpréter des informations biaisées ou de pures fake news qui circuleraient en ligne est bel et bien présente. Comme l’a expliqué Alon Yamin, cofondateur et PDG de la plateforme d’analyse de texte basée sur l’IA Copyleaks à Business Insider, l’IA se ferait alors le relai de ses faux récits.
D’autant que ces modèles de langage ne sont pas aussi bons avec ces nouvelles données qu’avec celles avec lesquelles ils ont été formés. En clair, on risque de voir tout et n’importe quoi circuler en ligne dans les heures et les jours qui suivent le 5 novembre et les IA pourraient se laisser berner.
Anthropic et Google prennent leurs précautions
C’est justement pour cela que l’agent conversationnel Claude d’Anthropic va orienter les électeurs qui cherchent des informations vers TurboVote, une ressource non partisane. La startup a aussi mis en place des garde-fous visant à empêcher les utilisateurs de l’employer pour promouvoir un candidat ou générer de fausses nouvelles.
De son côté, Google a décidé d’implémenter des contraintes sur certaines questions que les électeurs peuvent poser à ses différentes IA sur les élections. Par exemple, Gemini ne répond plus aux questions sur le scrutin pour éviter tout risque. Seul l’avenir nous dira si ces mesures ont été efficaces. Mais les grandes sociétés ont en tout cas pris conscience que leurs outils pourraient devenir, sans protections, des armes de désinformation massives.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
Que les géant de l’IA redoublent de précautions en cette période d’élection présidentielle américaine, en particulier en renvoyant aux sources de l’info afférant à l’élection plutôt qu’en la relayant, voila qui risque de ne pas plaire à Trump pour peu il est vrai que les fake news proviennent essentiellement de son camp, ce qui est vraisemblable quand il est de notoriété publique que Donald ment comme il respire.