Cette année, pas moins de 40 élections d’envergure nationale ou internationale se déroulent partout dans le monde. Dans ce contexte, les risques liés à la désinformation sont plus présents que jamais. C’est notamment le cas des deepfakes et l’on sait à quel point il est désormais possible d’imiter l’apparence et la voix d’une personne pour lui faire dire ou faire des choses compromettantes.
Des utilisations inquiétantes de l’IA
Eileen Culloty, chercheuse à l’Université de Dublin, a justement rédigé un article très intéressant à ce sujet dans le média en ligne The Conversation. La scientifique cite notamment deux exemples récents où des deepfakes ont été utilisés pour tenter d’influencer une élection. En Indonésie, une vidéo a ressuscité l’ancien président Suharto. Ce dernier a incité les électeurs à se rendre aux urnes et ce contenu a fait polémique, car il a été créé par le parti politique qu’il dirigeait.
En Slovaquie, la malveillance est montée d’un cran, puisqu’un faux audio généré par IA a émergé à quelques jours des élections législatives de septembre 2023. On entendait le dirigeant du parti Slovaquie Progressiste, Michal Šimečka, qui discutait avec un journaliste sur la meilleure manière de truquer le vote. Fort heureusement dans ce cas, cette falsification était d’assez mauvaise qualité et des vérificateurs de faits ont pu rapidement établir son inauthenticité.
Nous vous parlions également récemment d’Amandine Le Pen, de Léna Maréchal-Le Pen ou encore de Chloé Le Pen sur TikTok. Ces jeunes femmes, blondes aux yeux bleus, se font passer pour un membre de la famille Le Pen. En réalité, elles sont créées de toutes pièces via l’IA pour dépoussiérer l’image des partis d’extrême droite en France.
Que faire face à ce danger qui met en péril nos démocraties ? Eileen Culloty estime que les réseaux sociaux ont parfois tendance à « permettre voire à alimenter la désinformation ». Mais d’après elle, il ne faudrait pas croire que tout se joue en ligne.
Et la chercheuse de poser une série de questions pour le moins pertinentes :
Existe-t-il un système médiatique indépendant capable de fournir des enquêtes de qualité dans l’intérêt du public ? Existe-t-il des administrateurs et des organes électoraux indépendants ? Existe-t-il des tribunaux indépendants pour statuer en cas de besoin ? Les hommes politiques et les partis politiques sont-ils suffisamment attachés aux valeurs démocratiques plutôt qu’à l’intérêt personnel ? Cette année d’élections, nous pourrions bien trouver la réponse à ces questions.
Distinguer le faux du réel, mission impossible ?
Quoi qu’il en soit, les progrès récents en matière d’IA ne sont pas de nature à nous rassurer. Nous évoquions en février dernier le cas de Sora, la création d’OpenAI capables de générer des vidéos ultra-réalistes sur commande.
Hany Farid, chercheur à l’Université de Californie à Berkeley alertait ainsi : « Comme c’est le cas pour d’autres techniques en intelligence artificielle générative, il n’y a aucune raison de penser que la conversion de texte en vidéos ne continuera pas à s’améliorer rapidement, nous rapprochant de plus en plus d’une époque où il sera difficile de distinguer le faux du réel ».
Face au risque, OpenAI a décidé de restreindre l’accès à Sora et demandé à un groupe « d’experts dans des domaines tels que la désinformation, le contenu haineux et les biais » d’étudier son potentiel de nuisance.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
De tous temps les rumeurs ont été interprétées par nombre d’entre nous comme éléments de vérité ou de plausibilité, façon “il n’y a pas de fumée sans feu”.
Les plus éclairés proclamèrent qu’ils ne croyaient que ce qu’ils lisaient, les plus éclairés encore que ce qu’ils voyaient “de leurs deux yeux” ou ce qu’ils entendaient “de leurs deux oreilles”.
Avec l’IA il y a désormais de la fumée sans feu, on peut voir de nos deux yeux, entendre de nos deux oreilles des éléments qui ne sont pas authentiques mais fictifs, inventés.
–
Le doute, celui des philosophes (ne rien affirmer d’aucune chose), comme celui du dictionnaire (état de l’esprit qui est incertain de la réalité d’un fait, de la vérité de paroles, de la conduite à adopter dans une circonstance) s’impose plus que jamais, va de soi. Douter n’implique pas rester campé sur nos positions lesquelles seraient en contradiction avec l’information, mais propose un simple aveu fait à soi-même surtout mais aussi exprimé clairement, celui de ne pas savoir : “je ne sais pas”. Cet état d’esprit existe, clairement établi, dans le domaine de la foi : le croyant l’a, l’athée ne l’a pas, l’agnostique “ne sais pas”. On peut pareillement raisonner face à toute information. Notons qu’on peut discuter sur le fait de savoir si la foi est matière de savoir, j’ai pris cet exemple pour illustrer une analogie.
–
De quoi est-on vraiment certain ? “Je me porte garant” : y mettrais-je ma vie en jeu ?
d’Amandine Le Pen, de Léna Maréchal-Le Pen ou encore de Chloé Le Pen sur TikTok. Ces jeunes femmes, blondes aux yeux bleus, se font passer pour un membre de la famille Le Pen. En réalité, elles sont créées de toutes pièces via l’IA pour dépoussiérer l’image des partis d’extrême droite en France.
Qu’est-ce qui permet d’affirmer cette conclusion ? Quels sont les éléments factuels qui le démontrent ? Là où je veux en venir c’est que maintenant le « il se peut. »devient « c’est la vérité » tant qu’il n’est pas établi de façon irrévocable, c’est le « il se peut » qui doit être admis. Il y va de la réputation de quiconque qui peut être entaché. Aujourd’hui le RN demain vous. Donc prudence, pas de conclusion hâtive ou vous serez condamné aussi par des suppositions. Les suppositions doivent être rejetées. Elles sont nuisibles. Il faut se limiter aux faits : deux fausses Le Pen aguicheuses circulent sur internet point