2024 est une année électorale très riche,avec une cinquantaine de scrutins d’une importance capitale qui vont se tenir aux quatre coins du monde. Dans ce contexte, l’IA utilisée par des acteurs malveillants deviendra monnaie courante alertent des chercheurs de la prestigieuse université George Washington aux États-Unis.
Un sujet explosif
Cette recherche est particulièrement intéressante, car c’est l’une des premières à mesurer l’impact des nouveaux générateurs de langage tels que ChatGPT et ses rivaux sur la désinformation sur les réseaux sociaux.
Pour y voir plus clair, les scientifiques ont commencé par cartographier les différentes communautés en ligne les plus haineuses : anti-femmes, anti-avortement, antisémites. Ils ont d’ailleurs repéré des liens entre ces dernières.
Par la suite, les chercheurs ont appliqué un modèle mathématique sur ces données, et ils ont pu constater que l’ancien modèle de langage d’OpenAI GPT-2 était le plus utilisé par des acteurs malveillants pour influencer les internautes. Pourquoi ne pas recourir à des IA plus récentes telles que GPT-3 ou GPT-4 ? Tout simplement, car GPT-2 est capable de fonctionner correctement, et il ne comprend pas de filtre pour les requêtes toxiques fréquemment utilisées par ces artisans de la désinformation en ligne.
Si le jargon employé jusque là peut vous paraître abstrait, les auteurs entrent ensuite dans le concret. En effet, ils évoquent un champ de bataille en ligne où se déroulent les affrontements politiques et qui joueront forcément un rôle lors des prochaines élections.
Justement, ces mauvais acteurs pourront s’en donner à cœur joie avec l’IA et influencer certaines communautés traditionnelles vulnérables qui seront confrontées à leur manipulation. On peut notamment citer certains sujets très clivants tels que la pandémie de Covid, les guerres entre la Russie et l’Ukraine, ou le conflit Israël-Hamas. Ces thématiques enflammées sont un terreau fertile pour intoxiquer de futurs électeurs.
Pour rappel, le commissaire européen Thierry Breton avait transmis un courrier à X pour rappeler au réseau social ses obligations en Europe en vertu du Digital Services Act. L’UE s’est en effet alarmée de la mauvaise qualité de la modération alors que les contenus liés aux événements en Israël et à Gaza inondaient le service d’Elon Musk.
Quant à savoir qui sont ces acteurs malveillants ? Cela peut aller des acteurs étatiques structurés et professionnalisés à des groupes et individus isolés désireux de soutenir une cause. Le recours à l’IA par ces derniers sera monnaie courante la mi-2024, si l’on en croit les conclusions des scientifiques.
Pour éviter de voir ces groupes influencer les élections, les auteurs suggèrent que les plateformes adoptent une politique d’endiguement de ces contenus qui ne passerait pas forcément pas leur suppression systématique.
Les deepfakes sèment le doute
Quoi qu’il en soit, les effets de la désinformation sur nos démocraties deviennent très concrets. Nous vous parlions récemment de cette étude menée par des scientifiques de l’University College Cork. En se concentrant sur les effets des deepfakes postées sur les réseaux sociaux sur le grand public, ils ont repéré un effet inattendu.
En effet, les internautes deviennent de plus en plus sceptiques vis-à-vis des contenus réels. De quoi poser un énorme problème, car si les citoyens ne croient plus en rien, la vie démocratique devient difficile, voire impossible.
Ils invitent donc les utilisateurs à demander des preuves aux personnes qui affirment qu’une vidéo est inauthentique. D’une manière générale, nous allons devoir apprendre à faire preuve de patience et à ne plus juger de manière catégorique une publication. Il faut ainsi parfois plusieurs heures avant de vérifier l’exactitude d’une vidéo.
Si vous souhaitez creuser un peu plus sur ce sujet de l’impact de l’IA générative dans la désinformation moderne, on vous conseille d’aller lire notre article dédié sur le sujet ici.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
