Pour contrer les discours de haine en ligne et le cyberharcèlement, les géants du web utilisent des algorithmes de modération automatiques qui, malgré de vrais ratés, fonctionnent globalement assez bien. Ils permettent souvent d’agir bien plus vite que ne pourraient le faire les services judiciaires qui ne disposent pas des mêmes moyens d’action.
Le déclic de la finale de l’Euro
Pour autant, ces derniers ne sont bien sûr pas sans failles. On sait par exemple qu’ils ont parfois du mal à reconnaître les messages sarcastiques. Un autre problème de taille vient d’être repéré par des chercheurs de l’Oxford Internet Institute. Ils notent en effet que les messages abusifs postés en ligne sont moins bien repérés par l’intelligence artificielle lorsqu’ils contiennent des emojis.
Ainsi, alors que le système repère plutôt bien les discours haineux dans du texte, il peine davantage lorsque ces derniers intègrent des émoticônes. Un exemple emblématique est cité par nos confrères de Digital Information World. Lors de la dernière finale de l’Euro, des joueurs noirs de l’équipe d’Angleterre ont été visés par des insultes racistes. Lorsqu’un émoji singe était ajouté au message, l’algorithme était bien en peine de le repérer.
Cette faille est en réalité assez logique car ces systèmes sont souvent entraînés via des bases de données comprenant du texte et assez peu d’émojis. Il y a en tout cas urgence à agir si l’on en croit les résultats fournis par les auteurs qui ont utilisé une base de données intégrant 4000 phrases contenant de nombreux émoticônes.
Dans le détail, Perspective API, l’outil de Google, n’a obtenu qu’un taux de réussite de 14 %. De leur côté, les scientifiques ont entraîné leur propre IA en utilisant des émojis et son efficacité a été largement amélioré. Les chercheurs ont justement décidé de partager leur base de données pour que l’ensemble des acteurs concernés puissent perfectionner leurs outils.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
Si même le sarcasme pose problème, il va falloir ressortir parchemin et plume sergent major (pour ceux qui connaissent) ! au secours Voltaire ils sont devenus fous … au fait à quoi assimile t-on les Blancs ?