Suivez-nous

Réseaux sociaux

Ces chercheurs veulent contrer les discours de haine à l’aide d’un algorithme

Comme pour les virus, l’idée est de mettre en quarantaine les propos haineux.

Il y a

  

le

 
discours haineux
© Stefanie Ullman

Des commentaires homophobes, racistes, du harcèlement… La haine en ligne est une réalité que doivent endurer de nombreux internautes au quotidien. En quelques années, des progrès ont été réalisés sur les réseaux sociaux, mais force est de constater qu’elle est loin d’avoir disparu.

Des chercheurs de l’Université de Cambridge ont une idée bien précise de lutter contre les discours de haine. Ils suggèrent qu’ils pourraient être traité comme les virus informatiques et qu’une fois repérés, ils soient placés en quarantaine. A l’heure actuelle, les utilisateurs signalent un commentaire ou message aux plateformes qui décident alors de donner suite ou non. Il est également possible de bloquer le fauteur de troubles.

Un système efficace dès 2020 ?

Mais les scientifiques veulent aller beaucoup plus loin en se servant d’un algorithme nourri d’une base de données. Cette dernière comprend un grand nombre de menaces et d’insultes. Une fois repéré, le message se voit attribué un score « Hate O’Meter » allant de 0 à 100 et permettant d’évaluer s’il contient un discours offensant.

Pour l’heure, les algorithmes capables d’effectuer un repérage des commentaires haineux sont fiables à 80 % et il existe donc une belle marge de progression. Il n’empêche que la détection s’est beaucoup amélioré et ces derniers sont désormais en mesure de déterminer le contexte dans lequel un discours est tenu.

Les chercheurs de l’Université de Cambridge espèrent disposer d’un système fiable au début de l’année 2020. Cela permettrait aux utilisateurs d’agir de manière beaucoup plus rapide contre ces attaques et de ne pas être tributaire des réseaux sociaux qui mettent parfois du temps à répondre.

« Beaucoup de femmes et de personnes appartenant à des groupes minoritaires aux yeux du public reçoivent un discours de haine anonyme pour avoir osé avoir une présence en ligne. Cela peut dissuader les gens d’entrer ou de continuer à s’exprimer publiquement, alors même que ces groupes auraient besoin d’une meilleure représentation », résume Stefanie Ullman qui travaille sur le projet.

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

1 commentaire

1 Commentaire

  1. Phil

    30 décembre 2019 at 19 h 11 min

    Bref, on veut que les gens ferment leur gueule !

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Les bons plans

Dernières news

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Les tests