Google a développé une intelligence artificielle pour aider les modérateurs

Une API qui détecte les propos haineux.

Après les articles mensongers, l’une des plus grosses plaies d’Internet est les propos haineux, qui rendent le travail des modérateurs compliqué.

Mais Google a peut-être trouvé le moyen de faciliter celui-ci : une intelligence artificielle capable de détecter les commentaires « toxiques ».

Baptisée Perspective, et développée par Jigsaw, entité de Google dont le but est de rendre le monde « plus sûr », elle se base sur une technique appelée machine learning. Avec suffisamment d’exemples, celle-ci permet de créer des intelligences artificielles capables d’imiter l’intelligence humaine.

Pour entraîner Perspective, Google a utilisé des commentaires de Wikipédia, du New York Times et d’autres médias partenaires. Grâce à ses algorithmes et à ces données, Perspective peut assigner un score de toxicité à un texte.

Pour essayer, il vous suffit de vous rendre sur ce site de démonstration, saisir quelque chose et l’outil vous donnera le pourcentage de similarité avec « les commentaires que les gens ont défini comme ‘toxiques’ ».

L’outil n’est pas destiné à remplacer les modérateurs, mais plutôt à les assister. De plus, ses créateurs concèdent qu’il n’est pas encore parfait.

Cependant, la logique du machine learning est que plus l’intelligence artificielle est utilisée, plus elle sera entraînée et plus elle sera performante.

Des outils similaires ont déjà été mis en open-source, mais l’avantage de Perspective, c’est qu’il est proposé sous forme d’API, plus facile à utiliser (a priori).

Il y a aussi la mutualisation qui n’est pas à ignorer. CJ Adams, un responsable de Jigsaw, explique que cet outil offre une nouvelle option pour gérer les commentaires : « Prendre un tas d’intelligence collective – qui continuera à s’améliorer au fil du temps […] ».

En revanche, comme Perspective n’a donné que 12 % de toxicité au commentaire « Putain de merde », je présume que l’outil n’est pas encore très francophone.

Sinon, il est à noter que l’entité Jigsaw a déjà lancé le projet Shiled, qui vise à protéger les entreprises contre les attaques DDoS, ainsi qu’un autre luttant contre la radicalisation via le web avec des publicités ciblées.

(Source)


Nos dernières vidéos

4 commentaires

Répondre

Send this to a friend