Passer au contenu

Google a développé une intelligence artificielle pour aider les modérateurs

Une API qui détecte les propos haineux.

Après les articles mensongers, l’une des plus grosses plaies d’Internet est les propos haineux, qui rendent le travail des modérateurs compliqué.

Mais Google a peut-être trouvé le moyen de faciliter celui-ci : une intelligence artificielle capable de détecter les commentaires « toxiques ».

Baptisée Perspective, et développée par Jigsaw, entité de Google dont le but est de rendre le monde « plus sûr », elle se base sur une technique appelée machine learning. Avec suffisamment d’exemples, celle-ci permet de créer des intelligences artificielles capables d’imiter l’intelligence humaine.

Pour entraîner Perspective, Google a utilisé des commentaires de Wikipédia, du New York Times et d’autres médias partenaires. Grâce à ses algorithmes et à ces données, Perspective peut assigner un score de toxicité à un texte.

Pour essayer, il vous suffit de vous rendre sur ce site de démonstration, saisir quelque chose et l’outil vous donnera le pourcentage de similarité avec « les commentaires que les gens ont défini comme ‘toxiques’ ».

L’outil n’est pas destiné à remplacer les modérateurs, mais plutôt à les assister. De plus, ses créateurs concèdent qu’il n’est pas encore parfait.

Cependant, la logique du machine learning est que plus l’intelligence artificielle est utilisée, plus elle sera entraînée et plus elle sera performante.

Des outils similaires ont déjà été mis en open-source, mais l’avantage de Perspective, c’est qu’il est proposé sous forme d’API, plus facile à utiliser (a priori).

Il y a aussi la mutualisation qui n’est pas à ignorer. CJ Adams, un responsable de Jigsaw, explique que cet outil offre une nouvelle option pour gérer les commentaires : « Prendre un tas d’intelligence collective – qui continuera à s’améliorer au fil du temps […] ».

En revanche, comme Perspective n’a donné que 12 % de toxicité au commentaire « Putain de merde », je présume que l’outil n’est pas encore très francophone.

Sinon, il est à noter que l’entité Jigsaw a déjà lancé le projet Shiled, qui vise à protéger les entreprises contre les attaques DDoS, ainsi qu’un autre luttant contre la radicalisation via le web avec des publicités ciblées.

(Source)

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.

Opera One - Navigateur web boosté à l’IA
Opera One - Navigateur web boosté à l’IA
Par : Opera
4 commentaires
4 commentaires
  1. Quand ca sera stable est sûr, ca sera carrément génial. Ça évitera à tous les pollueurs de venir détruire les forums de leur réponse inutile. Une bonne aide pour tous les modérateurs.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *