Connect with us

Actualités

Google a développé une intelligence artificielle pour aider les modérateurs

Une API qui détecte les propos haineux.

Il y a

le

Après les articles mensongers, l’une des plus grosses plaies d’Internet est les propos haineux, qui rendent le travail des modérateurs compliqué.

Mais Google a peut-être trouvé le moyen de faciliter celui-ci : une intelligence artificielle capable de détecter les commentaires « toxiques ».

Baptisée Perspective, et développée par Jigsaw, entité de Google dont le but est de rendre le monde « plus sûr », elle se base sur une technique appelée machine learning. Avec suffisamment d’exemples, celle-ci permet de créer des intelligences artificielles capables d’imiter l’intelligence humaine.

Pour entraîner Perspective, Google a utilisé des commentaires de Wikipédia, du New York Times et d’autres médias partenaires. Grâce à ses algorithmes et à ces données, Perspective peut assigner un score de toxicité à un texte.

Pour essayer, il vous suffit de vous rendre sur ce site de démonstration, saisir quelque chose et l’outil vous donnera le pourcentage de similarité avec « les commentaires que les gens ont défini comme ‘toxiques’ ».

> Lire aussi :  133 millions d'emplois à pourvoir grâce... Aux robots !

L’outil n’est pas destiné à remplacer les modérateurs, mais plutôt à les assister. De plus, ses créateurs concèdent qu’il n’est pas encore parfait.

Cependant, la logique du machine learning est que plus l’intelligence artificielle est utilisée, plus elle sera entraînée et plus elle sera performante.

Des outils similaires ont déjà été mis en open-source, mais l’avantage de Perspective, c’est qu’il est proposé sous forme d’API, plus facile à utiliser (a priori).

Il y a aussi la mutualisation qui n’est pas à ignorer. CJ Adams, un responsable de Jigsaw, explique que cet outil offre une nouvelle option pour gérer les commentaires : « Prendre un tas d’intelligence collective – qui continuera à s’améliorer au fil du temps […] ».

En revanche, comme Perspective n’a donné que 12 % de toxicité au commentaire « Putain de merde », je présume que l’outil n’est pas encore très francophone.

Sinon, il est à noter que l’entité Jigsaw a déjà lancé le projet Shiled, qui vise à protéger les entreprises contre les attaques DDoS, ainsi qu’un autre luttant contre la radicalisation via le web avec des publicités ciblées.

> Lire aussi :  Google confirme que le "Dark Mode" est un vrai plus pour l'autonomie des smartphones

(Source)

4 Commentaires

4 Commentaires

  1. OlivierJ

    23 février 2017 at 23 h 40 min

    putain de merde

  2. chrisdenice

    24 février 2017 at 1 h 58 min

    c’est le début de la mise en place de la police de la pensée…..

  3. Jimmy

    24 février 2017 at 16 h 23 min

    Quand ca sera stable est sûr, ca sera carrément génial. Ça évitera à tous les pollueurs de venir détruire les forums de leur réponse inutile. Une bonne aide pour tous les modérateurs.

    • Jimmy

      24 février 2017 at 16 h 38 min

      stable et* sûr (oups)

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Dernières news

Les bons plans

Les tests