Une IA qui détecte les trolls, ça existe. Baptisée Perspective, celle-ci a été développée par Jigsaw, l’incubateur interne d’Alphabet (maison-mère de Google) spécialisée dans la sécurité en ligne. Depuis des années, cette IA, baptisée Perspective, permet à des médias anglophones de faciliter le travail des modérateurs.
Comment ça marche ? Lorsqu’on envoie un commentaire à l’IA, celle-ci donne une note toxicité. Plus la note est élevée, plus le commentaire est considéré comme “toxique”.
Cette semaine, Jigsaw met en ligne une extension Chrome baptisée Tune qui met cette IA à disposition des internautes, afin de permettre à ceux-ci ne pas voir les commentaires considérés comme toxiques.
Une fois installée, cette extension permet à l’internaute de régler le “volume” ou le degré de toxicité des commentaires affichés sur les plateformes telles que Facebook, Twitter, YouTube ou Disqus. Lorsque celui-ci est au plus bas, aucun commentaire n’est affiché. Lorsqu’il est au plus haut, tous les commentaires sont affichés. C’est à l’utilisateur de trouver le bon réglage entre les deux.
Donner plus de contrôle aux internautes
L’approche est intéressante, puisqu’avec cette extension, Jigsaw donne plus de contrôle aux utilisateurs sur ce qu’ils verront ou pas sur les plateformes en ligne. Etant donné que la technologie est open-source, l’incubateur d’Alphabet espère que cette petite extension inspirera d’autres développeurs.
Malheureusement, pour le moment, l’IA Perspective n’a pas encore été suffisamment entraînée pour proposer ses fonctionnalités dans la langue de Molière.
D’autre part, Jigsaw avertit que cette extension n’est pas (encore ?) une solution magique. “L’apprentissage machine alimentant Tune est expérimentale. Il manque encore quelques commentaires toxiques et cache incorrectement certains commentaires non toxiques. Nous travaillons constamment à l’amélioration de la technologie sous-jacente, et les utilisateurs peuvent facilement donner leur avis directement dans l’outil afin de nous aider à améliorer nos algorithmes”, lit-on dans un billet.
“Tune n’est pas destiné à être une solution pour les cibles directes du harcèlement (pour qui voir des menaces directes peut être vital pour leur sécurité), ni une solution pour toutes les toxicités”, ajoute l’incubateur Jigsaw. “Il s’agit plutôt d’une expérience visant à montrer aux gens comment la technologie d’apprentissage automatique peut créer de nouveaux moyens de donner du contrôle aux personnes qui lisent des discussions en ligne.”
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
