Instagram se dote d’une IA contre le harcèlement

Adam Mosseri, le nouveau patron d’Instagram, annonce de nouvelles mesures pour lutter contre le harcèlement sur le réseau social, dont une IA qui détecte les images à modérer.

Alors que Facebook a souffert de nombreux scandales ces derniers mois, Instagram a toujours une très bonne réputation (et ce malgré la démission récente de ses cofondateurs).

Aujourd’hui, Adam Mosseri, ancien responsable du fil d’actualité Facebook et nouveau patron d’Instagram, annonce de nouvelles fonctionnalité pour mieux lutter contre les cas de harcèlement sur le réseau social.

Une IA qui analyse les photos

Le nouveau patron d’Instagram évoque notamment un nouvel outil qui permet à la société de détecter les images potentiellement toxiques. « Bien que la majorité des photos partagées sur Instagram soient positives et apportent de la joie aux gens, il arrive qu’une photo partagée soit méchante ou importune », écrit Adam Mosseri. Pour détecter ces images de manière proactive, Instagram utilise maintenant une technologie d’apprentissage machine (IA), puis envoie celles-ci à ses modérateurs.

Il s’agit d’une étape importante pour faire le ménage sur Instagram, étant donné que beaucoup de victimes de cyber-harcèlement ne rapportent pas les images en cause au réseau social. « Cela nous aidera également à protéger les membres les plus jeunes de notre communauté, car les adolescents subissent des taux d’intimidation en ligne plus élevés que les autres. Cette nouvelle technologie a commencé à être déployée et continuera dans les prochaines semaines », ajoute Adam Mosseri.

> Lire aussi :  Une ferme de tournesols obligée de fermer à cause d'Instagram

Il y a quelques semaines, Facebook avait également annoncé une technologie basée sur de l’IA qui permet de détecter les fake news potentiels partagés par le biais de photos ou de vidéos manipulées.

Et en plus de la détection des images potentiellement toxiques, Instagram étend également son filtre pour les commentaires aux diffusions vidéo en direct. Pour rappel, le filtre permet de cacher les messages de harcèlement dans les commentaires.


Commenter

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.