De l’IA pour détecter les éventuels signes de violences sur les réseaux sociaux

Dans l’objectif de combattre la violence, les écoles se tournent vers l’analyses de big data en provenances des réseaux sociaux pour détecter les éventuels signes de violence, de dépression, ou d’isolement.

La Shawsheen Valley Technical High School du Massachusetts s’est tournée vers Social Sentinel, une entreprise d’analyse de données qui affirme qu’elle peut utiliser le même procédé d’analyse que celui utilisé par les services de police scientifique. Certains experts s’inquiètent de cette pratique, argumentant que s’appuyer sur l’exploitation des données personnelles de la même manière que la police pourrait conduire à considérer de façon abusive les étudiants comme des suspects.

Selon nos confrères de Gizmodo, Gary Margolis, fondateur et PDG de Social Sentinel, explique que l’entreprise a travaillé avec des linguistes et des psychologues pour former son IA. Au total, l’homme explique avoir « créé une bibliothèque de 450 000 indicateurs » permettant de prévenir des comportement potentiellement malveillants. Pour y parvenir, Margolis explique que sa société s’est fondée sur l’analyse des publications sur les réseaux sociaux des tireurs pour trouver des similitudes dans leurs comportements et en dégager des schémas types. Un procédé auquel l’école aura donc recours pour tenter de prévenir et d’éviter les fusillades comme celle du lycée de Parkland en Floride, survenue le 14 février dernier.

Scruter les interactions des élèves sur les réseaux sociaux

Shawsheen Valley n’est pas la seule école à essayer cette approche. L’école de Miami-Dade a débloqué 30 millions de dollars de fonds publics pour la refonte de son système de sécurité, incluant l’embauche de personnel spécifique ayant pour mission de scruter les interaction des élèves sur les réseaux sociaux. Les écoles du comté de Wilson, au Tennessee, utilisent quant à elles un logiciel de surveillance des médias sociaux qui envoie des alertes lorsque des mots-clés inquiétants sont détectés.

Bien que nombreuses sont les écoles à la recherche d’approches préventives et proactives pour faire face aux événements récents impliquant des fusillades, beaucoup se méfient de la solution qui consisterait en une surveillance rapprochée des réseaux sociaux pour lutter contre la violence. À New York et en Floride, les écoles se tournent vers la surveillance 24/7, la reconnaissance faciale combinée aux données biométriques, et la lecture des plaques d’immatriculation. Des technologies développées pour la police et les agences antiterroristes.

Gary Margulis admet que la surveillance des réseaux sociaux par une IA n’est pas sans faille. Il est tout à fait possible que l’intelligence artificielle fasse des erreurs, que certains signalement soient infondés ou que d’autres personnes malintentionnées soient ignorées.  Social Sentinel a refusé d’offrir des chiffres précis sur son taux de réussite, mais Margulis indique que écoles qui ont eu recours aux services de l’entrepris les ont remerciés.


Commenter

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Presse-Citron 2005 - 2018 | A propos | Contact | Site hébergé par Cognix Systems | Informations sur les cookies