Selon un nouveau rapport du Wall Street Journal, l’Union européenne se pencherait encore sur les pratiques douteuses de certains réseaux sociaux vis-à-vis des contenus pédopornographiques. Plus précisément, Facebook ou Instagram auraient été épinglés de la sorte pour leur supposé laxisme à l’égard de certains comptes peu scrupuleux. Nous avons pris le temps d’étudier le dossier : âmes sensibles s’abstenir.
1 – Des suggestions peu recommandables
Pour commencer, il se trouve que de nombreux groupes Facebook et hashtags Instagram seraient recommandés aux utilisateurs recherchant des images mettant en scène l’exploitation de jeunes enfants. Si vous utilisez régulièrement la plateforme au logo bleu, vous avez probablement déjà vu passer des suggestions pour rejoindre telle ou telle communauté. Depuis peu, même Messenger en offre aux internautes, ces dernières permettant ici de rejoindre des discussions à plusieurs.
La faute à qui ? Au machine learning, semble-t-il. Cette technique utilisée par les développeurs permet en effet de recommander des contenus en fonction des goûts des utilisateurs recensés précédemment. Mais à ce jour, le procédé ne serait donc pas suffisamment capable d’isoler les profils de prédateurs potentiels, ceux-ci profitant alors de véritables incitations tout ce qu’il y a de plus automatisées – de la même manière que les autres utilisateurs.
2 – Facebook ne serait pas assez à l’écoute des utilisateurs
Dans le même temps, l’article rédigé par nos confrères du Wall Street Journal explique que certains groupes à risque ne seraient pas considérés à leur juste valeur. Comprenez que lorsque des signalements émanent d’autres utilisateurs, les équipes de modération en charge de les analyser laisseraient passer bon nombre d’alertes entre les mailles du filet.
Pour être plus explicite, notre source du jour évoque ici le cas d’une communauté sobrement baptisée “Incest”. Meta aurait tout bonnement refusé de fermer le groupe après avoir pourtant reçu un signalement en bonne et due forme. La décision sera malgré tout révoquée, mais plus tard, ce qui laissera quelques jours aux administrateurs pour continuer leurs activités.
Dans ce type de cas de figure, le réseau social ne peut toutefois pas toujours être poursuivi devant la justice. D’une part, car bon nombre de ces groupes savent contourner intelligemment le scan des robots à la recherche de contenus pédocriminels. Il suffit ainsi de poster des images d’enfants suffisamment habillés, et le tour est joué. D’autre part, il faut savoir que ces mêmes poses ne sont tout simplement pas interdites, selon la plupart des législations. Par ailleurs, ce sont la plupart du temps des sous-traitants qui se chargent de la modération. De quoi tenter de se “dédouaner” auprès des autorités, pour Meta. Mais cette stratégie ne fait généralement que retarder le couperet : les régulateurs s’en mêlent déjà, et tentent de sanctionner sérieusement les hébergeurs.
Pour éviter ce genre de pratique, rappelons tout de même qu’il est conseillé aux parents de ne jamais poster de photos de leurs enfants sur les réseaux sociaux. Premièrement, ceci évite donc que les clichés en question ne tombent entre de mauvaises mains. D’autre part, l’interrogation relative au consentement et au droit à l’image ne peut jamais trouver de réponse claire chez un mineur. Qui vous dit que votre progéniture ne sera pas harcelée à l’école suite à la publication de photos ? De plus, Internet n’oublie jamais, or de plus en plus de jeunes majeurs mettent un point d’honneur à ce que leur confidentialité soit respectée. Autrement dit, à ce qu’aucune photo d’eux ne soit disponible en ligne. Difficile, alors, de composer avec un compte tenu par les parents et rempli desdites images…
3 – La diffusion d’abus sur mineur peine à se voir refrénée
Au-delà de ces suggestions plutôt préjudiciables, le Wall Street Journal décrit aussi certains comptes Instagram suivis par dix millions de followers et diffusant des abus sexuels sur mineurs. En direct. Repérés par le Canadian Center for Child Protection, ceux-ci auraient également survécu plusieurs mois après avoir été signalés à Meta.
4 – Algorithmes : l’arroseur arrosé
Pour finir, l’enquête évoque un autre type de suggestions, proposant cette fois-ci aux comptes avides de contenus “CSAM” de se connecter entre eux. Et vous savez probablement de quoi il s’agit : qui n’a pas déjà reçu des recommandations d’ajouts d’amis, dont les centres d’intérêt sont similaires ? Celles-ci sont par exemple proposées aux participants de mêmes événements, ou aux utilisateurs membres des mêmes groupes – tels ceux que nous évoquions précédemment.
Un comble, puisque c’est justement en analysant les habitudes et les appétences des profils que Meta peut aussi détecter des “patterns” à risque. Imaginez que, parmi une dizaine de comptes signalés, l’éditeur constate que tous suivent une page en particulier, ou que leur tranche d’âge est similaire. Il s’agit d’un bon moyen de tenter d’identifier d’autres utilisateurs, dont les intérêts correspondent.
Selon une étude, que l’on doit notamment aux chercheurs Matthias Wittfoth et Helge Frieling, la prévalence de la pédophilie se situerait entre 3 et 5 % de la population mondiale (dont… des modérateurs de Meta ?). D’après d’autres données compilées par Gilian Tenbergen et al., chez les jeunes majeurs, le nombre grimperait à 9 % voire à 21 %, selon les critères pris en compte lors des mesures.
Pour les experts en santé publique qui se sont penchés sur la question, deux stratégies s’opposent principalement – leur application divergeant selon les pays. D’une part, certains considèrent qu’il est primordial de lutter, par la répression, contre la diffusion de contenus mettant en scène des mineurs, et ce peu importe leurs attraits. C’est par exemple le cas de la France. D’autre part, des observateurs misent plutôt sur la prévention et estiment que laisser libre cours, en ligne, aux poses “suggestives” ou présentant une nudité restreinte permet justement de limiter les risques de passage à l’acte dans la réalité.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
