Quand Facebook veut faire du business sur le dos des personnes vulnérables, puis s’excuse…

Quand les algorithmes destinés à repérer l’anxiété des adolescents dans le but de prévenir les comportements suicidaires se transforment en redoutables armes publicitaires, on a un peu le sentiment de toucher le fond. Quoi de mieux qu’un adolescent qui ne va pas bien pour afficher de la publicité ?

Facebook lance de nouvelles fonctionnalités pour les pages des commerces

Un quotidien australien, The Australian, vient de viser là où cela fait mal pour Facebook, le manque d’empathie manifeste. Le journal a mis la main sur des documents relativement gênants concernant un algorithme qui dans sa mission première était louable, mais que des esprits probablement retords ont détourné de son utilisation, afin d’en faire un argument auprès d’annonceurs publicitaires.

Envoyer de la publicité aux personnes fragiles

Le réseau social a été le lieu de nombreux suicides et Facebook avait juré qu’il trouverait une solution pour repérer les personnes ayant des comportements anxieux, dépressifs, voire suicidaires, afin de leur tendre une main vers une aide ou vers un ami qui peut comprendre la situation et les aider à sortir de leur spirale suicidaire.

Un algorithme particulièrement louable car il pourrait sauver la vie de certaines personnes, sauf que nous sommes dans un monde capitaliste et le côté bon samaritain ne rapporte pas d’argent. En revanche, ce puissant algorithme capable de repérer les adolescents mal dans leur peau est un formidable outil marketing, capable d’identifier les moments de vulnérabilité de ses utilisateurs adolescents, afin de leur proposer une publicité ciblée.

De quoi se poser des questions sur l’usage que font les géants du web de nos données

Les documents internes découverts par le quotidien The Australian montrent que l’algorithme d’analyse des publications, des photos et des réactions suivaient 6,4 millions de lycéens de 14 ans et plus, en Australie et en Nouvelle Zélande. Un document qui était même destiné à l’une des quatre grandes banques du pays, disposait d’une base de données de 1,9 million d’élèves ou encore de 1,5 million d’étudiants et un passage insistait particulièrement sur l’opportunité de disposer des changements d’humeur des individus de ce groupe de la population. Ainsi, si un adolescent se sent très mal dans sa peau car il a de l’acné ou se trouve trop gros, cela serait le moment idéal pour lui afficher une publicité pour une crème miracle ou pour un abonnement vers une salle de gym, à un tarif imbattable…

Tout de suite l’algorithme parait moins sympathique. Le réseau social se dit donc capable de repérer « les moments où les jeunes ont besoin d’un regain de confiance » lorsqu’ils se sentent « anxieux, nerveux, stupides ou inutiles ».

Facebook a présenté ses excuses suite à ses révélations et a affirmé qu’une enquête avait été ouverte afin de comprendre l’erreur de procédure. « Nous prendrons les mesures nécessaires, notamment disciplinaires ». Un peu facile…


Nos dernières vidéos

Répondre