Alors que les manifestations continuent aux États-Unis, suite au décès de George Floyd, Amazon a annoncé, il y a quelques jours, l’instauration d’un moratoire d’un an sur l’utilisation de son algorithme de reconnaissance faciale (Rekognition) par la police. Précédemment, ce logiciel avait en effet été accusé d’avoir un biais racial.
Et de son côté, Instagram annonce une série de mesures qui seront prises pour s’assurer qu’il n’y a pas de discrimination sur la plateforme. Parmi ces mesures, il y a une inspection de la façon dont le contenu est filtré dans l’onglet Explorer du réseau social et sur les pages des hashtags, et Instagram devra également produire des informations précises sur les types de contenu que la plateforme évite de recommande. Outre cela, Instagram va également s’assurer que la plateforme n’a pas de biais au niveau de ses algorithmes. « Certaines technologies risquent de répéter les schémas développés par nos sociétés partiales. Bien que nous fassions beaucoup de travail pour aider à prévenir les biais subconscients dans nos produits, nous devons examiner de plus près les systèmes sous-jacents que nous avons construits et où nous devons en faire plus pour éviter les biais de ces décisions », écrit Adam Mosseri, le patron d’Instagram, dans un billet de blog.
Une remise en question des algorithmes ?
Dans le cadre de ce nouvel effort, Instagram va également inspecter ses dispositifs contre le harcèlement, ainsi que sa politique de vérification des comptes. « Nous examinons nos critères de vérification actuels et apporterons des modifications pour nous assurer qu’ils sont aussi inclusifs que possible. La vérification est un domaine sur lequel nous recevons constamment des questions – quelles sont les lignes directrices et si oui ou non les critères favorisent certains groupes plus que d’autres », explique le patron du réseau social.
Ce sont les quatre axes sur lesquels Instagram s’engage pour s’assurer qu’il n’y a pas de discrimination au sein de ses produits. Mais les résultats ne seront pas immédiats. Le patron d’Instagram indique que d’ici quelques mois, la plateforme donnera de nouvelles informations sur l’évolution de ce projet. Par ailleurs, Instagram ne compte pas s’arrêter aux possibles discriminations fondées sur la couleur de peau sur sa plateforme. Celui-ci veut par exemple aussi s’attaquer possibles biais contre les LGBTQ+.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
