Depuis de nombreux mois, l’entreprise Amazon conçoit en interne un logiciel de reconnaissance faciale destiné à être très performant pour pouvoir être utilisé dans de nombreux secteurs d’activité différents. Le problème, c’est qu’il est encore loin d’être terminé et qu’il rencontre encore beaucoup d’erreurs qui mettent un frein à son développement.
Si l’on sait déjà qu’il a pu confondre criminels et politiciens, ce que l’on ne savait pas en revanche, c’est que la couleur de peau des sujets analysés par l’AI peut aussi jouer un rôle déterminant dans sa capacité à réussir. Rekognition aurait donc encore un sacré bout de chemin à parcourir avant d’être parfait.
Amazon Rekognition, pas aussi efficace que prévu
Concrètement, le programme a aujourd’hui du mal à identifier correctement le genre des visages de femmes à la peau claire et celui des profils avec un teint beaucoup plus foncé. C’est une étude du MIT qui a mis en lumière le problème.
Joy Buolamwini, le chercheur à l’origine de l’affaire, avait déjà souligné cette difficulté que rencontraient d’autres grands acteurs de l’intelligence artificielle comme Microsoft ou IBM, ce dernier ayant d’ailleurs travaillé avec la police de New York pour améliorer son propre service de reconnaissance faciale.
Quelles suites ?
Selon la firme dirigée par Jeff Bezos, cette affaire n’est déjà plus d’actualité, car la dernière mise à jour de Rekognition est déjà disponible et vient corriger la faille en question. Toutefois, cette nouvelle souligne à nouveau les risques que peut comporter l’utilisation d’un tel système.
À tel point que même les investisseurs de l’entreprise milliardaire s’inquiètent. Et, bien que les logiciels s’améliorent constamment, les doutes qui planent sur leur avenir vont bon train dans la Silicon Valley : ainsi, contrairement à Amazon qui vend déjà sa solution, Google a décidé de ne pas commercialiser la sienne pour éviter tout dommage collatéral.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
