Suivez-nous

Réseaux sociaux

Twitter va enquêter sur un possible biais raciste de son système de prévisualisation des photos

L’algorithme aurait tendance à montrer les visages blancs plus fréquemment que les visages noirs.

Il y a

  

le

 
Twitter site
© Unsplash / Kon Karampelas

C’est une découverte qui fait désordre. Des utilisateurs de Twitter ont observé ce week-end que le système qui sélectionne la partie d’une image à afficher dans un aperçu favorisait l’affichage des visages blancs par rapport aux visages noirs. On peut s’en apercevoir sur cette comparaison entre le sénateur républicain Mitch McConnell et l’ancien président Barack Obama.

Des problèmes avec la reconnaissance faciale et vocale

Interpellé, la société n’a pas tardé à réagir et à s’expliquer. Liz Kelly, membre de l’équipe de communication de Twitter a notamment indiqué à Mashable : « Notre équipe a fait des tests avant d’envoyer le modèle et n’a pas trouvé de preuve de biais raciste ou sexiste. Mais il ressort clairement de ces exemples que nous avons plus d’analyses à faire. Nous nous penchons sur cette question et continuerons de partager ce que nous apprenons et les actions que nous entreprenons. »

Ces nouvelles investigations permettront de mieux comprendre s’il ne s’agit que d’exemples isolés ou si l’algorithme reproduit cette pratique à très grande échelle. Cela ne serait en tout cas pas la première fois qu’une IA souffre d’un biais raciste. Nous vous citions notamment en mars dernier l’exemple des logiciels de reconnaissance faciale. Une étude du MIT datant d’il y a plusieurs années affirmait qu’être un homme à la peau blanche facilitait le travail de l’IA. Le taux de succès enregistré alors pour des systèmes développés par IBM et Microsoft était de 95 % pour les blancs et tombait à 77,6 % pour les noirs.

D’autres études ont également pointé ces limites, notamment au niveau de la reconnaissance vocale. Selon une étude menée par des chercheurs de l’Université de Stanford, les algorithmes ont des taux d’erreurs plus élevés lorsque les paroles sont prononcées par des afro-américains. Le soucis est d’autant plus grand que ces technologies sont désormais utilisées à grande échelle notamment sur les téléphones portables ou encore via les enceintes connectées.

Twitter
Par : Twitter, Inc.
4.5 / 5
16,8 M avis
Cliquez pour commenter

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Les bons plans

Partenaire : Samsung

Dernières news

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Les tests