Suivez-nous

Tech

L’intelligence artificielle a un sérieux problème de diversité

Et si l’IA s’ouvrait un peu plus aux femmes et aux minorités ? Des chercheurs alertent sur l’urgence d’une réaction.

Il y a

le

intelligence artificielle
© DR

Trop d’hommes blancs dans l’intelligence artificielle

Le monde de la nouvelle technologie souffre de vrais problèmes liés à la diversité. Ce n’est pas la première fois que le sujet est abordé. Google, le géant américain a ainsi du mal à garder ses employés issus des minorités. La reconnaissance faciale a aussi été pointée du doigt en raison du problème de diversité et les difficultés à reconnaître les personnes de couleur et les femmes. C’est désormais l’intelligence artificielle qui fait face au même problème.

Concrètement, des chercheurs du AI Now Institute, considèrent que l’on approche du point de bascule. A cause d’un nombre trop important d’hommes blancs dans ce champ de travail, la technologie semble condamnée à reproduire les mêmes problèmes que la société actuelle.

Des conséquences déjà identifiées

Cela signifie concrètement les langages de haine dans les chatbots, les biais raciaux dans la reconnaissance faciale… Des problèmes déjà identifiés mais qui sont amenés à s’accentuer si rien n’est fait selon les chercheurs.

L’étude a prouvé que 80% des professeurs dans le domaine de l’intelligence artificielle, sont des hommes. Dans les grandes entreprises de la Silicon Valley, le taux de personnes de couleur oscille entre 2,5 et 4%. Autant de données qui incitent les chercheurs à tirer la sonnette d’alarme pour que le secteur admette la gravité de situation et s’adapte à la situation en prenant les mesures nécessaires. Pire encore, selon leur rapport, chaque jour qui passe rend la possibilité de remédier à la situation un peu plus difficile. Or, Google qui ferme son board éthique sur l’intelligence artificielle une semaine après son ouverture n’envoie pas vraiment un message positif.

Et si vous avez besoin d’un petit rappel, les principes pour une intelligence artificielle bienveillante ont déjà été identifiés… Et si on faisait désormais un petit effort pour les mettre en application dans tous les domaines ?

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

4 Commentaires

4 Commentaires

  1. Louis Gerard

    18 avril 2019 at 11 h 53 min

    Quel genre de « petit effort » ? Vous dites vous même que les entreprises galèrent a les recruter et a les garder. Les problèmes pointés ne sont pas nécessairement causés par le fait que le domaine soit sur représenté d’hommes blancs. Ça vient surtout des datasets en fait, pas forcément des chercheurs, la plupart des datasets sont issus de pays occidentaux et asiatiques. Des recherches existent pour palier à ces biais dans les données dont certaines lancées par des hommes blancs.

  2. MANSOIF

    18 avril 2019 at 21 h 40 min

    Vous êtes complètement à l’ouest ou quoi ? C’est qui ce délire ? On parle de compétence, point barre !

  3. Loïc

    18 avril 2019 at 21 h 55 min

    Je suis assez surpris de cet article, quand on voit que stack overflow ( ici : https://insights.stackoverflow.com/survey/2019#developer-profile-_-developer-role-and-gender )
    Nous dit que finalement, l’ia est un des secteurs de l’informatique avec le plus de femmes (certes, pas beaucoup)

    Pourquoi donc, vu que le problème est lié au secteur de l’informatique, ce contenter de parler de l’ia ?

    D’ailleurs, ne devrait-on pas réfléchir a comment attirer les femmes dans les formations d’informatiques avant toutes choses ?

    Et enfin, en quoi être un « homme blanc » qui fait de l’ia génère des « langages de haine dans les chatbots, les biais raciaux dans la reconnaissance faciale ».
    Je vais parler de ce que je connais, c’est a dire la reconnaissance faciale. Les « biais raciaux » sont expliqués par les données utilisées. Si on a pas, ou moins de données d’un certain groupe éthique, et bien les résultats seront moins bon pour ce groupe ethnique. Et que vos études proviennent d’Europe, Afrique, où d’Asie, vous n’aurez pas les mêmes population. Ce n’est pas une volonté de l’homme blanc d’exclure les autres de l’ia…(enfin je ne pense pas)

  4. Afrowhite

    19 avril 2019 at 2 h 16 min

    Mais en 2019 on écrit encore personne de couleur ?
    Donc les autres sont des personnes sans couleur ? C est à dire les blancs?

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Les bons plans 🔥

Dernières news

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Les tests