Connect with us

Buzz

Amazon met fin à un programme de recrutement par une IA devenue sexiste

Amazon a avorté un projet de recrutement par intelligence artificielle. La raison ? Cette dernière avait des tendances sexistes à cause des préjugés des recruteurs humains.

Il y a

le

IA

Logo AmazonSelon un rapport de Reuters, le géant du commerce Amazon vient de mettre à terme à un projet internet de recrutement de personnel à l’aide d’une intelligence artificielle.

Le souci de l’intelligence artificielle, c’est que bien souvent, ces dernières se basent sur des bases de données existantes, autrement dit d’origine humaine. Cela implique que l’IA imite le comportement humain, jusque dans ses défauts. C’est ce qui vient de se produire pour Amazon, entreprise de la tech, secteur largement dominée par des hommes. Dans le cas présent, l’intelligence artificielle a suivi cette tendance en pénalisant tous les curriculums vitae contenant le mot « femme ».

L’Intelligence Artificielle reproduit les préjugés des recruteurs

L’équipe à l’origine du projet avait pour intention d’accélérer et d’améliorer  le processus d’embauche. « Ils voulaient littéralement qu’il s’agisse d’un moteur auquel on donne 100 curriculums vitae, qu’il sélectionne les cinq meilleurs, et nous les embauchons« , a déclaré une source anonyme à Reuters. Lorsque les ingénieurs se sont aperçus de ce favoritisme, ils ont rapidement modifié les paramètres de l’algorithme pour éliminer ce critère de sélection sexiste. Le souci, c’est qu’ils n’avaient aucune certitude que d’autres critères basés sur des préjugés n’entraient pas en compte. Ils ont donc décidé de mettre un terme au projet.

> Lire aussi :  Un portrait peint par une intelligence artificielle vendu pour 432 500 $

Une autre source explique à The Verge que le programme n’a été utilisé que dans le cadre d’essais. Cette source anonyme affirme également que le projet a été abandonné pour diverses raisons et pas seulement pour ce critère de sélection sexiste, qui avait été corrigé. Des déclarations qui viennent corréler les informations précédentes.

Ce qui est certain, c’est que ces comportements déviants de l’IA proviennent des humains. Les algorithmes ne font que perpétuer les préjugés présents dans nos sociétés. 

Les réserves des chercheurs sur les dangers les tendances biaisées des intelligences artificielles se sont faites nombreuses ces dernières années. Les tendances sexistes et racistes des intelligences artificielles ne sont d’ailleurs pas nouvelles, notamment en matière de reconnaissance faciale. D’ailleurs, Amazon avait déjà face à un problème de la sorte où son intelligence artificielle confondait criminels et politiciens

Malgré cela, Amazon ne semble pas abandonner son idée, puisque Reuters rapporte que l’entreprise serait en train de mettre au point un nouvel outil de recrutement à base d’intelligence artificielle, avec cette fois « un accent sur la diversité« .

> Lire aussi :  "You are Jeff Bezos" ou comment dépenser 156 milliards de dollars avec ce jeu gratuit

Source

5 Commentaires

5 Commentaires

  1. macarroncontomate

    12 octobre 2018 at 12 h 38 min

    confondait criminel et politicien??? donc il ne confonde pas alors elle est plus inteligente que nous les humains qui on vote pour…..

  2. macarroncontomate

    12 octobre 2018 at 12 h 43 min

    presse citron en a une aussi d’ IA puisque mes commentaires ils disparaît peut être pas que vont pas en la direction de la pense unique puisque criminel et politicien i a pas de confusion c’est bel et bien la vérité mémé si presse citron joue le lèche-bottes du pouvoir en bannissant les coms pour pas perdre ses investisseurs avec des intérêts prives que sont autres que l’information du public….

    • hein

      12 octobre 2018 at 14 h 09 min

      et c’est supprimé parceque c’est incompréhensible ?

    • Emmanuel Ghesquier

      12 octobre 2018 at 18 h 06 min

      Vos commentaires ne sont pas supprimés, c’est juste que même une IA en faisant beaucoup d’efforts, ne comprend pas ce que vous écrivez….

  3. rezzak

    18 octobre 2018 at 10 h 46 min

    Bonjour
    j’occupe un poste de chef magasin dans une société de fret aérien a Roissy CDG , je prés a changé de métier en décrochant un poste chez AMAZON.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Dernières news

Les bons plans

Les tests