Passer au contenu

Amazon met fin à un programme de recrutement par une IA devenue sexiste

Amazon a avorté un projet de recrutement par intelligence artificielle. La raison ? Cette dernière avait des tendances sexistes à cause des préjugés des recruteurs humains.

Selon un rapport de Reuters, le géant du commerce Amazon vient de mettre à terme à un projet internet de recrutement de personnel à l’aide d’une intelligence artificielle.

Le souci de l’intelligence artificielle, c’est que bien souvent, ces dernières se basent sur des bases de données existantes, autrement dit d’origine humaine. Cela implique que l’IA imite le comportement humain, jusque dans ses défauts. C’est ce qui vient de se produire pour Amazon, entreprise de la tech, secteur largement dominée par des hommes. Dans le cas présent, l’intelligence artificielle a suivi cette tendance en pénalisant tous les curriculums vitae contenant le mot “femme”.

L’Intelligence Artificielle reproduit les préjugés des recruteurs

L’équipe à l’origine du projet avait pour intention d’accélérer et d’améliorer  le processus d’embauche. “Ils voulaient littéralement qu’il s’agisse d’un moteur auquel on donne 100 curriculums vitae, qu’il sélectionne les cinq meilleurs, et nous les embauchons“, a déclaré une source anonyme à Reuters. Lorsque les ingénieurs se sont aperçus de ce favoritisme, ils ont rapidement modifié les paramètres de l’algorithme pour éliminer ce critère de sélection sexiste. Le souci, c’est qu’ils n’avaient aucune certitude que d’autres critères basés sur des préjugés n’entraient pas en compte. Ils ont donc décidé de mettre un terme au projet.

Une autre source explique à The Verge que le programme n’a été utilisé que dans le cadre d’essais. Cette source anonyme affirme également que le projet a été abandonné pour diverses raisons et pas seulement pour ce critère de sélection sexiste, qui avait été corrigé. Des déclarations qui viennent corréler les informations précédentes.

Ce qui est certain, c’est que ces comportements déviants de l’IA proviennent des humains. Les algorithmes ne font que perpétuer les préjugés présents dans nos sociétés. 

Les réserves des chercheurs sur les dangers les tendances biaisées des intelligences artificielles se sont faites nombreuses ces dernières années. Les tendances sexistes et racistes des intelligences artificielles ne sont d’ailleurs pas nouvelles, notamment en matière de reconnaissance faciale. D’ailleurs, Amazon avait déjà face à un problème de la sorte où son intelligence artificielle confondait criminels et politiciens

Malgré cela, Amazon ne semble pas abandonner son idée, puisque Reuters rapporte que l’entreprise serait en train de mettre au point un nouvel outil de recrutement à base d’intelligence artificielle, avec cette fois “un accent sur la diversité“.

Source

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.

Amazon Prime Video
Amazon Prime Video
Par : Amazon Mobile LLC
4.3 / 5
4,5 M avis
5 commentaires
5 commentaires
  1. confondait criminel et politicien??? donc il ne confonde pas alors elle est plus inteligente que nous les humains qui on vote pour…..

  2. presse citron en a une aussi d’ IA puisque mes commentaires ils disparaît peut être pas que vont pas en la direction de la pense unique puisque criminel et politicien i a pas de confusion c’est bel et bien la vérité mémé si presse citron joue le lèche-bottes du pouvoir en bannissant les coms pour pas perdre ses investisseurs avec des intérêts prives que sont autres que l’information du public….

    1. Vos commentaires ne sont pas supprimés, c’est juste que même une IA en faisant beaucoup d’efforts, ne comprend pas ce que vous écrivez….

  3. Bonjour
    j’occupe un poste de chef magasin dans une société de fret aérien a Roissy CDG , je prés a changé de métier en décrochant un poste chez AMAZON.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *