Amazon met fin à un programme de recrutement par une IA devenue sexiste

Amazon a avorté un projet de recrutement par intelligence artificielle. La raison ? Cette dernière avait des tendances sexistes à cause des préjugés des recruteurs humains.

Logo AmazonSelon un rapport de Reuters, le géant du commerce Amazon vient de mettre à terme à un projet internet de recrutement de personnel à l’aide d’une intelligence artificielle.

Le souci de l’intelligence artificielle, c’est que bien souvent, ces dernières se basent sur des bases de données existantes, autrement dit d’origine humaine. Cela implique que l’IA imite le comportement humain, jusque dans ses défauts. C’est ce qui vient de se produire pour Amazon, entreprise de la tech, secteur largement dominée par des hommes. Dans le cas présent, l’intelligence artificielle a suivi cette tendance en pénalisant tous les curriculums vitae contenant le mot « femme ».

L’Intelligence Artificielle reproduit les préjugés des recruteurs

L’équipe à l’origine du projet avait pour intention d’accélérer et d’améliorer  le processus d’embauche. « Ils voulaient littéralement qu’il s’agisse d’un moteur auquel on donne 100 curriculums vitae, qu’il sélectionne les cinq meilleurs, et nous les embauchons« , a déclaré une source anonyme à Reuters. Lorsque les ingénieurs se sont aperçus de ce favoritisme, ils ont rapidement modifié les paramètres de l’algorithme pour éliminer ce critère de sélection sexiste. Le souci, c’est qu’ils n’avaient aucune certitude que d’autres critères basés sur des préjugés n’entraient pas en compte. Ils ont donc décidé de mettre un terme au projet.

> Lire aussi :  Cette app utilise de l'IA pour détecter les accidents et avertir automatiquement les urgences

Une autre source explique à The Verge que le programme n’a été utilisé que dans le cadre d’essais. Cette source anonyme affirme également que le projet a été abandonné pour diverses raisons et pas seulement pour ce critère de sélection sexiste, qui avait été corrigé. Des déclarations qui viennent corréler les informations précédentes.

Ce qui est certain, c’est que ces comportements déviants de l’IA proviennent des humains. Les algorithmes ne font que perpétuer les préjugés présents dans nos sociétés. 

Les réserves des chercheurs sur les dangers les tendances biaisées des intelligences artificielles se sont faites nombreuses ces dernières années. Les tendances sexistes et racistes des intelligences artificielles ne sont d’ailleurs pas nouvelles, notamment en matière de reconnaissance faciale. D’ailleurs, Amazon avait déjà face à un problème de la sorte où son intelligence artificielle confondait criminels et politiciens

Malgré cela, Amazon ne semble pas abandonner son idée, puisque Reuters rapporte que l’entreprise serait en train de mettre au point un nouvel outil de recrutement à base d’intelligence artificielle, avec cette fois « un accent sur la diversité« .

> Lire aussi :  Philips, Echo, Netgear... les promos continuent sur la maison connectée chez Amazon

Source


5 commentaires

  1. macarroncontomate le

    presse citron en a une aussi d’ IA puisque mes commentaires ils disparaît peut être pas que vont pas en la direction de la pense unique puisque criminel et politicien i a pas de confusion c’est bel et bien la vérité mémé si presse citron joue le lèche-bottes du pouvoir en bannissant les coms pour pas perdre ses investisseurs avec des intérêts prives que sont autres que l’information du public….

Commenter

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.