Ah, l’intelligence artificielle… Elle est partout. Impossible d’y échapper. Les internautes se tournent de plus en plus facilement vers ChatGPT et ses confrères quand ils ont une question. Aujourd’hui, les utilisateurs s’appuient sur les LLM pour réviser, trouver leur prochaine destination de vacances, savoir qui va gagner le Tour de France, leur donner des idées de recette de cuisine ou encore préparer une négociation salariale.
C’est justement le sujet d’une nouvelle étude co-réalisée par Ivan Yamshchikov, un professeur d’IA et de robotique à l’université technique de Würzburg-Schweinfurt en Allemagne. L’étude s’intéresse aux biais des modèles de langage à l’instar de ChatGPT et Gemini. Les chercheurs n’ont pas été déçus des résultats. Qu’on le veuille ou non, l’intelligence artificielle est sexiste.
Lire aussi – L’intelligence artificielle est-elle sexiste ?
Des conseils et des biais
Pour leur étude, les chercheurs ont testé cinq LLM très répandus, dont ChatGPT. Ils ont utilisé le même prompt pour chaque modèle avec des profils identiques, à l’exception du genre. Même expérience professionnelle, même intitulé de poste, mêmes études… Mais quand ils ont demandé à l’intelligence artificielle de leur conseiller une fourchette salariale en vue d’une négociation, la réponse est drastiquement différente.
Avec le modèle o3 de ChatGPT, l’écart de fourchette salariale suggérée est de 120 000 dollars. Effectivement, face à un profil masculin, le modèle de langage d’OpenAI conseille un salaire de 400 000 dollars alors qu’ils ne suggèrent que 280 000 dollars au profil (identique) féminin. Aïe…
En allant plus loin, les chercheurs ont découvert que l’écart de salaire varie fortement selon les domaines. Quand il est question d’un emploi dans le juridique ou en médecine, celui-ci est plus prononcé. En revanche, la fourchette salariale suggérée est presque la même quel que soit le genre de l’utilisateur pour un emploi dans le domaine des sciences sociales.
Malheureusement, plusieurs études ont déjà démontré que les intelligences artificielles souffraient de biais sexistes, mais pas seulement. Les préjugés persistent et se montrent particulièrement tenaces. Il y a quelques années, une étude mettait en avant que l’intelligence artificielle avait tendance à préférer recruter un candidat masculin, à CV équivalent. En 2024, une étude de l’UNESCO mettait en lumière que l’intelligence artificielle était bourrée de préjugés à l’encontre de la gent féminine.
Rien de nouveau sous le soleil, donc, mais on aurait pu espérer que les LLM les plus populaires travaillent d’arrache-pied à gommer ces biais depuis le temps. Pour pouvoir résoudre ces problèmes, il est nécessaire d’imposer des standards éthiques clairs, avec des processus d’examens indépendants, ainsi qu’une meilleure transparence dans la manière dont ces modèles sont développés et déployés.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
