En 2018, des ingénieurs d’Amazon se sont lancés dans un projet prometteur pour leur entreprise en développant une IA de recrutement visant à accélérer et améliorer le processus d’embauche. Sauf que tout ne ne s’est pas passé comme prévu, et très vite, il est apparu que l’algorithme souffrait de biais sexistes, si bien que la firme de Jeff Bezos a rapidement stoppé ce programme.
Loin d’être un fait isolé, il s’agissait là d’une illustration flagrante des biais sexistes ou racistes dont peut parfois souffrir l’intelligence artificielle. De fait, ces soucis ne sont plus seulement signalés par des militants mais sont aussi pris très au sérieux par les législateurs, notamment dans l’Union européenne ou aux États-Unis.
Des seniors réduits à des stéréotypes ?
De leur côté, des chercheurs de l’Université de Toronto et de l’Université de Cambridge ont étudié les limites de l’intelligence artificielle liés à l’âgisme, c’est à dire aux discriminations liées à l’âge d’une personne.
Citée par Techexplore, Charlene Chu, qui a travaillé sur ce sujet, explique ainsi : « Un nombre énorme de personnes âgées se tournent vers la technologie dans leur vie quotidienne, ce qui a créé un sentiment d’urgence pour les chercheurs qui tentent de comprendre l’âgisme numérique, ainsi que les risques et les préjudices associés aux biais de l’IA. »
Dans une interview accordée à Bloomberg Nursing, la scientifique précise par ailleurs que « La plupart des applications créées pour les personnes âgées ont tendance à se concentrer sur la gestion des maladies chroniques et des soins de santé, et sont rarement associées au plaisir ou aux loisirs. » Il s’agit donc d’une vision qui réduit les personnes âgées à de potentiels malades, ce qui constitue de l’âgisme.
La chercheuse estime aussi que certains biais peuvent exister dans les applications d’IA destinées aux personnes âgées. Ces dernières sont en effet créées à partir de données issues d’individus plus jeunes. Dès lors, leur fonctionnement peut ensuite ne pas coller avec les besoins de leurs utilisateurs.
Face à ce problème, les scientifiques suggèrent donc d’inclure plus largement les seniors dans la conception de la technologie qui leur sera destinée. Un ensemble de données plus représentatif améliorera ces produits et permettra de mieux contrer les stéréotypes liés à l’âge.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
Dans IA il y a intelligence et celle des seniors n’est pas forcément artificielle ! en clair, ce n’est pas qu’une question d’âge et cela se vérifie tous les jours …