Suivez-nous

Tech

Ces chercheurs ont listé leurs solutions pour rendre l’IA plus éthique

L’idée est notamment de retrouver la confiance du public sur ces sujets et d’utiliser l’IA pour améliorer le bien-être global.

Il y a

  

le

 
Reconnaissance faciale
© Fight for the Future

C’est un sujet qui revient de manière récurrente dans l’actualité : l’intelligence artificielle est régulièrement accusée de biais racistes ou sexistes. Pour ne citer que quelques exemples récents, une étude portant sur des outils de reconnaissance vocale a conclu que les algorithmes ont des taux d’erreurs bien plus élevés lorsque les paroles sont prononcées par des afro-américains. Google est de son côté obligé de travailler dur pour éviter que son service Translate n’intègre plus de préjugés sexistes.

Des chasseurs de biais pour repérer les préjugés racistes

À force de s’accumuler, ces dérives ont tendance à saper la confiance du public pour les outils d’intelligence artificielle. Conscients du problème, des chercheurs de Google Brain, Intel, OpenAI, ainsi que de grands laboratoires de recherche américains et européens, ont publié une boîte à outils visant à rendre l’IA plus éthique.

Comme le notent nos confrères de VentureBeat, leur proposition la plus notable repose sur la création d’un système de chasse aux biais, sur le modèle des bug bounty. Comme pour la chasse aux bugs, ce programme supposerait de payer des développeurs afin de trouver des biais dans une intelligence artificielle. Cela permettrait sûrement de faire remonter d’avantage de problèmes qu’on n’en détecte avec les systèmes actuels.

Les chercheurs prônent aussi un meilleur partage des incidents liés à l’IA. L’idée serait de créer une base de données répertoriant l’ensemble des soucis qui soit accessible aux différents acteurs du secteur. Ils souhaitent par ailleurs que des alternatives aux intelligences artificielles commerciales soient disponibles en open source. Les scientifiques appellent aussi de leurs vœux une augmentation des fonds gouvernementaux alloués à la recherche universitaire afin de vérifier les plaintes concernant les systèmes d’intelligence artificielle.

De nombreuses autres recommandations sont effectuées dans ce texte long de 80 pages. De quoi fournir des idées importantes pour encadrer cette technologie qui impacte déjà profondément nos vies. Ces propositions viennent compléter d’autres préconisations déjà faites par le passé. On pense notamment à ce rapport du Futur Of Life institute qui a listé 23 principes pour une intelligence artificielle plus bienveillante.

Cliquez pour commenter

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Les bons plans

Partenaire : Samsung

Dernières news

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Les tests