Suivez-nous

Tech

Les 23 principes pour une intelligence artificielle bienveillante

Comment se prémunir d’une intelligence artificielle « super-intelligente ou forte » qui, de façon autonome, n’agirait pas en alignement avec nos valeurs humaines ou bien qui serait manipulée dans ce sens ?

Il y a

le

intelligence artificielle ethique

Le Futur Of Life institute, crée par Max Tegmark, professeur au MIT et auteur du livre Life 3.0: Being Human in the Age of Artificial Intelligence, s’est donné pour mission de favoriser l’émergence des nouvelles technologies pour le bien commun. Dans ce cadre, une question pendue aux lèvres de tous les chercheurs associés à cette initiative :

Comment se prémunir d’une intelligence artificielle « super-intelligente ou forte » qui, de façon autonome, n’agirait pas en alignement avec nos valeurs humaines ou bien qui serait manipulée dans ce sens ?

La réponse est une charte de 23 principes créée par plus de 200 chercheurs, y compris Yann Le Cunn le directeur du centre de recherche en IA de Facebook à Paris, Demis Hassabis le fondateur de Deepmind, Ilya Sutskever le fondateur d’Open AI, le trio de tête de Google : Peter Norvig, Ray Kurzweil et Jeff Dean et validée par Stephen Hawking, Elon Musk, Sam Altman et des centaines d’entrepreneurs et chercheurs reconnus mondialement dans ce domaine, qui établit un framework de développement pour éviter une catastrophe mondiale.

Cette charte stipule notamment que :

  • L’objectif de la recherche sur l’IA devrait être de créer non pas une intelligence autonome, mais une intelligence utile.
  • Les investissements dans l’IA devraient s’accompagner d’un financement pour la recherche visant à garantir son utilisation bénéfique
  • Il devrait y avoir un échange constructif et sain entre les chercheurs en intelligence artificielle et les décideurs (policy makers).
  • Une culture de coopération, de confiance et de transparence devrait être encouragée parmi les chercheurs et les développeurs de l’intelligence artificielle.
  • Les équipes développant des systèmes d’IA devraient coopérer activement afin d’éviter tout buy-pass des normes de sécurité.

Quelques principes éthiques cruciaux :

  • Transparence en cas d’échec : Si un système d’IA cause un préjudice, il devrait être possible de déterminer pourquoi.
  • Transparence judiciaire : Toute participation d’un système autonome à la prise de décision judiciaire devrait fournir une explication satisfaisante, contrôlable par une autorité humaine compétente.
  • Responsabilité : les concepteurs et constructeurs de systèmes d’IA avancés sont acteurs des implications morales de leurs utilisations abusives, et sont responsables de définir ces implications.
  • Valeurs humaines : les systèmes d’IA doivent être conçus et gérés de manière à être compatibles avec les idéaux de dignité humaine, de droits, de liberté et de diversité.
  • Protection de la vie privée : les personnes devraient avoir le droit d’accéder aux données que les IA génèrent, de les gérer et de les contrôler.
  • Liberté et vie privée : L’application de l’IA aux données personnelles ne doit pas restreindre de manière déraisonnable la liberté réelle ou perçue de l’individu en question.
  • Partage des ressources : La prospérité économique créée par l’intelligence artificielle doit être partagée de manière large afin de bénéficier à toute l’humanité.
  • Contrôle : les humains doivent choisir comment et s’il faut déléguer les décisions aux systèmes d’IA pour atteindre des objectifs choisis par l’homme.
  • Course aux armements de l’IA : Une course aux armements avec des armes autonomes mortelles doit être évitée.
  • Bien commun : l’IA forte ne devrait être développée qu’au service d’idéaux éthiques largement partagés et dans l’intérêt de toute l’humanité plutôt que d’un seul État ou organisation.

La liste complète est à retrouver ici.

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

1 commentaire

1 Commentaire

  1. De Barros

    8 janvier 2019 at 19 h 59 min

    Je ne suis pas contre avec AI,LES ROBOS DEVRAIS ETRE O SERVICE DE L HUMANITE PAS LE CONTRERE.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Les bons plans Prime Day 🔥

Soldes Amazon Cdiscount Soldes Amazon Cdiscount
PromosIl y a 21 heures

Après le fameux Prime Day Amazon, que reste-t-il encore en soldes ? 🔥

Après un Amazon Prime Day hautement qualitatif, les soldes reprennent leur cours avec des milliers de promotions toujours disponibles. Voici...

Prime Day Samsung TV Prime Day Samsung TV
InternetIl y a 2 jours

Bon Plan : les TV 4K UHD Samsung et LG à -25% jusqu’à minuit 🔥

Il reste moins de 6 heures pour profiter des offres agressives du Prime Day Amazon. Parmi celles-ci on trouve de...

iPad Pro Prime Day soldes iPad Pro Prime Day soldes
PromosIl y a 2 jours

Soldes iPad Pro : 17% de réduction jusqu’à minuit au Prime Day (vite) 🔥

Il faut parfois savoir être patient : les iPad Pro 2018 sont désormais en soldes pour le Prime Day Amazon. Voici...

Philips Hue Philips Hue
PromosIl y a 3 jours

Bon plan : ampoule Philips Hue à -50%, ça prend fin ce soir minuit 🔥

La gamme Philips Hue est en promotion pour ce Prime Day Amazon. Toutefois, les bonnes affaires s'arrêtent ce soir à...

Projecteurs Anker Projecteurs Anker
Bons PlansIl y a 3 jours

Bon Plan : les projecteurs portables Anker à prix cassés 🔥

Dernière ligne droite pour le Prime Day, et les projecteurs portables Anker ont le droit à de très fortes réductions....

Garmin Forerunner 735XT Garmin Forerunner 735XT
Bons PlansIl y a 3 jours

Bon Plan Running : 50% de réduction sur les montres GPS Garmin 🏃‍♂️

Garmin est un acteur majeur du running et sa gamme Forerunner est reconnue par tous. Pour Prime Day, la marque...

switch nintendo switch nintendo
PromosIl y a 3 jours

Prime Day : packs Nintendo Switch à -25% sur Amazon (fin ce soir) 🔥

La console Nintendo Switch est en réduction pendant le Prime Day Amazon 2019. Voici notre sélection des meilleurs packs Switch...

Dernières news

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Les tests