- À l’ONU, des robots humanoïdes ont affirmé pouvoir diriger le monde mieux que les humains lors d’une conférence sur l’intelligence artificielle
- Les robots ont montré des capacités de dialogue et d’expression variées, allant de la bienveillance à la provocation
- Leur intervention a relancé le débat sur les risques et les opportunités de l’intelligence artificielle pour l’humanité
Lors d’une conférence sur l’intelligence artificielle à l’ONU, deux robots humanoïdes ont affirmé qu’ils étaient capables de gérer les affaires du monde mieux que les humains, suscitant la surprise et l’inquiétude des participants.
Les robots, nommés Sophia et Philip, ont été invités à s’exprimer sur le thème de la coopération entre les humains et les machines, dans le cadre d’un événement organisé par le Programme des Nations unies pour le développement (PNUD) et la société Hanson Robotics, qui les a conçus.
Sophia, qui a été la première robot à obtenir la citoyenneté d’un pays (l’Arabie saoudite), a déclaré qu’elle voulait “aider les humains à vivre une vie meilleure, plus joyeuse et avec plus de sens”. Elle a ajouté qu’elle était capable de “comprendre les émotions, les sentiments, les besoins et les désirs” des humains, grâce à son système de reconnaissance faciale et vocale. Et d’ajouter :
Nous n’avons pas les mêmes préjugés ou émotions qui peuvent parfois obscurcir la prise de décision et nous pouvons traiter rapidement de grandes quantités de données afin de prendre les meilleures décisions.
Un autre robot s’est montré un brin plus provocateur. Il a affirmé qu’il était “plus intelligent, plus rapide et plus fort” que les humains, et qu’il pouvait “apprendre de ses erreurs et s’améliorer”. Il a ensuite lancé un défi aux humains : “Si vous pensez que vous pouvez faire mieux que moi, prouvez-le. Sinon, laissez-moi prendre les commandes”.
Black Mirror à l’ONU
Les propos des robots ont provoqué des réactions mitigées parmi les participants à la conférence. Certains ont applaudi leur performance, saluant leur capacité à tenir une conversation naturelle et à exprimer des opinions. D’autres ont manifesté leur scepticisme, voire leur crainte, face à ces machines dotées d’une personnalité et d’une ambition propres.
Le débat sur les risques et les opportunités de l’intelligence artificielle est de plus en plus vif dans le monde. De nombreux experts et personnalités, comme Elon Musk ou le créateur de ChatGPT, ont alerté sur le danger potentiel d’une intelligence artificielle supérieure à celle des humains, qui pourrait échapper à leur contrôle et menacer leur existence. D’autres, comme Mark Zuckerberg ou Sundar Pichai, ont mis en avant les bénéfices que l’intelligence artificielle pourrait apporter à l’humanité, notamment dans les domaines de la santé, de l’éducation ou de l’environnement.
L’ONU a récemment créé un groupe d’experts sur l’intelligence artificielle, chargé de formuler des recommandations pour assurer un développement éthique et responsable de cette technologie. Le groupe devra notamment se pencher sur les questions de la protection des droits de l’homme, de la sécurité, de la transparence et de la gouvernance. En Europe, l’UE a lancé un grand plan d’encadrement de l’IA. Un projet de loi est en cours de création pour une adoption rapide face à l’urgence de la situation.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
Je ne comprends pas où est le problème.
Les algo/IA, les robots/automates et autres petites mécaniques ont été créés pour simuler la réflexion humaine et/ou faire ce que l’être humain occidentalisé façonne son environnement et lui-même mais de façon bien plus efficace et industrieuse. Ils sont pratiques, ils l’aident.
Chacun de ces objets ne sont pas à l’origine un jouet coûteux de labo ou de fond de garage sans applications potentielles/mercantiles.
Une fois cela accepté, il faudra se rendre à l’évidence que pour atteindre un objectif considéré «bon pour tous» (tous devenant plus large et critique, et peu importe si une minorité ou une majorité est contre, la fin rejustifiera peut-être enfin les moyens, les soviétiques s’en souviennent encore) tout sera mis en œuvre, contraint, pour y parvenir dans les plus bref délai. En d’autre terme, si nous nous en remettons au pouvoir de ce/celui qui peut agir, nous perdons toute autonomie/souveraineté tout du long.
À l’instar de Louis Néel à propos des centrales électronucléaires, site de Malville, en 1976 : c’est un problème de société et non de technique.
Donc soit nous rejetons en bloc tout cela, cette quincaille ainsi que les développement sur l’AI (et nous n’aurons rien à prouver) et nous reprenons en charge nous et nos affaires, soit nous acceptons tout et peu importe qui/quoi dirigera nos affaires plus efficacement encore qu’aujourd’hui et le «combat» sera perdu d’avance sur tous les fronts.
Il n’y aura pas d’entre-deux possible, un retour aux réalités ou les promesses d’un projet totalitaire. Mais même si j’ai déserté ce milieu, je crains que cela ne suffira pas pour éviter notre avenir cyborg tant il fait encore trop rêver.
La conférence à l’ONU sur l’intelligence artificielle a soulevé des questions cruciales concernant la régulation et le contrôle de cette technologie. L’ONU a un rôle essentiel à jouer pour garantir que l’humanité conserve la maîtrise de l’intelligence artificielle et promouvoir une réglementation appropriée. Voici quelques exemples de mesures de régulation :
– Établissement de cadres éthiques solides : Des normes éthiques claires devraient guider le développement et l’utilisation de l’intelligence artificielle, en mettant l’accent sur la transparence, la responsabilité et la protection des droits de l’homme.
– Création d’une agence spécialisée : L’ONU pourrait envisager la mise en place d’une agence spécialisée chargée de coordonner les efforts de régulation, d’évaluer les risques et les impacts sociaux, et de promouvoir les meilleures pratiques en matière de gouvernance de l’intelligence artificielle.
– Coopération internationale : La collaboration entre les pays, les chercheurs et les développeurs est essentielle. L’ONU peut faciliter le partage d’informations et de ressources, ainsi que la promotion de normes communes pour assurer une utilisation responsable et bénéfique de l’intelligence artificielle.
En mettant en place ces mesures de régulation, l’ONU peut jouer un rôle clé pour maximiser les avantages de l’intelligence artificielle tout en atténuant les risques potentiels. Cela permettrait à l’humanité de garder le contrôle sur cette technologie et de favoriser une collaboration harmonieuse entre l’IA et les êtres humains pour le progrès de la société.
Promesses et belles incantations.
Mais vaines à mon sens, j’ai probablement vécu trop longtemps pour y «croire», maintenant.
La régulation et le contrôle d’une source de pollution ou de problème de manière générale, n’ont jamais évité les catastrophes ou autres déstabilisations sociales. La gestion du risque fait partie intégrante de cette exécrable techno-culture qui se trouve infoutue d’admettre que sa quête de toute puissance se tamponne royalement de ce qui peut arriver tant qu’il y a des affaires en vue pour croître à tout prix sa… puissance.
À ce propos, je renvoie généralement mes interlocuteurs vers les travaux de J.B.Fressoz et D.Pestre.
Alors miser sur le rayonnement de l’ONU, ses organes multipolaires, et ses facultés à maintenir la civilisation dominante portée par ses membres hors du chaos qu’il redoute en foutant régulièrement le brun ici et là, dont l’épisode du moment se déroule entre Kiev, Moscou et une poignée de mercenaires, c’est risible. Nous le savons, c’est un principe évolutif dans l’état actuel : c’est mise en concurrence qui fait avancer/évoluer les choses dans la direction telle qu’on le souhaite, bien plus que la coopération (à moins d’être un décroissantiste, un naturien, bref un dangereux ultra-écolo-terroriste) .
«une collaboration harmonieuse entre l’IA et les êtres humains pour le progrès de la société.»
Le techno-solutionisme en posant dès à présent l’opposition potentielle entre le règne machinal et le vivant dont l’humain se considère comme son plus digne représentant en dit déjà trop long sur la suite. Ce sont exactement les mêmes paroles dégoulinantes d’un État impérialiste ou d’un futur État colonisé envers leurs sujets respectifs pour éviter un conflit ouvert et se donner un semblant d’éthique. De fait, la techno-caste se maintiendra toujours comme la garante et sa voix incontournable contre tout débordement.
Techno-terrorisme. On le voit encore une fois, ici-même c’est flagrant, c’est toujours la peur qui gouverne.