Elon Musk vient de profiter du séminaire “Great AI Debate” en marge du sommet Abundance Summit pour reparler des risques que pose l’IA pour l’humanité. Et tout semble indiquer qu’il penche de plus en plus pour une issue optimiste. Lors de son intervention, il explique en effet : “je pense qu’il y a des chances pour que l’IA signe la fin de l’humanité. Je suis probablement d’accord avec Groff Hinton qui estime ce risque autour de 10% ou 20%”.
Et l’entrepreneur d’ajouter immédiatement : “Je pense que la probabilité d’un scénario positif est supérieure à celle d’un scénario négatif”. Sans donner aucune méthode de calcul qui nous permettrait, nous aussi, d’être aussi optimiste que lui.
Faut-il vraiment encore écouter ce que dit Elon Musk sur les risques posés par l’IA ?
D’aucuns ont des raisons de penser que Elon Musk a un discours de plus en plus paradoxal sur l’IA, en particulier depuis son départ de OpenAI. Ses appels à un moratoire, tout en poursuivant le développement accéléré de sa propre IA GROK, et tout cela en prononçant des discours de plus en plus optimistes – alors même que les initiatives les plus en vue du secteur ont embrassé un tournant commercial, jugé plus propice aux erreurs fatales pour l’humanité – font tiquer de plus en plus d’experts.
D’autant que l’entrepreneur énonce des chiffres finalement très arbitraires, et une seule source, celle de George Hinton, celui qu’on appelle le “père de l’IA” – alors qu’un nombre croissant de chercheurs optent plutôt pour un discours immensément plus pessimiste. Nos confrères de Business Insider citent par exemple Roman Yampolskiy, chercheur qui dirige le laboratoire de cybersécurité de l’Université de Louisville.
Selon son opinion (aucun calcul statistique réellement fiable n’ayant pu être encore développé) – lié à ses travaux, et à l’état, et la façon dont sont développées actuellement les IA – le risque d’une collision fatale entre les IA et l’humanité est en réalité plutôt à un cheveu d’atteindre les 100%. Relevons toutefois qu’il n’existe pas encore de consensus sur le sujet, et que, nous le soulignons, prédire ce futur là de façon fiable requiert des méthodes qui n’existent pas encore.
Dès lors, a minima, on peut penser que les chiffres et le discours optimiste de Elon Musk sur cette question relève largement d’une opération de com, pour dorer l’image de son projet GROK. Un discours avec lequel il est donc important de prendre beaucoup de distance.
- Autrefois très alarmiste sur le sujet, Elon Musk estime désormais le risque posé par l’IA pour l’humanité, entre 10% et 20%.
- L’entrepreneur appelle pour cela les estimations d’autorité de Geoff Hinton, sans donner toutefois de calculs qui expliqueraient le ralliement à des estimations plus optimistes que par le passé.
- Il y a des raisons de douter de cet optimiste, en particulier à cause du conflit d’intérêts potentiel posé par le lancement de GROK, et du nombre croissant de chercheurs qui se montrent, au contraire, extrêmement alarmistes.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
La vérité est que pas plus Elon Musk que quiconque ne sait quels sont les risques liés à l’IA pour les temps à venir, et que la spéculation tient lieu de raisonnement pour les plus savants et de yoyo pour ceux qui, comme Elon, l’instrumentalisent en fonction de leurs intérêts propres, intérêts au demeurant proportionnels à ce qu’ils pensent, à tort ou à raison, être leur maîtrise du nouvel eldorado numérique.