EPITA, école d’ingénieurs du numérique du Groupe IONIS, fait régulièrement intervenir les meilleurs experts sur les sujets de la transformation digitale. L’intelligence artificielle (IA) est l’une des thématiques incontournables et le 13 décembre, deux invités prestigieux sont venus à la rencontre des étudiants. Cédric Villani, célèbre mathématicien et député LREM, est l’auteur du rapport Donner un sens à l’Intelligence Artificielle – pour une stratégie nationale et européenne, commandé par le gouvernement et remis fin mars 2018. Amal El Fallah Seghrouchni est Professeure à la Sorbonne et chercheuse en IA au CNRS. Animée par le journaliste Nicolas Arpagian, la conférence a commencé par une clarification sur la définition de l’IA, appellation qui n’a pas les faveurs des scientifiques.
.@VillaniCedric à @EPITA : les chercheurs en Intelligence Artificielle, n’aiment pas utiliser cette expression car “c’est tellement vague et évocateur de fantasmes que c’est gênant pour un scientifique”. #IA #IA pic.twitter.com/P1V7qqSuQq
— Presse-citron (@pressecitron) 13 décembre 2018
Petit tour du monde de l’IA
Face aux blocs américains et chinois qui dominent le sujet, la France et l’Europe accusent un certain retard. C’est l’une des raisons d’être du rapport Villani, dont l’objectif est de développer une prise de conscience générale afin de se donner les moyens de rattraper les leaders.
Les anglais ont été pionniers, rappelle Cédric Villani, avec notamment les travaux du mathématicien et cryptologue Alan Turing et le fameux « test de Turing » élaboré au début des années 50. Plus récemment, ils ont été les premiers à définir une stratégie en intelligence artificielle et à se doter de structures.
En France et en en Allemagne, on reste marqués par la seconde guerre mondiale, avec un rapport aux données personnelles très particulier. Si on dresse la comparaison avec les pays Scandinaves, les citoyens y ont une confiance bien plus forte en l’Etat, ce qui facilite le rôle que pourrait jouer la puissance publique. Les allemands ont une stratégie centrée sur la recherche et sur leur industrie très forte, mais le mathématicien pointe un certain manque d’ouverture. En Europe de l’Est, on trouve de très bons professionnels, notamment en Pologne et en Roumanie avec laquelle on collabore d’autant plus facilement que nombre de chercheurs y parlent français.
La France n’est clairement pas dénuée d’atouts, avec des formations et une recherche de qualité dans les matières scientifiques, ce qui permet d’avoir des ingénieurs très compétents et de compter quelques français parmi les vedettes de l’IA. Il n’en reste pas moins que nous avons un souci pour les temps à venir, résumé dans ce tweet.
#IA : un des drames est le manque de profs de maths.
– métier pas assez attractif
– tout un système à revoir : le volume de cours, pédagogie, salaire (les anglais ont augmenté le salaire des profs de maths, mieux payés que les autres profs !) @VillaniCedric à @EPITA pic.twitter.com/9oIG1aeGnN— Presse-citron (@pressecitron) 13 décembre 2018
Cédric Villani insiste sur le fait que la France et l’Europe peuvent faire valoir un modèle différent, basé sur des valeurs communes, où la puissance publique aurait un véritable rôle à jouer. Par ailleurs, le rattrapage du retard ne se fera pas sans la création de liens et la coopération forte entre les pays.
Le rôle des GAFA dans le développement de l’IA
Le sujet de l’intelligence artificielle est ancien mais l’engouement est né lorsque les GAFA s’en sont mêlé. En quelques années, Facebook, Google & co ont réussi à accumuler de gigantesques bases de données, qui sont le carburant de l’intelligence artificielle. Dotés de fortes puissances de calcul et des moyens d’embaucher les meilleurs ingénieurs, ils ont pu rapidement progresser. Dans ces conditions, “les algorithmes que l’on croyait inefficaces se sont avérés efficaces et performants”, explique Cédric Villani. “Ils récupèrent les données de nombreux citoyens, ce qui permet d’entraîner leurs algorithmes à faible coût”, renchérit Amal El Fallah. C’est ce qui a permis aux GAFA “d’avoir une longueur d’avance sur les universitaires” ajoute-t-elle.
Cédric Villani parle même d’une “vraie distorsion de la concurrence” car plus vous avez de data, plus vos algorithmes progressent. Les GAFA sollicitent également l’aide active de leurs utilisateurs. Sur la traduction par exemple, en demandant de faire de meilleures propositions lorsque la traduction automatique ne convient pas. Ou avec les captchas, quand il s’agit d’identifier les éléments d’une image.
Les GAFA ont donc permis de stimuler très fortement le développement de l’IA, en dehors des cercles de la recherche, tout en soulevant une forte méfiance, des craintes et de nombreuses interrogations.
“Protéger l’IA de l’humain pour protéger l’humain de l’IA”
Nos deux experts pointent des usages qui vont vraiment nous simplifier la vie, comme les chatbots, qui joueront le rôle de véritables majordomes. Dès que les assistants personnels seront capables d’interagir en autonomie avec ceux de services comme les banques ou les administrations, nous pourrons être déchargés de certaines tâches. L’IA joue également un rôle de soutien à la recherche scientifique et à l’exploration, même si pour l’instant, aucune découverte scientifique n’a encore a été permise par l’IA, rappelle Cédric Villani.
Quant aux sujets de préoccupation soulevés par les récents développements de l’IA, notamment sur les données personnelles, il reprend l’exemple de la caricature du New-Yorker. En 1993, ce dessin de Peter Steiner, mettait en avant l’anonymat comme l’une des qualités d’internet. Y figurait 2 chiens devant un ordinateur, dont l’un disait à l’autre : “sur internet, tout le monde ignore que tu es un chien”. Avec l’arrivée du web 2.0 dans les années 2000, ce dessin a été repris de nombreuses fois pour dénoncer la disparition de cet anonymat et faire prendre conscience de la masse d’informations dont disposent certaines entreprises privées à notre sujet.
Pour Amal El Fallah, les boîtes noires que constituent certains algorithmes doivent disparaître: “la seule façon de rendre l’IA acceptable et accessible, est que les choses soient intelligibles par l’être humain”. Pour responsabiliser, on pourrait par exemple imposer aux professionnels une sorte de serment Hippocrate appliqué à l’IA (ce qui supposerait des valeurs communes, mais encore faut-il réussir à les identifier). A la manière des principes d’Asimov pour les robots, elle souligne l’existence des 23 principes d’Asilomar. Compilés dans une charte qui fait office de guide éthique pour l’IA, ils ont été approuvés par des centaines de chercheurs et d’experts.
Ces principes s’appliquent sur la base du volontariat, mais quid des contrôles le jour où ils auront force de loi ? Cédric Villani propose de reprendre la méthode du testing, où il s’agirait de valider la conformité d’un échantillon.
Conférence @EPITA – Pour contrôler l’#IA, @VillaniCedric recommande les descentes surprise de police, pour tester les algos à l’instant T et s’assurer par exemple qu’il n’y a pas de biais & de discriminations. pic.twitter.com/HI86VvxKTG
— Presse-citron (@pressecitron) 13 décembre 2018
Amal El Fallah doute de la possibilité d’auditer des algorithmes qui comportent des milliers de contraintes. Elle est en revanche catégorique sur la nécessité de poser rapidement des limites et recommande d’interdire certaines pratiques. A la question “êtes-vous optimiste sur la montée de l’intelligence artificielle dans nos existences ?”, elle répond que cela dépend beaucoup des moyens que l’on va mettre en place pour contrôler cette montée et s’assurer qu’il n’y a pas d’utilisations malveillantes. “Il faut protéger l’IA de l’humain pour protéger l’humain de l’IA”. En effet, des manipulations psychologiques ont vu le jour grâce à l’IA, comme le rappellent certaines dérives de l’utilisation de Facebook. Elle nous met en garde contre le nudge, qui consiste à faire de l’incitation comportementale, presque “à l’insu de son plein gré”, rappelant que des chercheurs ont réussi à démontrer les taux de persuasion obtenus grâce à des algorithmes.
Quelles solutions ? On pourrait par exemple brider les algorithmes comme on bride le moteur des voitures, ou bien interdire l’utilisation de certains algorithmes pour les adolescents et les personnes vulnérables. La chercheuse met également en avant le fait que l’on parle d’intelligence artificielle au singulier, alors qu’en réalité nous allons vers des systèmes avec plusieurs entités intelligentes mais aussi vers l’intelligence collective et émotionnelle. A la manière de la collaboration humain-robot, l’Homme peut et doit intervenir dans ces systèmes d’IA complexes. “En remettant l’humain dans la boucle, on remet du bon sens et de l’intuition” et on favorise le plus important : le fait que “l’Homme et la technologie s’apprivoisent l’un l’autre”.
Article publié en partenariat avec le Groupe IONIS.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
Oui et milles fois oui, pour etre prete a vivre dans un monde pilote par l’IA.Pourquoi, lorsque les IA seront programmes pour etre au service des humains sans etre inquiete pour leur vie et non l’inverse, je serais plus rassuree…en effet cela devient de plus en plus complique , voir difficile de me faire servir par des humai s qui sont stresses, qui ont en marre de travailler pour un salaire de misere …et qui souffrent de leurs conditions d’etre un produit d’exploitation pour les benefices d’un gouvernement corrompu et injuste, sans aucun amour pour l’humanite qui les a bien servis ..mais tout a un temps…et les IA vont boulerverser le quotidien de milliers de personnes.On aimera ou non, on acceptera ou jamais, mais cela arriver et d’ailleurs c’est pour cela que nous sommes en pleine revolution, les dirigeants de la planete n’aime pas le concept IA qui va demander une transparence a tous les niveaux, les gens sont inquiets , les technologies, les sciences , la robotique arrive a grand pas et les gens ne sont pas bien informe de tous les bouleversement que cela va occasionner dans leur quotidien…et pourtant on entretien de facon illusoire un systeme qui se meurt et qui est entrain de rendre ses derniers soupir…il existe cependant un system appele paradism.org qui pourrait etre rapidement en place si les hommes etaient un peu plus sage et humble…et l ‘IA serait alors un plus pour aider les hommmes dans leur quete de l’epanouissement personnel…revenu de bien etre…les robots au boulots…la disparition de l’argent…dans un premier temps les entreprises qui emploieraient des robots reverseraient leur benefices sous formes de revenu de bien etre en attendant de pourvoir a tous les besoins elementaires existentiels des hommes de la terre…peace and love to all ?