En mars dernier, un accident mortel impliquant un des véhicules autonomes d’Uber est survenu dans l’Arizona. Alors que la voiture était lancée sur la route, elle a percuté une femme qui traversait hors d’un passage piétons. Cette dernière est décédée dans l’ambulance qui la conduisait à l’hôpital.
Suite à cette tragédie, Uber a suspendu ses essais et ouvert une enquête pour déterminer les causes de l’accident. Il a d’abord été révélé que le logiciel avait vu la victime, mais qu’elle avait choisi de ne pas s’arrêter, sauf que ce constat n’avait pas été détaillé à l’époque. L’enquête, dont les résultats viennent d’être rendus publiques, donne plus de détails.
Uber assure que son système actuel aurait évité l’accident
Les conclusions indiquent que le logiciel d’Uber dédié à la conduite autonome n’a pas reconnu la victime comme un être humain. Pour la machine, il s’agissait effectivement d’un objet, ce qui explique pourquoi la voiture n’a pas stoppé sa course à 60 km/h.
Uber a indiqué que son système n’avait pas été réglé pour être capable de reconnaître de potentiels « piétons traversant hors des clous ». Il n’y avait pas de passage piéton dans la zone où la victime de 49 ans circulait à côté de son vélo.
Le dispositif d’Uber aurait analysé qu’une collision allait avoir lieu environ une seconde avant l’impact, mais il a jugé qu’il ne fallait pas utiliser le freinage d’urgence, car cela aurait été trop violent.
Mais ce n’est pas tout, car il faut rappeler qu’Uber pratiquait alors ses tests avec des personnes à bord des véhicules autonomes afin de conserver une certaine sécurité. Avant l’impact ayant provoqué le décès de la victime, le système a donc envoyé un avertissement sonore à l’opératrice qui se trouvait derrière le volant. Sauf que celle-ci était en train de regarder une vidéo sur son téléphone portable. Elle n’a pas eu le temps de réagir.
Uber a indiqué que son système actuel aurait été en mesure de reconnaître un piéton traversant en dehors des clous en tant que tels. Suite à l’accident, Uber a suspendu ses tests durant plusieurs mois, une période qui lui a sûrement permis de se pencher sur l’amélioration de son logiciel avant de reprendre les tests.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
encore un humain tué par une machine, c’est tout ce que j’ai à dire !!!
Ce n’est peut être pas une humaine 😉
Alors il est dit ici qu’il a d’abord été révélé que le logiciel avait vu la victime avec un joli lien qui pointe sur l’article presse-citron datant de Mai 2018 écrit par le même auteur que cet article.
Je vais donc lire cet ancien article et surprise il y est indiqué dès le premier paragraphe d’introduction que le véhicule a bien détecté une forme, mais pas un être humain…
ça montre surtout que la machine a choisit entre percuter un objet non identifié à 60 km/h et donner un coup de frein violent.
=> à un moment donné la machine (programmée par un ingénieur, pour rendre un certain service, valorisé et vendu très cher par une société) va donc choisir de protéger son client plutôt qu’un objet ou une personne extérieure… même s’il est en tort ? ou même s’il aurait pu faire mieux ?
Admettons que la voiture freine d’un coup sec : ok, les passager peuvent être légèrement blessés, mais le piéton n’aurait pas été percuté à la même vitesse et serait peut-être encore en vie.
Bref c’est flippant, la techno n’est pas encore au point et le piétons en californie ne savent pas qu’ils peuvent se faire écraser car une machine ne les reconnaît pas.
Après je me pose la question de l’IA qui choisit de percuter un objet à 60 km/h … Mais pourquoi wally ?
J’avoue que savoir que une voiture dans laquelle je suis, serait capable de foncer à 60km/h sur un obstacle (quel qu’il soit) me laisse sans voix. Que ce soit un humain, un sanglier, un bloc de béton ou un container de poubelle qui est tombé sur la route, jamais un humain au volant n’aurait foncé dessus. Il aurait freiné soit pour s’arrêter soit pour limiter la force de l’impact et/ou aurait changé de voie si possible.
Pensez vous qu’aucun humain n’a jamais été écrasé par un véhicule piloté par un autre humain ? La vérité c’est que l’humain est bien faillible que la machine, le tux d’accident par km parcourus est plus faible avec Autopilot que sans c’est un fait. On est simplement ici dans un cas de mauvaise conception et cette occurence à été prise en compte a présent dans leur algorithme.