Passer au contenu

Des chercheurs parviennent à tromper l’Autopilot Tesla en bricolant les panneaux

Pas la peine d’avoir de grandes connaissances en développement informatique pour perturber une voiture autonome, il suffit d’être imaginatif.

Un groupe de chercheurs est parvenu à tromper l’Autopilot Tesla très simplement. Modifier légèrement l’affichage d’un panneau de d’indication de vitesse, difficilement perceptible à l’œil nu a suffi à faire accélérer une Tesla en pilote automatique de 35 mph à 85 mph.

L’objectif n’était pas de nuire, mais plutôt de prévenir le constructeur américain des potentiels dangers pour les utilisateurs. “McAfee Advanced Threat Research a un objectif spécifique : identifier et éclairer un large spectre de menaces dans le paysage complexe d’aujourd’hui. Avec ce type de piratage, l’étude de la manière dont les véritables pirates pourraient cibler et échapper à l’intelligence artificielle, nous avons une occasion incroyable d’influencer la prise de conscience, la compréhension et le développement de technologies plus sûres avant qu’elles ne soit mises en œuvre d’une manière qui ait une réelle valeur pour les pirates.”

Voici donc pourquoi les équipes de McAfee Advanced Threat Research se sont focalisées sur les caméras MobilEye, largement utilisées par Tesla dans ses premiers modèles. Ces hackers n’ont pas eu besoin de saisir de longues lignes de codes comme on pourrait le voir dans les meilleurs films de science-fiction, ils ont simplement déformé le chiffre affichant la limitation de vitesse sur un panneau à l’aide de ruban adhésif. Cette déformation est assez discrète pour qu’un œil humain ne s’en aperçoive pas depuis la route. De ce fait, il est assez simple de changer un 3 en 8 pour passer la limitation de 35 mph à 85 mph.

McAfee a confirmé avoir divulgué ses conclusions à Tesla et à MobilEye avant de les rendre publiques. C’est loin d’être la première fois, et en principe Tesla est assez réactif pour proposer une solution à ces problématiques.

L’année dernière, une situation similaire avait impacté Tesla. La société spécialisée dans la cybersécurité Keen Security Lab, elle-même financée par l’un des grands investisseurs de Tesla (Tencent), a publié un rapport sur un nouveau type de piratage. Elle y explique comment elle a réussi à compromettre le mode Autopilot en lui affichant de mauvaises informations visuelles.

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.

Newsletter 🍋

Abonnez-vous, et recevez chaque matin un résumé de l’actu tech

13 commentaires
13 commentaires
  1. Alors ce n’est pas un groupe de hacker mais bien deux chercheurs. (Revoir vos sources ou alors il s’agit de modification pour faire du clics…)

    1. Des chercheurs qui se sont transformés en hackers (éthiques) le temps d’une expérimentation, car on peut bien parler d’un hack, je ne trouve pas le terme erroné. Nous allons quand même corriger.

      1. Quels chercheurs et quelle grande expertise informatique que ces “hackers”. Ça marche aussi lorsqu’on inverse les couleurs des feux de circulation ?
        Par ailleurs, la limitation à 85 mph n’existant pratiquement pas aux États-Unis et en tout cas pas à l’endroit où a été réalisée cette expérience, on peut en déduire que le système Autopilot est vraiment incohérent. Bon, on est maintenant habitués avec l’industrie américaine du logiciel, même lorsque des vies sont en jeu (Boeing).

  2. Vous pensez donc que la machine s’arrêtera a la lecture des panneaux et ne prendra pas en compte les données enregistrées dans les systèmes de cartographie comme GMaps ou Waze????

    1. Le système sur lequel est basé l’autopilot des premières versions de Tesla faisait appel à la lecture des panneaux via les caméras et MobilEye. Le contrat avec MobilEye a été rompu et les dernières générations d’autopilot utilisent pour le moment uniquement les données GPS pour adapter la vitesse de la voiture (en plus de la détection des obstacles et de l’adaptation à la vitesse des voitures précédentes).

      1. Pardon ? C’est assez fou ça. Donc les dernières générations de Tesla ne se basent plus sur la lexture de panneau ???? J’espère que non et qu’il y a une solution alternative…

        En gros, on arrive sur des travaux, les données GPS disent autroute à 130, la voiture continue à rouler à 130 alors c’est limité à 50….

        Cela devient de pire en pire ces voitures connectées. Tesla désactive à distance une option achetée et revenude, Tesla désactive une fonction car le contrat est rompu, etc etc….

  3. “Pas la peine d’avoir de grandes connaissances en développement web”
    Sérieux? Depuis quand la Tesla repose sur des technologies web??? C’est ridicule

  4. c’est vraiment pour aller chercher la petite bete , j’ai jamais vu des panneaux de limitation de vitesse trafiqués comme ça sur les routes en france . Rien n’est infaillible c’est sur mais faut pas pousser

    1. Le but n’est pas de trafiquer les pnneaux mais de prouver qu’un système basé uniquement sur la vision n’est pas infaillible. Et donc que recroiser les informations sur plusieurs sources devraient fait d’office et en cas de doute, le conducteur doit reprendre la main.

      Aujourd’hui Tesla mise tout sur la conduite autonome pour vendre et on se rend compte que ce n’est pas pour tout de suite contrairement à ce que Tesla (et d’autres constructeurs) annoncent fièrement…

      1. Un système basé uniquement sur la vision ne devrait pas être plus faillible qu’un humain. L’humain est lui aussi basé sur la vision et c’est l’axe de developement de Tesla; ce qu’un humain peut faire avec se yeux peut être fait avec de simples caméra qui jouent un rôle similaire.

        Ici le problème est plus la marge d’erreur accorder par l’OCR pour donner un 8 à la place d’un 3 légèrement modifié.

        Pour le coup Tesla n’a qu’a revoir un peu son OCR.

  5. C’est débile… et si je maquille un panneau et transforme le 3 en 8 ? Les gens vont aussi bêtement croire qu’ils peuvent rouler a 85mph… vous êtes sur qu’ils sont chercheurs ? Et oui ce qui a été dit en réponse est vrai, ce problème, si problème il y a eu, a été corrigé depuis longtemps et donc maintenant la voiture reporte les données gps. Et j’espère d’ailleurs qu’on reviendra vite a un mix reconnaissance camera / gps.
    Mais bon… moi je pense que l’on est plutôt sur des gens qui veulent se faire soit un peu de buzz, soit qui exécutent pour le compte d’autres puissances une campagne de désinformation pour nuire a Tesla.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *