Suivez-nous

Auto-Moto

Des chercheurs parviennent à tromper l’Autopilot Tesla en bricolant les panneaux

Pas la peine d’avoir de grandes connaissances en développement informatique pour perturber une voiture autonome, il suffit d’être imaginatif.

Il y a

  

le

 
autopilot
© McAfee

Un groupe de chercheurs est parvenu à tromper l’Autopilot Tesla très simplement. Modifier légèrement l’affichage d’un panneau de d’indication de vitesse, difficilement perceptible à l’œil nu a suffi à faire accélérer une Tesla en pilote automatique de 35 mph à 85 mph.

L’objectif n’était pas de nuire, mais plutôt de prévenir le constructeur américain des potentiels dangers pour les utilisateurs. « McAfee Advanced Threat Research a un objectif spécifique : identifier et éclairer un large spectre de menaces dans le paysage complexe d’aujourd’hui. Avec ce type de piratage, l’étude de la manière dont les véritables pirates pourraient cibler et échapper à l’intelligence artificielle, nous avons une occasion incroyable d’influencer la prise de conscience, la compréhension et le développement de technologies plus sûres avant qu’elles ne soit mises en œuvre d’une manière qui ait une réelle valeur pour les pirates. »

Voici donc pourquoi les équipes de McAfee Advanced Threat Research se sont focalisées sur les caméras MobilEye, largement utilisées par Tesla dans ses premiers modèles. Ces hackers n’ont pas eu besoin de saisir de longues lignes de codes comme on pourrait le voir dans les meilleurs films de science-fiction, ils ont simplement déformé le chiffre affichant la limitation de vitesse sur un panneau à l’aide de ruban adhésif. Cette déformation est assez discrète pour qu’un œil humain ne s’en aperçoive pas depuis la route. De ce fait, il est assez simple de changer un 3 en 8 pour passer la limitation de 35 mph à 85 mph.

McAfee a confirmé avoir divulgué ses conclusions à Tesla et à MobilEye avant de les rendre publiques. C’est loin d’être la première fois, et en principe Tesla est assez réactif pour proposer une solution à ces problématiques.

L’année dernière, une situation similaire avait impacté Tesla. La société spécialisée dans la cybersécurité Keen Security Lab, elle-même financée par l’un des grands investisseurs de Tesla (Tencent), a publié un rapport sur un nouveau type de piratage. Elle y explique comment elle a réussi à compromettre le mode Autopilot en lui affichant de mauvaises informations visuelles.

13 Commentaires

13 Commentaires

  1. Elfe76

    20 février 2020 at 16 h 25 min

    Alors ce n’est pas un groupe de hacker mais bien deux chercheurs. (Revoir vos sources ou alors il s’agit de modification pour faire du clics…)

    • Eric

      20 février 2020 at 18 h 21 min

      Des chercheurs qui se sont transformés en hackers (éthiques) le temps d’une expérimentation, car on peut bien parler d’un hack, je ne trouve pas le terme erroné. Nous allons quand même corriger.

      • Lolo-Ito

        21 février 2020 at 15 h 59 min

        Quels chercheurs et quelle grande expertise informatique que ces « hackers ». Ça marche aussi lorsqu’on inverse les couleurs des feux de circulation ?
        Par ailleurs, la limitation à 85 mph n’existant pratiquement pas aux États-Unis et en tout cas pas à l’endroit où a été réalisée cette expérience, on peut en déduire que le système Autopilot est vraiment incohérent. Bon, on est maintenant habitués avec l’industrie américaine du logiciel, même lorsque des vies sont en jeu (Boeing).

  2. Judcerf

    20 février 2020 at 16 h 40 min

    Vous pensez donc que la machine s’arrêtera a la lecture des panneaux et ne prendra pas en compte les données enregistrées dans les systèmes de cartographie comme GMaps ou Waze????

    • Eric

      20 février 2020 at 18 h 29 min

      Le système sur lequel est basé l’autopilot des premières versions de Tesla faisait appel à la lecture des panneaux via les caméras et MobilEye. Le contrat avec MobilEye a été rompu et les dernières générations d’autopilot utilisent pour le moment uniquement les données GPS pour adapter la vitesse de la voiture (en plus de la détection des obstacles et de l’adaptation à la vitesse des voitures précédentes).

      • O.Sdr

        21 février 2020 at 8 h 02 min

        Pardon ? C’est assez fou ça. Donc les dernières générations de Tesla ne se basent plus sur la lexture de panneau ???? J’espère que non et qu’il y a une solution alternative…

        En gros, on arrive sur des travaux, les données GPS disent autroute à 130, la voiture continue à rouler à 130 alors c’est limité à 50….

        Cela devient de pire en pire ces voitures connectées. Tesla désactive à distance une option achetée et revenude, Tesla désactive une fonction car le contrat est rompu, etc etc….

  3. WildIsBack

    20 février 2020 at 17 h 05 min

    « Pas la peine d’avoir de grandes connaissances en développement web »
    Sérieux? Depuis quand la Tesla repose sur des technologies web??? C’est ridicule

    • Eric

      20 février 2020 at 18 h 22 min

      Coquille corrigée

  4. stephane

    20 février 2020 at 22 h 22 min

    c’est vraiment pour aller chercher la petite bete , j’ai jamais vu des panneaux de limitation de vitesse trafiqués comme ça sur les routes en france . Rien n’est infaillible c’est sur mais faut pas pousser

    • O.Sdr

      21 février 2020 at 8 h 04 min

      Le but n’est pas de trafiquer les pnneaux mais de prouver qu’un système basé uniquement sur la vision n’est pas infaillible. Et donc que recroiser les informations sur plusieurs sources devraient fait d’office et en cas de doute, le conducteur doit reprendre la main.

      Aujourd’hui Tesla mise tout sur la conduite autonome pour vendre et on se rend compte que ce n’est pas pour tout de suite contrairement à ce que Tesla (et d’autres constructeurs) annoncent fièrement…

      • JeromeH

        21 février 2020 at 15 h 16 min

        Un système basé uniquement sur la vision ne devrait pas être plus faillible qu’un humain. L’humain est lui aussi basé sur la vision et c’est l’axe de developement de Tesla; ce qu’un humain peut faire avec se yeux peut être fait avec de simples caméra qui jouent un rôle similaire.

        Ici le problème est plus la marge d’erreur accorder par l’OCR pour donner un 8 à la place d’un 3 légèrement modifié.

        Pour le coup Tesla n’a qu’a revoir un peu son OCR.

  5. Christophe

    21 février 2020 at 7 h 42 min

    C’est débile… et si je maquille un panneau et transforme le 3 en 8 ? Les gens vont aussi bêtement croire qu’ils peuvent rouler a 85mph… vous êtes sur qu’ils sont chercheurs ? Et oui ce qui a été dit en réponse est vrai, ce problème, si problème il y a eu, a été corrigé depuis longtemps et donc maintenant la voiture reporte les données gps. Et j’espère d’ailleurs qu’on reviendra vite a un mix reconnaissance camera / gps.
    Mais bon… moi je pense que l’on est plutôt sur des gens qui veulent se faire soit un peu de buzz, soit qui exécutent pour le compte d’autres puissances une campagne de désinformation pour nuire a Tesla.

  6. Joe Allaire

    22 février 2020 at 15 h 19 min

    Je me fis plus à un logiciel pour conduire une voiture que sur la plupart des humains.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

À la une

Les bons plans

Dernières news

Newsletter 🍋 Inscrivez-vous à la newsletter tout juste sortie du four, rien que pour vous

Les tests