Il est possible de tromper les détecteurs des voitures autonomes, Réactions à la publication du 07/09/2015

[Lionel]

Dans une autre brève du jour nous vous parlons de la volonté de Toyota d'aider les automobilistes à prévenir les accidents sans les déloger de leur place centrale.
La découverte d'un chercheur en sécurité montre que ce sera peut-être une étape obligatoire pendant encore un bon moment.

Ce que les sociétés qui testent ces produits craignent avant toute autre chose, c'est que quelqu'un puisse prendre à distance le contrôle de ces véhicules et modifier leur comportement et provoquer des accidents.

Pourtant, il n'y a pas besoin de déployer des trésors de savoir faire de hacker pour interférer avec le fonctionnement de ces véhicules.

Jonathan Petit, un expert en sécurité, l'a récemment démontré. Il a utilisé pour cela un laser de faible puissance contrôlé par un logiciel installé sur un Raspberry Pi (sa puissance suffit amplement).
Ainsi contrôlé ce laser est capable d'interférer avec le système LIDAR (des lasers invisibles) utilisé par les véhicules autonomes pour "voir" leur environnement.
Avec ce système simple et ne coûtant pas grand chose en composant, il a été capable de renvoyer de faux échos qui ont fait croire au véhicule qu'il y avait des obstacles sur son chemin, de quoi provoquer embardées ou freinage d'urgence.

C'est un nouveau problème auquel les fabricants de ces véhicules vont devoir trouver une solution pas forcément simple.
Cela rappelle surtout qu'en plus de la capacité des systèmes à prendre systématiquement les bonnes décisions, il va falloir prendre en compte la capacité d'autres personnes à interférer avec ces "intelligences artificielles".




Lien vers le billet original

[pao2]

Ou ici: 46.187510, 6.125041
La voiture bleu, doit suivre la voiture rouge.
La voie par légèrement sur la droite. On a très vite fait de continuer tout droit et se retrouver sur la voie réservée au tram!



Il y a différentes présélections, celle de gauche est sur la voie de tram puis la quitte. Il y a des marquages temporaire pour cause de travaux (CEVA), des lignes de tram qui tournent juste un peu avant car il y a une boucle pour un terminus de tram. La piste cyclable à droite traverse le tout et va tout droit, ...

Bonne chance à la voiture autonome!

Ce message a été modifié par pao2 - 7 Sep 2015, 10:05.

[GregWar]

Bonne chance à la voiture autonome!

Ouais, je dis pas que c'est dans 5 ans, mais franchement, c'est pas super impressionnant non plus.
Une voiture ça doit réagir en environ 1/2 seconde, c'est une éternité pour un CPU dédié.

Franchement on fait des pilotes automatiques dément dans l'aviation, avec à mon avis largement autant de variables que "attention y a le tram, et en plus la route elle croise".

Parfois il suffit de ne pas penser comme un humain, et ne pas chercher à reproduire notre comportement, pour faire des automates puissants.
Par exemple, un ordinateur ne calcule pas comme nous, pas de retenues, pas de division à reste, etc…

Vu les enjeux économiques… a mon avis on va y arriver.

[macinoe]

Bonne chance à la voiture autonome!

Ouais, je dis pas que c'est dans 5 ans, mais franchement, c'est pas super impressionnant non plus.
Une voiture ça doit réagir en environ 1/2 seconde, c'est une éternité pour un CPU dédié.

Franchement on fait des pilotes automatiques dément dans l'aviation, avec à mon avis largement autant de variables que "attention y a le tram, et en plus la route elle croise".

Parfois il suffit de ne pas penser comme un humain, et ne pas chercher à reproduire notre comportement, pour faire des automates puissants.
Par exemple, un ordinateur ne calcule pas comme nous, pas de retenues, pas de division à reste, etc…

Vu les enjeux économiques… a mon avis on va y arriver.

Je ne connais pas d'avion de ligne sans pilote.
Pour moi, c'est plutôt un argument qui prouve qu'un pilote humain reste indispensable et qu'un pilote automatique sert uniquement dans des cas prévisible où tout se passe bien.
Si on ne peut pas se passer d'un pilote dans un avion, ça m'étonnerait que l'on puisse dans une voiture.

[SartMatt]

Si on ne peut pas se passer d'un pilote dans un avion, ça m'étonnerait que l'on puisse dans une voiture.

Techniquement, on peut le faire. Les drones militaires sont bien des avions sans pilote, l'opérateur au sol ne pilote pas, il supervise et donne le plan de vol et les ordres de tir. La latence de la transmission (les "pilotes" sont aux USA, pour des drones opérant à l'autre bout du monde) est trop élevée pour permettre le pilotage.

Bon par contre, ces avions n'ayant aucun passager (et là, clairement, plus que la technologie, ce qui empêche de faire des avions de ligne sans pilote, c'est bien la réticence qu'auraient les passagers à monter dans un tel avion), c'est pas dramatique s'il n'y a personne pour reprendre le commandes en cas de dysfonctionnement de l'automate ou de situation inattendue.

Pour ce qui est de là réaction face à une situation inattendue, on a certes des exemples de situations où le pilote a sauvé les passagers, là où un ordinateur aurait très probablement échoué (Hudson river par exemple), mais je suis pas sûr qu'ils soient plus nombreux que les exemples où c'est une erreur humaine qui a provoqué l'accident (plus de 50% des cas)...

Mais clairement, le rôle du pilote est amené à devenir de plus en plus un rôle de simple superviseur, qui ne prend la main qu'en de très rares situations extrêmes (déjà actuellement, c'est un peu le cas, il me semble avoir lu il y a quelques temps que sur un vol transatlantique, il n'y a que quelques minutes qui ne sont pas encore automatisées, et elles sont en passe de l'être...).