Il est possible de tromper les détecteurs des voitures autonomes, Réactions à la publication du 07/09/2015

[Lionel]

Dans une autre brève du jour nous vous parlons de la volonté de Toyota d'aider les automobilistes à prévenir les accidents sans les déloger de leur place centrale.
La découverte d'un chercheur en sécurité montre que ce sera peut-être une étape obligatoire pendant encore un bon moment.

Ce que les sociétés qui testent ces produits craignent avant toute autre chose, c'est que quelqu'un puisse prendre à distance le contrôle de ces véhicules et modifier leur comportement et provoquer des accidents.

Pourtant, il n'y a pas besoin de déployer des trésors de savoir faire de hacker pour interférer avec le fonctionnement de ces véhicules.

Jonathan Petit, un expert en sécurité, l'a récemment démontré. Il a utilisé pour cela un laser de faible puissance contrôlé par un logiciel installé sur un Raspberry Pi (sa puissance suffit amplement).
Ainsi contrôlé ce laser est capable d'interférer avec le système LIDAR (des lasers invisibles) utilisé par les véhicules autonomes pour "voir" leur environnement.
Avec ce système simple et ne coûtant pas grand chose en composant, il a été capable de renvoyer de faux échos qui ont fait croire au véhicule qu'il y avait des obstacles sur son chemin, de quoi provoquer embardées ou freinage d'urgence.

C'est un nouveau problème auquel les fabricants de ces véhicules vont devoir trouver une solution pas forcément simple.
Cela rappelle surtout qu'en plus de la capacité des systèmes à prendre systématiquement les bonnes décisions, il va falloir prendre en compte la capacité d'autres personnes à interférer avec ces "intelligences artificielles".




Lien vers le billet original

[pao2]

Je voudrais voir comment réagit une voiture autonome dans un carrefour complexe, avec des lignes de trams, des refuges piétons, des pistes cyclables, le tout de nuit, sous la pluie. Avec plein d'autres voitures, des piétons et un ou 2 trams.

Par exemple ici:
46.198144, 6.142338

Des lignes de trams qui croisent, des zones de trams réservées (au fond), un carrefour pas terrible, des passages piétons, des refuges et des barrières, ainsi que lorsqu'on tourne à gauche, les voitures se retrouvent avec les 2 voies de trames (les 2 sens) sur sa droite.



J'ai déjà vu des automobilistes se retrouver sur la ligne réservée au tram, face au tram ... ça fait désordre!

Donc je n'arrive pas a imaginer comment pourrait se comporter une voiture autonome, en se basant uniquement avec des caméras et des radars.
Je doute aussi que les trajets soient facilités par le GPS. Il y a toujours des travaux, des changements dans les voies ou les sens de circulation. Des modifications dans les refuges piétons, ...

A mon avis, les voitures autonomes pourront l'être sur des routes plutôt dégagées, bien signalisées, mais pas dans des situations complexe de nos villes.

Ce message a été modifié par pao2 - 7 Sep 2015, 10:06.

[macinoe]

Je voudrais voir comment réagit une voiture autonome dans un carrefour complexe, avec des lignes de trams, des refuges piétons, des pistes cyclables, le tout de nuit, sous la pluie. Avec plein d'autres voitures, des piétons et un ou 2 trams.

Par exemple ici:
46.198144, 6.142338

Des lignes de trams qui croisent, des zones de trams réservées (au fond), un carrefour pas terrible, des passages piétons, des refuges et des barrières, ainsi que lorsqu'on tourne à gauche, les voitures se retrouvent avec les 2 voies de trames (les 2 sens) sur sa droite.



J'ai déjà vu des automobilistes se retrouver sur la ligne réservée au tram, face au tram ... ça fait désordre!

Donc je n'arrive pas a imaginer comment pourrait se comporter une voiture autonome, en se basant uniquement avec des caméras et des radars.
Je doute aussi que les trajets soient facilités par le GPS. Il y a toujours des travaux, des changements dans les voies ou les sens de circulation. Des modifications dans les refuges piétons, ...

A mon avis, les voitures autonomes pourront l'être sur des routes plutôt dégagées, bien signalisées, mais pas dans des situations complexe de nos villes.

Totalement d'accord.
Ca ne peut fonctionner que dans un environnement très controlé et conçu pour.

Dans une ville construite de zero pourquoi pas.

Mais pour adapter l'existant... Hum est-ce seulement possible ? Si oui, qui va payer ?
Et le principal problème est que ça ne peut pas se faire d'un coup.
Une phase avec des voitures à assistance automatique qui redonne la main au conducteur dans certains cas semble inévitable.

Il me semble que ces passages entre mode automatique et manuel constituent à eux seul un gros problème de sécurité.
Il faut que le conducteur reste attentif en permanence et soit près à reprendre la main à tout moment.

Plus j'y réflechi, plus je trouve les projets de voiture autonome irréalistes et farfelus.

[nicogala]

Une phase avec des voitures à assistance automatique qui redonne la main au conducteur dans certains cas semble inévitable.

Il me semble que ces passages entre mode automatique et manuel constituent à eux seul un gros problème de sécurité.
Il faut que le conducteur reste attentif en permanence et soit près à reprendre la main à tout moment.

Plus j'y réflechi, plus je trouve les projets de voiture autonome irréalistes et farfelus.

Tout à fait : on vend ce produit comme un moyen d'être transporté sans "perdre de temps" en pouvant lire, dormir, bosser et de manière plus sûre qu'en mode manuel.
Ton analyse démontre que c'est faux à court et moyen terme, le problème c'est que c'est déjà ancré dans l'esprit des gens.