Il est possible de tromper les détecteurs des voitures autonomes, Réactions à la publication du 07/09/2015

[Lionel]

Dans une autre brève du jour nous vous parlons de la volonté de Toyota d'aider les automobilistes à prévenir les accidents sans les déloger de leur place centrale.
La découverte d'un chercheur en sécurité montre que ce sera peut-être une étape obligatoire pendant encore un bon moment.

Ce que les sociétés qui testent ces produits craignent avant toute autre chose, c'est que quelqu'un puisse prendre à distance le contrôle de ces véhicules et modifier leur comportement et provoquer des accidents.

Pourtant, il n'y a pas besoin de déployer des trésors de savoir faire de hacker pour interférer avec le fonctionnement de ces véhicules.

Jonathan Petit, un expert en sécurité, l'a récemment démontré. Il a utilisé pour cela un laser de faible puissance contrôlé par un logiciel installé sur un Raspberry Pi (sa puissance suffit amplement).
Ainsi contrôlé ce laser est capable d'interférer avec le système LIDAR (des lasers invisibles) utilisé par les véhicules autonomes pour "voir" leur environnement.
Avec ce système simple et ne coûtant pas grand chose en composant, il a été capable de renvoyer de faux échos qui ont fait croire au véhicule qu'il y avait des obstacles sur son chemin, de quoi provoquer embardées ou freinage d'urgence.

C'est un nouveau problème auquel les fabricants de ces véhicules vont devoir trouver une solution pas forcément simple.
Cela rappelle surtout qu'en plus de la capacité des systèmes à prendre systématiquement les bonnes décisions, il va falloir prendre en compte la capacité d'autres personnes à interférer avec ces "intelligences artificielles".




Lien vers le billet original

[Cochonou]

Provoquer un freinage n'est pas très dangereux... ce qui le serait davantage, ce serait de réussir à empêcher la voiture autonome de voir un obstacle. Mais là, c'est beaucoup plus dur, parce que l'on imagine bien qu'elle s'arrête dès que ses capteurs sont brouillés.

[otto87]

Provoquer un freinage n'est pas très dangereux... ce qui le serait davantage, ce serait de réussir à empêcher la voiture autonome de voir un obstacle. Mais là, c'est beaucoup plus dur, parce que l'on imagine bien qu'elle s'arrête dès que ses capteurs sont brouillés.

Et comment sait t'on que le capteur est brouillé?
LOL...
C'est justement le principe de l'attaque, donner de fausses infos au capteur...

[Cochonou]

Et comment sait t'on que le capteur est brouillé?
LOL...
C'est justement le principe de l'attaque, donner de fausses infos au capteur...

L'estimation du rapport signal à bruit sur un LIDAR, ça existe pour détecter les brouillages.
Mais même si tu parles d'attaques plus élaborées qui s'apparentent plutôt au leurrage, où tu vas envoyer des signaux modulés pour tromper le détecteur, il reste difficile de rendre invisible des objets pour le LIDAR, puisqu'ils envoient toujours du signal en retour. Par contre, faire apparaitre de faux objets, c'est plus faisable.