Il est possible de tromper les détecteurs des voitures autonomes, Réactions à la publication du 07/09/2015

[Lionel]

Dans une autre brève du jour nous vous parlons de la volonté de Toyota d'aider les automobilistes à prévenir les accidents sans les déloger de leur place centrale.
La découverte d'un chercheur en sécurité montre que ce sera peut-être une étape obligatoire pendant encore un bon moment.

Ce que les sociétés qui testent ces produits craignent avant toute autre chose, c'est que quelqu'un puisse prendre à distance le contrôle de ces véhicules et modifier leur comportement et provoquer des accidents.

Pourtant, il n'y a pas besoin de déployer des trésors de savoir faire de hacker pour interférer avec le fonctionnement de ces véhicules.

Jonathan Petit, un expert en sécurité, l'a récemment démontré. Il a utilisé pour cela un laser de faible puissance contrôlé par un logiciel installé sur un Raspberry Pi (sa puissance suffit amplement).
Ainsi contrôlé ce laser est capable d'interférer avec le système LIDAR (des lasers invisibles) utilisé par les véhicules autonomes pour "voir" leur environnement.
Avec ce système simple et ne coûtant pas grand chose en composant, il a été capable de renvoyer de faux échos qui ont fait croire au véhicule qu'il y avait des obstacles sur son chemin, de quoi provoquer embardées ou freinage d'urgence.

C'est un nouveau problème auquel les fabricants de ces véhicules vont devoir trouver une solution pas forcément simple.
Cela rappelle surtout qu'en plus de la capacité des systèmes à prendre systématiquement les bonnes décisions, il va falloir prendre en compte la capacité d'autres personnes à interférer avec ces "intelligences artificielles".




Lien vers le billet original

[karlitomac]

Cela rappelle surtout qu'en plus de la capacité des systèmes à prendre systématiquement les bonnes décisions, il va falloir prendre en compte la capacité d'autres personnes à interférer avec ces "intelligences artificielles".

C'est tout aussi facile d'interférer avec l'intelligence humaine qui est derrière le volant (quoiqu'elle n'est pas toujours présente). Jeter un obstacle en face d'une voiture créée le même effet chez le conducteur: freinage d'urgence, pourtant les voitures avec conducteur humain existent....

[SartMatt]

Il y a sans doute aussi un autre truc qui permet de tromper les voitures autonomes : leur envoyer de faux signaux GPS.
La démonstration avait déjà été faite il y a quelques temps avec le pilote automatique d'un bateau. En connaissant la destination programmée, les pirates pouvaient faire prendre n'importe quelle direction au bateau.

C'est tout aussi facile d'interférer avec l'intelligence humaine qui est derrière le volant (quoiqu'elle n'est pas toujours présente). Jeter un obstacle en face d'une voiture créée le même effet chez le conducteur: freinage d'urgence, pourtant les voitures avec conducteur humain existent....

Tout a fait. Et tant que les distances de sécurité sont respectées, ça ne pose pas particulièrement problème.

[Guest_Claude-1300_*]

Il y a sans doute aussi un autre truc qui permet de tromper les voitures autonomes : leur envoyer de faux signaux GPS.
La démonstration avait déjà été faite il y a quelques temps avec le pilote automatique d'un bateau. En connaissant la destination programmée, les pirates pouvaient faire prendre n'importe quelle direction au bateau.

Exact, c'est ce qu'on appelle le "spoofing".
Mais les solutions existent, et sont appliquées dans les signaux du futur "GPS européen", Galileo, qui commencera ses activités dans quelques mois.
Le récepteur est muni d'une vérification d'intégrité lui assurant que le signal reçu a bien été émis par une source" legit".

Enfin, c'est un peu plus complexe en réalité, mais c'est le principe.

[ManiX]

Le récepteur est muni d'une vérification d'intégrité lui assurant que le signal reçu a bien été émis par une source" legit".

D'ici à ce que des mecs forcent un serveur et volent les certificats des satellites...

[Guest_Claude-1300_*]

Le récepteur est muni d'une vérification d'intégrité lui assurant que le signal reçu a bien été émis par une source" legit".

D'ici à ce que des mecs forcent un serveur et volent les certificats des satellites...

pas impossible dans la théorie, mais le cas de figure est prévu.
Je n'en dirai pas plus

[nicogala]

Le récepteur est muni d'une vérification d'intégrité lui assurant que le signal reçu a bien été émis par une source" legit".

D'ici à ce que des mecs forcent un serveur et volent les certificats des satellites...

pas impossible dans la théorie, mais le cas de figure est prévu.
Je n'en dirai pas plus

Bah, ce ne sera qu'une question de temps, si c'est stimulant pour le faire (et ça l'est) ça sera fait.
Je sais pas s'il y a bcp de mesures de sécurité qui sont restées inviolées...

Sinon, je me demande si une simple machine à bulles de savon ne suffirait pas à créer un obstacle virtuel… non ? (enfin, le nuage de bulles hein, pas la machine elle-même )