Il est possible de tromper les détecteurs des voitures autonomes, Réactions à la publication du 07/09/2015

[Lionel]

Dans une autre brève du jour nous vous parlons de la volonté de Toyota d'aider les automobilistes à prévenir les accidents sans les déloger de leur place centrale.
La découverte d'un chercheur en sécurité montre que ce sera peut-être une étape obligatoire pendant encore un bon moment.

Ce que les sociétés qui testent ces produits craignent avant toute autre chose, c'est que quelqu'un puisse prendre à distance le contrôle de ces véhicules et modifier leur comportement et provoquer des accidents.

Pourtant, il n'y a pas besoin de déployer des trésors de savoir faire de hacker pour interférer avec le fonctionnement de ces véhicules.

Jonathan Petit, un expert en sécurité, l'a récemment démontré. Il a utilisé pour cela un laser de faible puissance contrôlé par un logiciel installé sur un Raspberry Pi (sa puissance suffit amplement).
Ainsi contrôlé ce laser est capable d'interférer avec le système LIDAR (des lasers invisibles) utilisé par les véhicules autonomes pour "voir" leur environnement.
Avec ce système simple et ne coûtant pas grand chose en composant, il a été capable de renvoyer de faux échos qui ont fait croire au véhicule qu'il y avait des obstacles sur son chemin, de quoi provoquer embardées ou freinage d'urgence.

C'est un nouveau problème auquel les fabricants de ces véhicules vont devoir trouver une solution pas forcément simple.
Cela rappelle surtout qu'en plus de la capacité des systèmes à prendre systématiquement les bonnes décisions, il va falloir prendre en compte la capacité d'autres personnes à interférer avec ces "intelligences artificielles".




Lien vers le billet original

[kiteman]

En même temps si on me fiche un laser dans les yeux pendant que je conduis il y a des chances que je me retrouve dans le fossé.

[lachoz]

En même temps si on me fiche un laser dans les yeux pendant que je conduis il y a des chances que je me retrouve dans le fossé.

Je me suis fais exactement la même réflexion, on cherche tellement à démontrer que ces systèmes ont des failles qu'on en oublie que nous en avons 4x plus.
C'est pas pour rien que les pilotes de l'air passent plus de temps en auto qu'en manuel ...

Moi je me fou au bord de la route avec un laser haute puissance et je vise tout les par-brises, je pense faire tout autant de dégâts ...
Je jette des pierres sur l'autoroute, bim très simple et très efficace
Un énorme miroir en plein soleil dans la face des gens, très simple et très efficace.

Enfin bref...

[nicogala]

En même temps si on me fiche un laser dans les yeux pendant que je conduis il y a des chances que je me retrouve dans le fossé.

Je me suis fais exactement la même réflexion, on cherche tellement à démontrer que ces systèmes ont des failles qu'on en oublie que nous en avons 4x plus.
C'est pas pour rien que les pilotes de l'air passent plus de temps en auto qu'en manuel ...

Moi je me fou au bord de la route avec un laser haute puissance et je vise tout les par-brises, je pense faire tout autant de dégâts ...
Je jette des pierres sur l'autoroute, bim très simple et très efficace
Un énorme miroir en plein soleil dans la face des gens, très simple et très efficace.

Enfin bref...

A la seule différence qu'on n'a jamais prétendu que le modèle humain était "sûr" .
Là on nous vend l'idée que les voitures autonomes seront "sûres" . Mais c'est faux.