Il est possible de tromper les détecteurs des voitures autonomes, Réactions à la publication du 07/09/2015

[Lionel]

Dans une autre brève du jour nous vous parlons de la volonté de Toyota d'aider les automobilistes à prévenir les accidents sans les déloger de leur place centrale.
La découverte d'un chercheur en sécurité montre que ce sera peut-être une étape obligatoire pendant encore un bon moment.

Ce que les sociétés qui testent ces produits craignent avant toute autre chose, c'est que quelqu'un puisse prendre à distance le contrôle de ces véhicules et modifier leur comportement et provoquer des accidents.

Pourtant, il n'y a pas besoin de déployer des trésors de savoir faire de hacker pour interférer avec le fonctionnement de ces véhicules.

Jonathan Petit, un expert en sécurité, l'a récemment démontré. Il a utilisé pour cela un laser de faible puissance contrôlé par un logiciel installé sur un Raspberry Pi (sa puissance suffit amplement).
Ainsi contrôlé ce laser est capable d'interférer avec le système LIDAR (des lasers invisibles) utilisé par les véhicules autonomes pour "voir" leur environnement.
Avec ce système simple et ne coûtant pas grand chose en composant, il a été capable de renvoyer de faux échos qui ont fait croire au véhicule qu'il y avait des obstacles sur son chemin, de quoi provoquer embardées ou freinage d'urgence.

C'est un nouveau problème auquel les fabricants de ces véhicules vont devoir trouver une solution pas forcément simple.
Cela rappelle surtout qu'en plus de la capacité des systèmes à prendre systématiquement les bonnes décisions, il va falloir prendre en compte la capacité d'autres personnes à interférer avec ces "intelligences artificielles".




Lien vers le billet original

[zorphil]

Le plus gros problème qu'auront à résoudre les cybernéticiens sera donc d'imaginer toutes les façons possibles et imaginables qu'utiliseront une poignée de crétins malfaisants pour provoquer une erreur voire, "oh que c'est top fun", des victimes...
On comprend qu'on cherche des traces d'intelligence dans l'univers, ici ça manque !

Notons au passage qu'un coup de laser dans l'oeil d'un conducteur humain aura le même effet... De même qu'un tir de RPG, du savon noir sur la route, des clous dans les pneus, un jet de parpaing, etc...

[amike2]

Le plus gros problème qu'auront à résoudre les cybernéticiens sera donc d'imaginer toutes les façons possibles et imaginables qu'utiliseront une poignée de crétins malfaisants pour provoquer une erreur voire, "oh que c'est top fun", des victimes...
On comprend qu'on cherche des traces d'intelligence dans l'univers, ici ça manque !

C'est le syndrome Homer Simson, dont la malice et la bêtise arrivent à faire effondrer tout système en le poussant jusqu'à l'absurde. Ce qui fait dire à sa fille : "On ne pourra jamais avoir des trucs chouettes à la maison !".

Et j'ai bien peur qu'on tombe ici encore dans le même problème : un système imparfait se met en place, des petits malins s'amusent à le casser, et on exige d'urgence - vite et maintenant - la contre mesure absolue !

Ce message a été modifié par amike2 - 7 Sep 2015, 09:12.