Il est possible de tromper les détecteurs des voitures autonomes, Réactions à la publication du 07/09/2015

[Lionel]

Dans une autre brève du jour nous vous parlons de la volonté de Toyota d'aider les automobilistes à prévenir les accidents sans les déloger de leur place centrale.
La découverte d'un chercheur en sécurité montre que ce sera peut-être une étape obligatoire pendant encore un bon moment.

Ce que les sociétés qui testent ces produits craignent avant toute autre chose, c'est que quelqu'un puisse prendre à distance le contrôle de ces véhicules et modifier leur comportement et provoquer des accidents.

Pourtant, il n'y a pas besoin de déployer des trésors de savoir faire de hacker pour interférer avec le fonctionnement de ces véhicules.

Jonathan Petit, un expert en sécurité, l'a récemment démontré. Il a utilisé pour cela un laser de faible puissance contrôlé par un logiciel installé sur un Raspberry Pi (sa puissance suffit amplement).
Ainsi contrôlé ce laser est capable d'interférer avec le système LIDAR (des lasers invisibles) utilisé par les véhicules autonomes pour "voir" leur environnement.
Avec ce système simple et ne coûtant pas grand chose en composant, il a été capable de renvoyer de faux échos qui ont fait croire au véhicule qu'il y avait des obstacles sur son chemin, de quoi provoquer embardées ou freinage d'urgence.

C'est un nouveau problème auquel les fabricants de ces véhicules vont devoir trouver une solution pas forcément simple.
Cela rappelle surtout qu'en plus de la capacité des systèmes à prendre systématiquement les bonnes décisions, il va falloir prendre en compte la capacité d'autres personnes à interférer avec ces "intelligences artificielles".




Lien vers le billet original

[Cochonou]

Provoquer un freinage n'est pas très dangereux... ce qui le serait davantage, ce serait de réussir à empêcher la voiture autonome de voir un obstacle. Mais là, c'est beaucoup plus dur, parce que l'on imagine bien qu'elle s'arrête dès que ses capteurs sont brouillés.

[apenSPEL]

Je suis persuadé que les véhicules autonomes ne peuvent pas être insérés au trafic. Ils doivent rouler uniquement en site propre sous forme de rails virtuels, ou leur système autonome doit être débrayé. Et ça, ce n'est gérable que pour les transports publics, avec un chauffeur pour une masse de passager. C'est la voiture individuelle qui est obsolète, autonome ou pas.

[flan]

Provoquer un freinage n'est pas très dangereux... ce qui le serait davantage, ce serait de réussir à empêcher la voiture autonome de voir un obstacle. Mais là, c'est beaucoup plus dur, parce que l'on imagine bien qu'elle s'arrête dès que ses capteurs sont brouillés.

Essaie donc de provoquer un freinage d'urgence sur une autoroute !

[Tristan Maréchal]

En même temps, n'importe quel taré avec un pointeur laser peut s'amuser à aveugler les automobilistes et obtenir des résultats qui seront bien similaires si ce n'est pire…

Par ailleurs, AMHA, les voitures individuelles ont encore de beaux jours devant elles. Mais probablement sous la forme de bien collectifs, mutualisés comme les Autolib et potentiellement autonomes. Ce sera un véritable bienfait pour les villes. Et la génération d'urbains à venir ne passera même plus le permis de conduire devenu inutile, les taxis disparaitront, seuls resteront les grandes remises…
Quant aux transport collectifs comme les bus… ils continueront probablement à circuler les 3/4 du temps à 1/2 pleins. Mais ça, c'est une autre histoire.

Quel pied… lire un livre, mater un film, en attendant d'arriver à sa destination… sans être ennuyé par le baladeur que le crétin d'à coté à mis à fond… ça c'est un vrai progrès !

Bonne journée à tous.

[minounet]

Je suis persuadé que les véhicules autonomes ne peuvent pas être insérés au trafic. Ils doivent rouler uniquement en site propre sous forme de rails virtuels, ou leur système autonome doit être débrayé. Et ça, ce n'est gérable que pour les transports publics, avec un chauffeur pour une masse de passager. C'est la voiture individuelle qui est obsolète, autonome ou pas.

Tu connais google car ?
Sauf erreur de ma part, elles ne roulent pas sur des rails métallique, mais je peux me tromper

[Cochonou]

Essaie donc de provoquer un freinage d'urgence sur une autoroute !

C'est bien entendu dangereux mais... tout est dangereux, sur une autoroute.
On peut aussi jeter des parpaings depuis un pont, et c'est beaucoup plus efficace que d'aller viser le lidar d'une voiture qui se déplace à haute vitesse avec un laser.
Pas besoin d'attendre les voitures autonomes pour ça... d'ailleurs certains s'y sont déjà mis.

Ce message a été modifié par Cochonou - 7 Sep 2015, 07:31.

[zorphil]

Le plus gros problème qu'auront à résoudre les cybernéticiens sera donc d'imaginer toutes les façons possibles et imaginables qu'utiliseront une poignée de crétins malfaisants pour provoquer une erreur voire, "oh que c'est top fun", des victimes...
On comprend qu'on cherche des traces d'intelligence dans l'univers, ici ça manque !

Notons au passage qu'un coup de laser dans l'oeil d'un conducteur humain aura le même effet... De même qu'un tir de RPG, du savon noir sur la route, des clous dans les pneus, un jet de parpaing, etc...

[macinoe]

C'est un nouveau problème auquel les fabricants de ces véhicules vont devoir trouver une solution pas forcément simple.
Cela rappelle surtout qu'en plus de la capacité des systèmes à prendre systématiquement les bonnes décisions, il va falloir prendre en compte la capacité d'autres personnes à interférer avec ces "intelligences artificielles".

J'ai de gros doute sur la faisabilité des voitures autonomes.

Je ne pense pas que l'intelligence artificielle en soit au stade où elle puisse prendre une décision face à quelque chose d'imprévu et d'imprévisible.

Pourtant la conduite c.est souvent ça.

Des travaux qui obligent parfois à oublier le code de la route pour les contourner.
Des conducteurs avec des comportements irrationnels.
Des éboulis sur la route, des nids de poule...

Ce message a été modifié par macinoe - 7 Sep 2015, 07:38.

[zorphil]

Je suis persuadé que les véhicules autonomes ne peuvent pas être insérés au trafic. Ils doivent rouler uniquement en site propre sous forme de rails virtuels, ou leur système autonome doit être débrayé. Et ça, ce n'est gérable que pour les transports publics, avec un chauffeur pour une masse de passager. C'est la voiture individuelle qui est obsolète, autonome ou pas.

Pour augmenter le nombre de victimes par crash et ainsi faire des économies d'ambulance ?
Parce que l'agression, qu'elle vise un capteur cybernétique ou l'un des 5 sens humains, aura les mêmes conséquences...
Etant donné que tout le monde ne va pas au même endroit au même moment, je ne vois pas en quoi le véhicule individuel deviendrait subitement obsolète... Par contre les véhicules intelligents et communiquant entre eux pour mieux gérer le trafic permettront de densifier la circulation en maîtrisant les risques.
Sauf en cas de piratage massif pratiqué par un quelconque illuminé, bien sûr...

[Albatros blanc]

Déjouer la vigilance d'un automobiliste est très facile…

Par contre le véhicule autonome ou plutôt un système de pilote automatique serait une grande avancée et un gain de sécurité pour les poids lourds sur autoroute! Il suffit de compter les accidents impliquant des camions sur nos voies rapides pour se rendre compte de la nécessité d'agir! Routier est un métier pénible qui a un côté très ingrat et ennuyeux: rouler "bêtement" pendant des heures et encore des heures, potentiellement toujours derrière le même camion. Dans un contexte pareil, un pilote automatique serait un gain énorme en terme de sécurité! Alors, l'histoire du laser, c'est anecdotique, il ne faut pas jeter le bébé avec le bain…

[yponomeute]

Déjouer la vigilance d'un automobiliste est très facile…

Par contre le véhicule autonome ou plutôt un système de pilote automatique serait une grande avancée et un gain de sécurité pour les poids lourds sur autoroute! Il suffit de compter les accidents impliquant des camions sur nos voies rapides pour se rendre compte de la nécessité d'agir! Routier est un métier pénible qui a un côté très ingrat et ennuyeux: rouler "bêtement" pendant des heures et encore des heures, potentiellement toujours derrière le même camion. Dans un contexte pareil, un pilote automatique serait un gain énorme en terme de sécurité! Alors, l'histoire du laser, c'est anecdotique, il ne faut pas jeter le bébé avec le bain…

Le pilote automatique pour poids lourds existe déjà, ça s'appelle le ferroutage Il suffirait d'implanter une (ou plusieurs) gares de ferroutage par département pour qu'une bonne partie des poids lourds n'aient plus à rouler que sur des distances faibles.

[karlitomac]

Cela rappelle surtout qu'en plus de la capacité des systèmes à prendre systématiquement les bonnes décisions, il va falloir prendre en compte la capacité d'autres personnes à interférer avec ces "intelligences artificielles".

C'est tout aussi facile d'interférer avec l'intelligence humaine qui est derrière le volant (quoiqu'elle n'est pas toujours présente). Jeter un obstacle en face d'une voiture créée le même effet chez le conducteur: freinage d'urgence, pourtant les voitures avec conducteur humain existent....

[Licorne31]

(...)C'est la voiture individuelle qui est obsolète, autonome ou pas.

Alors ça, c'est bien une idée de citadin...

Quand tu habites loin des villes, il est fréquent d'avoir à faire un certain nombre (voire un nombre certain) de km avant de tomber sur un commerce, ou sur un arrêt de bus.
L'hiver, il fait froid, il pleut, il y a du vent.
Dans ces conditions, rien que pour la bouffe, soit tu as un mois de conserves d'avance (que tu t'es fait livrer à domicile, bien sûr...), soit tu te ruines en taxi, soit tu crèves de faim (ou de la pneumonie attrapée en faisant du vélo ou en attendant le bus du matin, qui ne te ramènera chez toi que le soir - hors des villes et des grands axes, tu as rarement plus de deux ou trois rotations par jour). Ce sont les seules alternatives à la voiture individuelle quand tu n'habites pas en ville.

A moins que ce soit le mode de vie rural qui soit devenu obsolète?

[kikeo]

Heureusement que le reste de la brêve est là, car on ne comprend rien aux 2 premiers paragraphes.

Dans une autre brève du jour nous vous parlons de la volonté de Toyota d'aider les automobilistes à prévenir les accidents sans les déloger de leur place centrale.

Sans déloger qui ? Les accidents ? Les automobilistes ? Qui est en place centrale ? En tous les cas qu'importe la position des automobilistes pour prévenir les accidents, non ?

La découverte d'un chercheur en sécurité montre que ce sera peut-être une étape obligatoire pendant encore un bon moment.

Qu'est-ce qui sera une étape obligatoire ? Tel que c'est écrit on dirait que c'est la découverte

Si les sociétés qui testent ces produits craignent avant toute autre chose, c'est que quelqu'un puisse prendre à distance le contrôle de ces véhicules et modifier leur comportement et provoque des accidents.

Remplacer "Si" par " Ce que"

Je comprend que les news sont écrites tôt le matin et que c'est pas toujours facile d'avoir les yeux en face des troucs, mais là ça ne veut juste rien dire.

[ManiX]

Essaie donc de provoquer un freinage d'urgence sur une autoroute !

Très facile : un mannequin déguisé en gendarme avec un radar à la main et hop ! tout le monde pile.

Les capteurs humains sont aisés à gruger, c'est d'ailleurs ce que font les autorités d'autres pays que la France avec des gendarmes factices, des radars etc.

[Fafnir]

L'article d'origine indique que le problème des farceurs pourrait être rendu marginal si le traitement des ondes est crypté, donc nécessitant une puissance de calcul importante.

Un autre obstacle est administratif lorsque la bureaucratie s'habitue aux ressources amenés par les amendes des radars flasheur.

[Lionel]

L'article d'origine indique que le problème des farceurs pourrait être rendu marginal si le traitement des ondes est crypté, donc nécessitant une puissance de calcul importante.

Un autre obstacle est administratif lorsque la bureaucratie s'habitue aux ressources amenés par les amendes des radars flasheur.

Question, est-ce que l'on pourra contester les flash réalisés par des jumelles laser en disant que les mesures ont été faussées par celles de la voiture

[SartMatt]

Il y a sans doute aussi un autre truc qui permet de tromper les voitures autonomes : leur envoyer de faux signaux GPS.
La démonstration avait déjà été faite il y a quelques temps avec le pilote automatique d'un bateau. En connaissant la destination programmée, les pirates pouvaient faire prendre n'importe quelle direction au bateau.

C'est tout aussi facile d'interférer avec l'intelligence humaine qui est derrière le volant (quoiqu'elle n'est pas toujours présente). Jeter un obstacle en face d'une voiture créée le même effet chez le conducteur: freinage d'urgence, pourtant les voitures avec conducteur humain existent....

Tout a fait. Et tant que les distances de sécurité sont respectées, ça ne pose pas particulièrement problème.

[codeX]

Question, est-ce que l'on pourra contester les flash réalisés par des jumelles laser en disant que les mesures ont été faussées par celles de la voiture

Touche pas au grisbi

[ManiX]

Tout a fait. Et tant que les distances de sécurité sont respectées, ça ne pose pas particulièrement problème.

On peut donc imaginer que les voitures autonomes, programmées pour respecter les distances de sécurité, s'en sortiront mieux que les véhicules en conduite humaine qui roulaient trop près.

Ensuite, restera à voir comment les véhicules programmés par les ingénieurs allemands se comporteront dans la circulation "à la napolitaine", avec queues de poisson, giratoires à l'envers, trajectoires improvisées etc.

[amike2]

Le plus gros problème qu'auront à résoudre les cybernéticiens sera donc d'imaginer toutes les façons possibles et imaginables qu'utiliseront une poignée de crétins malfaisants pour provoquer une erreur voire, "oh que c'est top fun", des victimes...
On comprend qu'on cherche des traces d'intelligence dans l'univers, ici ça manque !

C'est le syndrome Homer Simson, dont la malice et la bêtise arrivent à faire effondrer tout système en le poussant jusqu'à l'absurde. Ce qui fait dire à sa fille : "On ne pourra jamais avoir des trucs chouettes à la maison !".

Et j'ai bien peur qu'on tombe ici encore dans le même problème : un système imparfait se met en place, des petits malins s'amusent à le casser, et on exige d'urgence - vite et maintenant - la contre mesure absolue !

Ce message a été modifié par amike2 - 7 Sep 2015, 09:12.

[SartMatt]

Tout a fait. Et tant que les distances de sécurité sont respectées, ça ne pose pas particulièrement problème.

On peut donc imaginer que les voitures autonomes, programmées pour respecter les distances de sécurité, s'en sortiront mieux que les véhicules en conduite humaine qui roulaient trop près.

C'est fort probable. D'autant plus que si elles sont programmées pour respecter les distances de sécurité préconisées pour un conducteur humain, elles auront une marge supplémentaire, leur temps de réaction étant potentiellement bien plus court que celui de l'humain, à fortiori si elles se mettent à communiquer entre elles. Mais elles pourraient aussi être programmées pour tirer parti de ce délai plus court en réduisant les distances de sécurité, avec tous les avantages que ça peut induire (réduction de la consommation, densification du trafic...).

[macinoe]

Tout a fait. Et tant que les distances de sécurité sont respectées, ça ne pose pas particulièrement problème.

On peut donc imaginer que les voitures autonomes, programmées pour respecter les distances de sécurité, s'en sortiront mieux que les véhicules en conduite humaine qui roulaient trop près.

Ensuite, restera à voir comment les véhicules programmés par les ingénieurs allemands se comporteront dans la circulation "à la napolitaine", avec queues de poisson, giratoires à l'envers, trajectoires improvisées etc.

Rien que le rond point de la place de l'étoile serait un test intéressant.
Ca m'étonnerait que l'intelligence artificielle arrive un jour à interpréter toutes les subtilités.
Comme par exemple estimer l'état d'une autre voiture pour savoir si le conducteur s'en fout ou pas d'aller au contact.

[Jack the best]

Heureusement que le reste de la brêve est là, car on ne comprend rien aux 2 premiers paragraphes.
[…] Je comprends que les news sont écrites tôt le matin et que c'est pas toujours facile d'avoir les yeux en face des troucs, mais là ça ne veut juste rien dire.

Là, c'est écrit à 9h 15 ! Et ça n'est pas mieux !


Une question me taraude : si plusieurs voitures autonomes sont proches les unes des autres, les lasers ne vont-ils pas créer des "interférences" (ou ce qui en tient lieu) entre elles, provoquant ainsi la même pagaille que si des petits "malins" cherchent à provoquer des accidents ?

[Guest_Claude-1300_*]

Il y a sans doute aussi un autre truc qui permet de tromper les voitures autonomes : leur envoyer de faux signaux GPS.
La démonstration avait déjà été faite il y a quelques temps avec le pilote automatique d'un bateau. En connaissant la destination programmée, les pirates pouvaient faire prendre n'importe quelle direction au bateau.

Exact, c'est ce qu'on appelle le "spoofing".
Mais les solutions existent, et sont appliquées dans les signaux du futur "GPS européen", Galileo, qui commencera ses activités dans quelques mois.
Le récepteur est muni d'une vérification d'intégrité lui assurant que le signal reçu a bien été émis par une source" legit".

Enfin, c'est un peu plus complexe en réalité, mais c'est le principe.

[pao2]

Je voudrais voir comment réagit une voiture autonome dans un carrefour complexe, avec des lignes de trams, des refuges piétons, des pistes cyclables, le tout de nuit, sous la pluie. Avec plein d'autres voitures, des piétons et un ou 2 trams.

Par exemple ici:
46.198144, 6.142338

Des lignes de trams qui croisent, des zones de trams réservées (au fond), un carrefour pas terrible, des passages piétons, des refuges et des barrières, ainsi que lorsqu'on tourne à gauche, les voitures se retrouvent avec les 2 voies de trames (les 2 sens) sur sa droite.



J'ai déjà vu des automobilistes se retrouver sur la ligne réservée au tram, face au tram ... ça fait désordre!

Donc je n'arrive pas a imaginer comment pourrait se comporter une voiture autonome, en se basant uniquement avec des caméras et des radars.
Je doute aussi que les trajets soient facilités par le GPS. Il y a toujours des travaux, des changements dans les voies ou les sens de circulation. Des modifications dans les refuges piétons, ...

A mon avis, les voitures autonomes pourront l'être sur des routes plutôt dégagées, bien signalisées, mais pas dans des situations complexe de nos villes.

Ce message a été modifié par pao2 - 7 Sep 2015, 10:06.

[ManiX]

Le récepteur est muni d'une vérification d'intégrité lui assurant que le signal reçu a bien été émis par une source" legit".

D'ici à ce que des mecs forcent un serveur et volent les certificats des satellites...

[otto87]

Provoquer un freinage n'est pas très dangereux... ce qui le serait davantage, ce serait de réussir à empêcher la voiture autonome de voir un obstacle. Mais là, c'est beaucoup plus dur, parce que l'on imagine bien qu'elle s'arrête dès que ses capteurs sont brouillés.

Et comment sait t'on que le capteur est brouillé?
LOL...
C'est justement le principe de l'attaque, donner de fausses infos au capteur...

[pao2]

Ou ici: 46.187510, 6.125041
La voiture bleu, doit suivre la voiture rouge.
La voie par légèrement sur la droite. On a très vite fait de continuer tout droit et se retrouver sur la voie réservée au tram!



Il y a différentes présélections, celle de gauche est sur la voie de tram puis la quitte. Il y a des marquages temporaire pour cause de travaux (CEVA), des lignes de tram qui tournent juste un peu avant car il y a une boucle pour un terminus de tram. La piste cyclable à droite traverse le tout et va tout droit, ...

Bonne chance à la voiture autonome!

Ce message a été modifié par pao2 - 7 Sep 2015, 10:05.