Il est possible de tromper les détecteurs des voitures autonomes, Réactions à la publication du 07/09/2015

[Lionel]

Dans une autre brève du jour nous vous parlons de la volonté de Toyota d'aider les automobilistes à prévenir les accidents sans les déloger de leur place centrale.
La découverte d'un chercheur en sécurité montre que ce sera peut-être une étape obligatoire pendant encore un bon moment.

Ce que les sociétés qui testent ces produits craignent avant toute autre chose, c'est que quelqu'un puisse prendre à distance le contrôle de ces véhicules et modifier leur comportement et provoquer des accidents.

Pourtant, il n'y a pas besoin de déployer des trésors de savoir faire de hacker pour interférer avec le fonctionnement de ces véhicules.

Jonathan Petit, un expert en sécurité, l'a récemment démontré. Il a utilisé pour cela un laser de faible puissance contrôlé par un logiciel installé sur un Raspberry Pi (sa puissance suffit amplement).
Ainsi contrôlé ce laser est capable d'interférer avec le système LIDAR (des lasers invisibles) utilisé par les véhicules autonomes pour "voir" leur environnement.
Avec ce système simple et ne coûtant pas grand chose en composant, il a été capable de renvoyer de faux échos qui ont fait croire au véhicule qu'il y avait des obstacles sur son chemin, de quoi provoquer embardées ou freinage d'urgence.

C'est un nouveau problème auquel les fabricants de ces véhicules vont devoir trouver une solution pas forcément simple.
Cela rappelle surtout qu'en plus de la capacité des systèmes à prendre systématiquement les bonnes décisions, il va falloir prendre en compte la capacité d'autres personnes à interférer avec ces "intelligences artificielles".




Lien vers le billet original

[pao2]

Ou ici: 46.187510, 6.125041
La voiture bleu, doit suivre la voiture rouge.
La voie par légèrement sur la droite. On a très vite fait de continuer tout droit et se retrouver sur la voie réservée au tram!



Il y a différentes présélections, celle de gauche est sur la voie de tram puis la quitte. Il y a des marquages temporaire pour cause de travaux (CEVA), des lignes de tram qui tournent juste un peu avant car il y a une boucle pour un terminus de tram. La piste cyclable à droite traverse le tout et va tout droit, ...

Bonne chance à la voiture autonome!

Ce message a été modifié par pao2 - 7 Sep 2015, 10:05.

[GregWar]

Bonne chance à la voiture autonome!

Ouais, je dis pas que c'est dans 5 ans, mais franchement, c'est pas super impressionnant non plus.
Une voiture ça doit réagir en environ 1/2 seconde, c'est une éternité pour un CPU dédié.

Franchement on fait des pilotes automatiques dément dans l'aviation, avec à mon avis largement autant de variables que "attention y a le tram, et en plus la route elle croise".

Parfois il suffit de ne pas penser comme un humain, et ne pas chercher à reproduire notre comportement, pour faire des automates puissants.
Par exemple, un ordinateur ne calcule pas comme nous, pas de retenues, pas de division à reste, etc…

Vu les enjeux économiques… a mon avis on va y arriver.

[Oliv333]

Franchement on fait des pilotes automatiques dément dans l'aviation

Ils ne sont utilisés qu'en vol, jamais au décollage, et encore moins à l'atterissage

Mais clairement, le rôle du pilote est amené à devenir de plus en plus un rôle de simple superviseur, qui ne prend la main qu'en de très rares situations extrêmes (déjà actuellement, c'est un peu le cas, il me semble avoir lu il y a quelques temps que sur un vol transatlantique, il n'y a que quelques minutes qui ne sont pas encore automatisées, et elles sont en passe de l'être...).

J'ai un pote commandant de bord sur moyen courrier c'est pas du tout ce qu'il dit.
Si ça fonctionnait de façon suffisamment fiable, tous les low-costs se jetteraient sur cette opportunité.

Faire atterrir un avion de ligne avec 300 passagers à bord nécessite bien plus que des compétences de "superviseur"

[SartMatt]

Mais clairement, le rôle du pilote est amené à devenir de plus en plus un rôle de simple superviseur, qui ne prend la main qu'en de très rares situations extrêmes (déjà actuellement, c'est un peu le cas, il me semble avoir lu il y a quelques temps que sur un vol transatlantique, il n'y a que quelques minutes qui ne sont pas encore automatisées, et elles sont en passe de l'être...).

J'ai un pote commandant de bord sur moyen courrier c'est pas du tout ce qu'il dit.
Si ça fonctionnait de façon suffisamment fiable, tous les low-costs se jetteraient sur cette opportunité.

Faire atterrir un avion de ligne avec 300 passagers à bord nécessite bien plus que des compétences de "superviseur"

J'ai retrouvé l'article dont je parlais. Science & Vie n°1173.

Pour les avions de ligne :
- au décollage : "Dans cette phase délicate, les pilotes sont aux commandes"
- en vol de croisière : "Quelques secondes après le décollage, le pilote automatique peut être enclenché [...] Le pilote supervise, communique avec le sol et reprend les commandes si besoin."
- à l'atterrissage : "Les avions modernes sont capables d'atterrir en mode automatique. Mais seulement dans les grands aéroports équipés du système ILS [...] Beaucoup de pilotes opèrent encore en manuel..."

Donc en gros, aujourd'hui, en dehors des imprévus, ce serait essentiellement le décollage qui pose problème pour l'automatisation, tout le reste est déjà automatisé, même si les pilotes semblent préférer le manuel pour atterrissage même sur un aéroport équipé... L'article indique même que dans certaines zones de trafic dense, le pilotage automatique est obligatoire...

Et pour l'automatisation complète à venir, l'article cite trois exemples :
- un robot coréen "humanoïde" qui peut s'installer dans n'importe quel cockpit,
- un Jetstream (19 places) autonome sur lequel BAE Systems fait actuellement des tests en vol,
- les drones militaires qui aujourd'hui sont même capables de décoller d'un porte-avion et d'apponter de façon entièrement automatique.

L'idée à terme ne serait pas d'éliminer complètement le pilote, mais de ne le faire intervenir que dans les situations anormales, et en sélectionnant au préalable les informations qui lui seront données pour tenter de remédier à la situation (pour ne pas le noyer dans un flot d'informations trop complexe à exploiter).

[Oliv333]

Pour les avions de ligne :
- au décollage : "Dans cette phase délicate, les pilotes sont aux commandes"
- en vol de croisière : "Quelques secondes après le décollage, le pilote automatique peut être enclenché [...] Le pilote supervise, communique avec le sol et reprend les commandes si besoin."
- à l'atterrissage : "Les avions modernes sont capables d'atterrir en mode automatique. Mais seulement dans les grands aéroports équipés du système ILS [...] Beaucoup de pilotes opèrent encore en manuel..."

Ça n'a visiblement pas été écrit par un pilote : c'est beaucoup plus facile de décoller un avion que de le faire atterrir. Ensuite bah, je ne cherche pas systématiquement à avoir raison, mais entre "être capable" de faire quelque chose, qui plus est en protocole expérimental sous étroite surveillance, et le pratiquer au quotidien en 100% error free il y a un gouffre ! (ou une montagne, au choix)

[xav_mtx]

Pour les avions de ligne :
- au décollage : "Dans cette phase délicate, les pilotes sont aux commandes"
- en vol de croisière : "Quelques secondes après le décollage, le pilote automatique peut être enclenché [...] Le pilote supervise, communique avec le sol et reprend les commandes si besoin."
- à l'atterrissage : "Les avions modernes sont capables d'atterrir en mode automatique. Mais seulement dans les grands aéroports équipés du système ILS [...] Beaucoup de pilotes opèrent encore en manuel..."

Ça n'a visiblement pas été écrit par un pilote : c'est beaucoup plus facile de décoller un avion que de le faire atterrir. Ensuite bah, je ne cherche pas systématiquement à avoir raison, mais entre "être capable" de faire quelque chose, qui plus est en protocole expérimental sous étroite surveillance, et le pratiquer au quotidien en 100% error free il y a un gouffre ! (ou une montagne, au choix)

J'allais aussi parler de cet article tres interessant de science et vie.
Si mes souvenirs sont bons, le decollage est considere comme la phase la plus critique car elle ne tolere absolument pas de perte de puissance ou de portance, meme temporaire, contrairement a toutes les autres phases. Et necessite des actions radicales et souvent inedites de la part du pilote (ce qui est a peu pres impossible a rentrer dans un ordi pour le moment). Je pense que c'est pour ca que c'est la derniere chose que les pilotes auto commerciaux ne font pas.

Si je me souviens bien de cet article, ils disent que le seul truc qu'ils n'arrivent pas du tout a automatiser c'est... aiguilleur du ciel. Pour le reste on est pas tres loin de le voir arriver sur les vols commerciaux.
L'idee derriere tout cela, ce n'est pas de remplacer les pilotes, mais de distraire le moins possible le pilote pour qu'il se concentre sur les taches "importantes" afin d'ameliorer la securite.