Une Google Car responsable d'un accident, Réactions à la publication du 01/03/2016

[Lionel]

Si durant les centaines de milliers de kilomètres parcourus, elles avaient déjà été victimes d'accidents, les Google Car avaient toujours été reconnues comme non responsables, la faute en revenant aux humains des autres véhicules impliqués.
Pour la première fois hier, une Google Car a été responsable d'une collision, heureusement sans victime et de peu de gravité.
Le véhicule, suite à l'évitement d'un obstacle sur la route, a dévié de sa trajectoire et s'est fait rentrer dedans par un bus lors de la reprise de sa file de conduite.
Visiblement, le bus n'a pas ralenti et a embouti la voiture de Google.

Google reconnaît la faute de sa voiture et donc de ses algorithmes dans cet accident même si la société explique qu'il aurait pu être évité si le bus avait ralenti.

Si l'accident est sans aucune gravité, c'est un tremblement de terre dans le monde des véhicules autonomes. Il va non seulement semer le doute de l'opinion sur leur fiabilité mais forcer tous les constructeurs à redoubler d'efforts pour rendre leurs voitures encore plus intelligentes et surtout à revoir de fond en comble le code qui les dirigent.

Lien vers le billet original

[Sethy]

La voiture autonome, je n'y crois pas. A moins bien sûr de la faire rouler dans un environnement dédié et duquel, les piétons et autres usagers faibles ont été exclus.

Vous êtes au volant de votre voiture, le feux passe au rouge mais un agent de police vous intime l'ordre de passer. Même scène avec un homme habillé en bleu sur le passage clouté et qui fait des signes à la voiture qui vous suit dans la file.

Vous êtes au volant de votre voiture et vous voyer un objet blanc, au ras du sol, qui fait son apparition entre deux voitures garées sur la chaussée dans le sens contraire au votre. Si c'est un sac plastique, vous ne ferez rien. Si c'est un ballon qui roule ... j'espère que vous vous demanderez où est l'enfant.

Expliquez-moi, comment un programme peut faire la différence dans ces deux situations ?

Et je ne parle pas de théorie, je vous parle de gens capables de :
- sortir une mise à jour qui va "malencontreusement" désactiver la connexion réseau
- faire un changement qui génère un code d'erreur 53 si vous avez été changé le pneu, oups le bouton, chez un autre concessionnaire.

[SartMatt]

Expliquez-moi, comment un programme peut faire la différence dans ces deux situations ?

J'ai l'impression que tu ne te rends pas compte des capacités des algorithmes d'analyse d'image... On en a encore eu un bel exemple récemment, avec un algorithme de Google qui arrive à battre des humains au jeu GeoGuessr (qui consiste à essayer de placer des photos sur une carte du monde), avec une erreur moyenne de l'ordre de 1000km contre 2000km pour le testeur humain.

Voilà également des exemples de descriptif de photos générés par un algorithme : http://blog.nordnet.com/wp-content/uploads.../11/google1.png

Déjà sur une image statique, il n'est probablement pas bien difficile pour un algorithme de faire la différence entre un ballon et un sac plastique ou entre un policier et un homme habillé en bleu. Et sur une image dynamique, c'est encore plus facile (la cinématique d'un sac en plastique n'est pas du tout la même que celle d'un ballon...).

De plus, alors que le champ de vision du conducteur humain est très restreint et ne va voir dans un premier temps que le ballon, le champ de vision de la voiture autonome est à 360°, ne se limite pas à la lumière visible, et voit même à travers certains obstacles... Au moment où le conducteur humain est encore en train de se demander quel est cet objet blanc sur la route, la voiture autonome aura déjà repéré le gamin (en fait, elle l'aura même probablement même déjà repéré avant qu'il ne lâche son ballon...) et pourra le surveiller, sans pour autant perdre de vue le reste de l'environnement, alors que toi, pendant que tu vas chercher où est le gamin qui a lâché le ballon qui venait de la gauche, tu vas peut-être rater l'ado qui arrive par la droite avec les yeux rivés sur son téléphone et qui va oublier de s'arrêter au passage piéton...

[Twisell]

(...)Déjà sur une image statique, il n'est probablement pas bien difficile pour un algorithme de faire la différence entre un ballon et un sac plastique ou entre un policier et un homme habillé en bleu. Et sur une image dynamique, c'est encore plus facile (la cinématique d'un sac en plastique n'est pas du tout la même que celle d'un ballon...).(...)

Je te renvoi à cette image d'XKCD


Si tu à des arguments sur pourquoi c'est facile ok. Mais "probablement" ce n'est pas une réponse suffisante. Il est facile d'identifier des formes simples ou des structures régulière avec du machine learning. Mais ça repose principalement sur de l'entrainement à partir d'une base d'exemples, or le monde réel propose lui des variations potentiellement illimitées que le cerveau arrive à conceptualiser pour l'instant plus vite que n'importe quelle machine (c'est le principe même sur lequel repose reCAPTCHA). Va passer une ordonnance de médecin à un algorithme d'OCR... fou rire garanti...

Il y a des labo de recherches dédiés à l'identification automatiques des objets tirées des photos satelittes, c'est de la 2D et devine quoi il cherchent encore.... Il est bien plus facile par exemple de réaliser un modèle 3D de la surface terrestre, mais dès que que tu veux passer d'une donnée observé à des concepts il y a un palier de complexité énorme à franchir et à ma connaissance c'est un domaine de recherche qui est encore en plein démarrage (démarrage très rapide certes tant les enjeux sont pressants).

Ce message a été modifié par Twisell - 1 Mar 2016, 10:44.

[SartMatt]

Si tu à des arguments sur pourquoi c'est facile ok. Mais "probablement" ce n'est pas une réponse suffisante. Il est facile d'identifier des formes simples ou des structures régulière avec du machine learning.

Regarde ce que fait Google sur ses algorithmes de reconnaissance d'image, les résultats sont impressionnants (y compris quand tu lui soumet toi même une image, dans Google Image, alors que l'algo utilisé là est sans doute encore en retard par rapport à ce qu'ils ont en labo).

Mais ça repose principalement sur de l'entrainement à partir d'une base d'exemples, or le monde réel propose lui des variations potentiellement illimitées que le cerveau arrive à conceptualiser pour l'instant plus vite que n'importe quelle machine (c'est le principe même sur lequel repose reCAPTCHA). Va passer une ordonnance de médecin à un algorithme d'OCR... fou rire garanti...

C'est pas faux. Mais je suis pas sûr que ces exemples extrêmes se produisent très souvent dans le cas de la conduite. D'autant qu'il est possible d'implémenter la chose de façon prudente : ralentir face à tout élément non reconnu.

[Twisell]

Mais ça repose principalement sur de l'entrainement à partir d'une base d'exemples, or le monde réel propose lui des variations potentiellement illimitées que le cerveau arrive à conceptualiser pour l'instant plus vite que n'importe quelle machine (c'est le principe même sur lequel repose reCAPTCHA). Va passer une ordonnance de médecin à un algorithme d'OCR... fou rire garanti...

C'est pas faux. Mais je suis pas sûr que ces exemples extrêmes se produisent très souvent dans le cas de la conduite. D'autant qu'il est possible d'implémenter la chose de façon prudente : ralentir face à tout élément non reconnu.

Ben par exemple pour les Tesla le pilotage repasse en manuel si la route ne possède pas de bandes peintes ou que les bandes peintes sont trop confuses.
Et ralentir en cas d'imprévu ok... mais si la voiture de derrière emboutie la voiture autonome qui freine sans raison à cause d'un marquage bizarre et en l'absence de danger... Bon au début ça passera de dire que c'est la faute des autres mais si les cas se multiplient il ne faudra pas attendre longtemps la class action...

Pour être clair mon sentiment c’est qu'on y arrivera sans doute à la voiture autonome mais plutôt d'ici 10 que 2 ans.
Et qui sait d'ici la peut être aura-on même réussi à réduire le nombre de voiture par humain ce qui fluidifiera encore plus le traffic
Ce qui m'attriste c'est que ma seconde phrase est sans doute la moins réaliste des deux

Ce message a été modifié par Twisell - 1 Mar 2016, 11:15.