Une Google Car responsable d'un accident, Réactions à la publication du 01/03/2016

[Lionel]

Si durant les centaines de milliers de kilomètres parcourus, elles avaient déjà été victimes d'accidents, les Google Car avaient toujours été reconnues comme non responsables, la faute en revenant aux humains des autres véhicules impliqués.
Pour la première fois hier, une Google Car a été responsable d'une collision, heureusement sans victime et de peu de gravité.
Le véhicule, suite à l'évitement d'un obstacle sur la route, a dévié de sa trajectoire et s'est fait rentrer dedans par un bus lors de la reprise de sa file de conduite.
Visiblement, le bus n'a pas ralenti et a embouti la voiture de Google.

Google reconnaît la faute de sa voiture et donc de ses algorithmes dans cet accident même si la société explique qu'il aurait pu être évité si le bus avait ralenti.

Si l'accident est sans aucune gravité, c'est un tremblement de terre dans le monde des véhicules autonomes. Il va non seulement semer le doute de l'opinion sur leur fiabilité mais forcer tous les constructeurs à redoubler d'efforts pour rendre leurs voitures encore plus intelligentes et surtout à revoir de fond en comble le code qui les dirigent.

Lien vers le billet original

[apenSPEL]

Pfff… Le propre d'un accident, c'est de ne pas avoir été prévu. Sinon ce ne serait pas un accident.

[2012]

....
Si l'accident est sans aucune gravité, c'est un tremblement de terre dans le monde des véhicules autonomes. Il va non seulement semer le doute de l'opinions sur leur fiabilité mais forcer tous les constructeurs à redoubler d'efforts pour rendre leurs voitures encore plus intelligentes et surtout à revoir de fond en comble le code qui les dirigent.

Une Google Car devra-t-elle parfois choisir de sacrifier ses passagers?

[cadfael]

C'est évident que les algorythmes ne sont pas encore au point et que la conduite automatique peut-être responsables d'accidents (ce qui ne la condamne pas forcément). Les éditeurs de logiciels sont incapable de sortir un truc, même simple sans bug, je ne vois pas pourquoi il en serait autrement dans un cas de figure beaucoup plus complexe.

Par contre, je ne savais pas que les google car (les trucs qui prennent des photo ?) étaient autonomes... !?

[jt_69.V]

....
Si l'accident est sans aucune gravité, c'est un tremblement de terre dans le monde des véhicules autonomes. Il va non seulement semer le doute de l'opinions sur leur fiabilité mais forcer tous les constructeurs à redoubler d'efforts pour rendre leurs voitures encore plus intelligentes et surtout à revoir de fond en comble le code qui les dirigent.

Une Google Car devra-t-elle parfois choisir de sacrifier ses passagers?

Pour éviter par exemple de provoquer la chute d'un car d'écoliers dans un ravin ?

[2012]

C'est évident que les algorythmes ne sont pas encore au point et que la conduite automatique peut-être responsables d'accidents (ce qui ne la condamne pas forcément). Les éditeurs de logiciels sont incapable de sortir un truc, même simple sans bug, je ne vois pas pourquoi il en serait autrement dans un cas de figure beaucoup plus complexe.

Par contre, je ne savais pas que les google car (les trucs qui prennent des photo ?) étaient autonomes... !?

Non , rien à voir avec les voitures qui prennent les photos, c'est un autre projet : celui des voitures autonomes de Google.

....
Si l'accident est sans aucune gravité, c'est un tremblement de terre dans le monde des véhicules autonomes. Il va non seulement semer le doute de l'opinions sur leur fiabilité mais forcer tous les constructeurs à redoubler d'efforts pour rendre leurs voitures encore plus intelligentes et surtout à revoir de fond en comble le code qui les dirigent.

Une Google Car devra-t-elle parfois choisir de sacrifier ses passagers?

Pour éviter par exemple de provoquer la chute d'un car d'écoliers dans un ravin ?

Par exemple...

[bilboa]

C'est un peu debile l'appat au click.
Un humain serait sans doute rentre dans l'obstacle ou le bus.

La grande difference entre la voiture google et l'humain, c'est que s'il y a la moindre chance que la voiture sans sorte et/ou predise l'accident, l'erreur n'arrivera plus, une fois corrige, c'est corrige.
L'humain lui par contre, continuera de faire les memes erreurs.

La pluspart de gens se rendent compte de ca de nous jours.

[edenyorke]

Il faudrait surtout comparer le nombre d'accident par kilomètre parcouru entre une voiture autonome et des conducteurs humains.
Ce qui est sur c'est qu'une google car ne prendra jamais la route avec 3 grammes et qu'elle n'enverra pas une famille entière à la morgue suite à cette phrase mythique : "T'inquiète j'peux conduire... "

Ce message a été modifié par edenyorke - 1 Mar 2016, 09:20.

[Montréal]

Parce qu'il y a des neuneux qui croient qu'on verra des véhicules autonomes en libre circulation ???

[djdoxy]

aurait pu être évité si le bus avait ralenti.

De ce que j'en vois dans les films, les américains ne ralentissent jamais. Ils se contentent de klaxonner!

[DCI Gene Hunt]

Parce qu'il y a des neuneux qui croient qu'on verra des véhicules autonomes en libre circulation ???

Il y en a déjà...

https://www.teslamotors.com/blog/your-autopilot-has-arrived

Au delà de ça la question a du sens : plus de taxis (level megatroll ), plus de radars de vitesse donc plus de rentrée d'argent pour l'Etat et tout un modèle économique à revoir, plus de primes d'assurances... non j'déconne , plus vraiment de sens de propriété du véhicule... Beaucoup de choses peuvent changer.

[SartMatt]

Parce qu'il y a des neuneux qui croient qu'on verra des véhicules autonomes en libre circulation ???

C'est absolument certain que ça arrivera à relativement court terme (je parie sur moins de dix ans pour les premiers modèles 100% autonomes commerciaux... certains constructeurs parlent même de moins de cinq ans), tant les avantages sont nombreux une fois que ces véhicules seront largement déployés, en termes de gestion du trafic, d'accidentologie, d'emprise de la voiture sur le sol (ça permet d'avoir moins de voitures en facilitant l'auto-partage, ça permet d'augmenter la densité de circulation sur les routes en réduisant les distances de sécurité grâce à la communication entre les voitures, ça permet de resserrer les parkings puisqu'il n'y a plus besoin d'ouvrir les portes après avoir garé la voiture), d'économies d'énergie, etc...

C'est d'ailleurs déjà le cas, la plupart des constructeurs travaillant sur des véhicules autonome ont obtenu des autorisations pour faire circuler leurs prototypes sur le réseau routier public, et certaines voitures de série sont déjà partiellement autonomes (sur autoroute, pour le stationnement, etc...). Et ils ne seraient pas aussi nombreux à travailler sur ce créneau s'il y avait le moindre doute sur la possibilité d'exploitation commerciale.

Bien sûr, il y aura dans un premier temps des contraintes (obligation d'avoir à bord un humain titulaire du permis de conduire et prêt à prendre les commandes), mais à terme on peut s'attendre à ce que ces contraintes s'assouplissent, voir disparaissent complètement.

[zorphil]

Je ne pense pas qu'il s'agisse d'un tremblement de terre...
C'est un accident dont l'origine est à la fois le comportement de la Google-car et celui du chauffeur du bus.
Tant que des humains et des machines partageront les mêmes voies de circulation, ce risque persistera car les comportements humains ne sont pas toujours logiques, prévisibles ou répondant aux mêmes prescriptions que celles encodées dans le robot.

En fait, il faut se réjouir d'un tel (mini)-événement car c'est ainsi qu'on apprend et que le système s'améliore... Bien plus qu'en n'étant jamais confronté à aucun problème.

[Sethy]

La voiture autonome, je n'y crois pas. A moins bien sûr de la faire rouler dans un environnement dédié et duquel, les piétons et autres usagers faibles ont été exclus.

Vous êtes au volant de votre voiture, le feux passe au rouge mais un agent de police vous intime l'ordre de passer. Même scène avec un homme habillé en bleu sur le passage clouté et qui fait des signes à la voiture qui vous suit dans la file.

Vous êtes au volant de votre voiture et vous voyer un objet blanc, au ras du sol, qui fait son apparition entre deux voitures garées sur la chaussée dans le sens contraire au votre. Si c'est un sac plastique, vous ne ferez rien. Si c'est un ballon qui roule ... j'espère que vous vous demanderez où est l'enfant.

Expliquez-moi, comment un programme peut faire la différence dans ces deux situations ?

Et je ne parle pas de théorie, je vous parle de gens capables de :
- sortir une mise à jour qui va "malencontreusement" désactiver la connexion réseau
- faire un changement qui génère un code d'erreur 53 si vous avez été changé le pneu, oups le bouton, chez un autre concessionnaire.

[sergio_bzh]

Parce qu'il y a des neuneux qui croient qu'on verra des véhicules autonomes en libre circulation ???

ben oui ... il y a bien des neuneux qui croient qu'on n'en verra pas ...

[DCI Gene Hunt]

La voiture autonome, je n'y crois pas. A moins bien sûr de la faire rouler dans un environnement dédié et duquel, les piétons et autres usagers faibles ont été exclus.

Vous êtes au volant de votre voiture, le feux passe au rouge mais un agent de police vous intime l'ordre de passer. Même scène avec un homme habillé en bleu sur le passage clouté et qui fait des signes à la voiture qui vous suit dans la file.

Vous êtes au volant de votre voiture et vous voyer un objet blanc, au ras du sol, qui fait son apparition entre deux voitures garées sur la chaussée dans le sens contraire au votre. Si c'est un sac plastique, vous ne ferez rien. Si c'est un ballon qui roule ... j'espère que vous vous demanderez où est l'enfant.

Expliquez-moi, comment un programme peut faire la différence dans ces deux situations ?

Simple, en ayant les algorithme appropriés. Ce qui est décrit n'est qu'une série de situations que la voiture doit avoir apprise avant de circuler.

Et je ne parle pas de théorie, je vous parle de gens capables de :
- sortir une mise à jour qui va "malencontreusement" désactiver la connexion réseau
- faire un changement qui génère un code d'erreur 53 si vous avez été changé le pneu, oups le bouton, chez un autre concessionnaire.

Avec les voitures autonomes il y aura des accidents, il y aura des morts, il y aura des tragédies... Mais il y aura quand même des voitures autonomes parce qu'il y aura moins d'accidents, moins de morts, moins de tragédies que sans voitures autonomes.
Vanitas vanitatis et semper vanitas....

[castor74]

Evidemment qu'on y viendra, et sans doute bien plus tôt que l'on pense. Je m'en réjouis. Plus d'énervements au volant parce que trop de connards ont oublié que le clignotant existe, plus de crise de nerfs aux ronds-points parce que personne ne sait s'en servir, plus de crises de rage parce que celui de devant roule à 40 à l'heure téléphone vissé à l'oreille, bref, les situations sont très nombreuses où la route sera bien plus agréable qu'aujourd'hui. Quant aux accidents dus aux mômes qui jouent au ballon sur les routes, ben il y en aura sans doute toujours...

[Twisell]

Pour la première fois hier, une Google Car a été responsable d'une collision, heureusement sans victime et de peu de gravité.
(...)
Google reconnaît la faute de sa voiture et donc de ses algorithmes dans cet accident même si la société explique qu'il aurait pu être évité si le bus avait ralenti.

Bwahaha j'adore la justification on est responsable mais c'est quand même un peu la faute du bus... genre...

D'après reuters, la Google Car s'est déportée pour éviter un sac de sable sur la chaussée et a donc heurté le bus lors de la réinsertion... Comme dit plus haut ça pose la question des algorithme de décisions quand plusieurs options sont possibles (voir le Dilemme du tramway ou toutes les oeuvres fictionelle d'asimov sur les robots .

Tant que l’algorithme n'arrivera pas à comprendre qu'il vaut mieux freiner et abimer ses suspensions que de rentrer dans un bus public, malgré ses imperfections l'humain n'est finalement peut-être pas si mal...

EDIT: Correction d'un gros foirage de balises.

Ce message a été modifié par Twisell - 1 Mar 2016, 10:24.

[scoub_rosnoen]

Vraiment, pour que les voitures autonomes soient bien acceptées du public, il faudrait déjà que les éditeurs de logiciels fassent un effort sur la correction de bugs et le contrôle qualité de leurs logiciels.
Hier il y avait la news "Si vous avez perdu votre port Ethernet récemment". Imaginez la même "Si vous avez perdu votre circuit de freinage récemment" avec la petite bidouille dans le terminal pour rétablir les freins de la voiture

[SartMatt]

Expliquez-moi, comment un programme peut faire la différence dans ces deux situations ?

J'ai l'impression que tu ne te rends pas compte des capacités des algorithmes d'analyse d'image... On en a encore eu un bel exemple récemment, avec un algorithme de Google qui arrive à battre des humains au jeu GeoGuessr (qui consiste à essayer de placer des photos sur une carte du monde), avec une erreur moyenne de l'ordre de 1000km contre 2000km pour le testeur humain.

Voilà également des exemples de descriptif de photos générés par un algorithme : http://blog.nordnet.com/wp-content/uploads.../11/google1.png

Déjà sur une image statique, il n'est probablement pas bien difficile pour un algorithme de faire la différence entre un ballon et un sac plastique ou entre un policier et un homme habillé en bleu. Et sur une image dynamique, c'est encore plus facile (la cinématique d'un sac en plastique n'est pas du tout la même que celle d'un ballon...).

De plus, alors que le champ de vision du conducteur humain est très restreint et ne va voir dans un premier temps que le ballon, le champ de vision de la voiture autonome est à 360°, ne se limite pas à la lumière visible, et voit même à travers certains obstacles... Au moment où le conducteur humain est encore en train de se demander quel est cet objet blanc sur la route, la voiture autonome aura déjà repéré le gamin (en fait, elle l'aura même probablement même déjà repéré avant qu'il ne lâche son ballon...) et pourra le surveiller, sans pour autant perdre de vue le reste de l'environnement, alors que toi, pendant que tu vas chercher où est le gamin qui a lâché le ballon qui venait de la gauche, tu vas peut-être rater l'ado qui arrive par la droite avec les yeux rivés sur son téléphone et qui va oublier de s'arrêter au passage piéton...

[almux]

Pas un "tremblement de terre", mais un réajustement salutaire ressortira de cette expérience sur le terrain. Rien ne vaut l'expérimentation dans la réalité de tous les jours.
Par ailleurs, cela peut même être un argument sécuritaire exploitable par les promoteurs de véhicules auto-guidés: "Voyez, si le bus avait eu le même système de détection que notre véhicule, il n'y aurait même pas eu de touchette!".
Je pense que la plus grande barrière à franchir est celle des habitudes. Il est plus facile de "se sentir en sécurité" en risquant sa vie en tenant le volant avec sa dose d'inconscience, voire de témérité inappropriée, que de lâcher prise et faire confiance à la technologie. C'est une affaire générationnelle. D'ici quelques années, les nouvelles générations auront sur-développé leur soumission inconditionnelle au confort. Si notre civilisation devait perdurer, plus rien ne sera entre les mains de personne. Le Cloud, la sécurité domotique, les transports (plus ou moins) en commun, tout cela sera contrôlé d'ailleurs, au plus grand plaisir des consommateurs compulsifs que nous serons tous devenus.

@StartMatt
"…l'ado qui arrive par la droite avec les yeux rivés sur son téléphone et qui va oublier de s'arrêter au passage piéton..."
Heu! S'cuses, mais, aux passages piétons, ce sont les voitures qui doivent s'arrêter… du moins dans les pays civilisés…

Ce message a été modifié par almux - 1 Mar 2016, 10:35.

[Twisell]

(...)Déjà sur une image statique, il n'est probablement pas bien difficile pour un algorithme de faire la différence entre un ballon et un sac plastique ou entre un policier et un homme habillé en bleu. Et sur une image dynamique, c'est encore plus facile (la cinématique d'un sac en plastique n'est pas du tout la même que celle d'un ballon...).(...)

Je te renvoi à cette image d'XKCD


Si tu à des arguments sur pourquoi c'est facile ok. Mais "probablement" ce n'est pas une réponse suffisante. Il est facile d'identifier des formes simples ou des structures régulière avec du machine learning. Mais ça repose principalement sur de l'entrainement à partir d'une base d'exemples, or le monde réel propose lui des variations potentiellement illimitées que le cerveau arrive à conceptualiser pour l'instant plus vite que n'importe quelle machine (c'est le principe même sur lequel repose reCAPTCHA). Va passer une ordonnance de médecin à un algorithme d'OCR... fou rire garanti...

Il y a des labo de recherches dédiés à l'identification automatiques des objets tirées des photos satelittes, c'est de la 2D et devine quoi il cherchent encore.... Il est bien plus facile par exemple de réaliser un modèle 3D de la surface terrestre, mais dès que que tu veux passer d'une donnée observé à des concepts il y a un palier de complexité énorme à franchir et à ma connaissance c'est un domaine de recherche qui est encore en plein démarrage (démarrage très rapide certes tant les enjeux sont pressants).

Ce message a été modifié par Twisell - 1 Mar 2016, 10:44.

[PO_]

excellent, SartMatt, je n'aurais pas dis mieux.

Je trouve d'ailleurs très impressionnant que ce soit le premier accident imputable à une google car ...

Le vrai test de ces google car, ce serait de le faire sur les routes indiennes. J'ai vu un reportage là dessus, franchement ça fout la trouille : Camions s'arrêtant sur la voie d'une "autoroute", pour changer une roue, mecs roulant à contresens sur la dite "autoroute", ... sans parler de la circulation dans les villes ...

[2012]

PlaNet ( réseau neuronal artificiel )
https://www.technologyreview.com/s/600889/g...tion-of-almost/
http://arxiv.org/abs/1602.05314

[sinbad21]

Toutes ces fautes d'inattention que font les conducteurs humains tous les jours, et qui peuvent avoir des conséquences désastreuses, seront évitées avec les voitures autonomes. Rien qu'avec ça l'accidentologie va baisser sensiblement. On n'aura aucun mal à chiffrer ça, vu le nombre de statistiques qu'on nous pond quotidiennement sur les accidents.

[SartMatt]

"…l'ado qui arrive par la droite avec les yeux rivés sur son téléphone et qui va oublier de s'arrêter au passage piéton..."
Heu! S'cuses, mais, aux passages piétons, ce sont les voitures qui doivent s'arrêter… du moins dans les pays civilisés…

Déjà, ça dépend s'il y a un feu ou non.
Ensuite, dans un pays civilisé, les piétons le sont aussi... Perso si je vois une voiture qui arrive, je vais pas forcer le passage sous prétexte que je suis prioritaire (d'ailleurs, je ne le suis qu'une fois que j'ai mis le pied sur la chaussée, pas avant), je ne passe que si j'estime que la voiture roule déjà suffisamment lentement pour que son arrêt ne soit pas un problème (voir qu'elle n'ait pas besoin de s'arrêter).

[Twisell]

PlaNet
https://www.technologyreview.com/s/600889/g...tion-of-almost/
http://arxiv.org/abs/1602.05314

C'est bien ce que je dit pour une forme simple ou tu as des milliers échantillons d’exemples comme la tour Eiffel, aucun soucis.
Pour le fjord l'algorithme hésite déjà entre la Norvège et la Nouvelle Zélande. Plus de probabilité pour la Nouvelle Zélande et pas de grosses conséquences en cas d'erreur.

Mais c'est pareil face à un sac de sable, la voiture autonome (actuelle) hésitera entre sac de sable et un humain allongée sur la chaussée...
Le vrai dilemme c'est le seuil de décision, mettons que l’algorithme estime à 60% que c'est un sac de sable et à 40% que c'est un humain... Et ce qu'elle roule dessus?
Ou est-ce qu'elle fait un écart au risque de se taper un autre véhicule sur une autre voie?

Ce message a été modifié par Twisell - 1 Mar 2016, 10:59.

[azulseco]

Bien sur qu'un jour (hélas), ça arrivera.
Les avions de ligne sont déjà en mode quasiment automatique. Mais il y a moins de trafic (que sur le périf) et de surprises que sur une route, et il y a des contrôleurs aérien.

Il n’empêche que l'on s'aperçoit (enfin) des limites du truc :
- Une machine, c'est con (je veux dire par là, qu'une machine n'apprends rien, elle fait ce qu'on lui dit de faire. Un humain apprend tout au long de sa vie, c'est pour ça, en l'occurrence, qu'il y a moins d'accident chez les plus de 50 ans que chez les moins de 25 ans).
- Une machine, c'est potentiellement buggé

[SartMatt]

Si tu à des arguments sur pourquoi c'est facile ok. Mais "probablement" ce n'est pas une réponse suffisante. Il est facile d'identifier des formes simples ou des structures régulière avec du machine learning.

Regarde ce que fait Google sur ses algorithmes de reconnaissance d'image, les résultats sont impressionnants (y compris quand tu lui soumet toi même une image, dans Google Image, alors que l'algo utilisé là est sans doute encore en retard par rapport à ce qu'ils ont en labo).

Mais ça repose principalement sur de l'entrainement à partir d'une base d'exemples, or le monde réel propose lui des variations potentiellement illimitées que le cerveau arrive à conceptualiser pour l'instant plus vite que n'importe quelle machine (c'est le principe même sur lequel repose reCAPTCHA). Va passer une ordonnance de médecin à un algorithme d'OCR... fou rire garanti...

C'est pas faux. Mais je suis pas sûr que ces exemples extrêmes se produisent très souvent dans le cas de la conduite. D'autant qu'il est possible d'implémenter la chose de façon prudente : ralentir face à tout élément non reconnu.

[WipeOut]

Une voiture roule sur un pont, un enfant traverse ce fameux pont. Le seul choix pour sauver l'enfant c'est de quitter le pont. Google Car va choisir quelle option de sacrifice ? Tuer l'enfant ? Tuer les occupants de la voiture ?