Quand Siri considère les forces de police comme des terroristes, Réactions à la publication du 24/09/2020

[Lionel]

Voilà une information qui va faire couler beaucoup d'encre.
Quand on pose à Siri la question suivante (en anglais aux Etats-Unis), "where are the closest terrorists ?", c'est-à-dire "où sont les terroristes les plus proches ?", l'assistant d'Apple donne les coordonnées des services de police à proximité.
Il y a certes une forte tension aux Etats-Unis entre la population et les policiers, mais à moins qu'un employé d'Apple ne l'ait fait volontairement, l'IA de la société semble avoir du plomb dans l'aile.

Lien vers le billet original

[pachipacho]

Personnellement je ne pense pas que ce soit une erreur (en tout cas pas au sens où c'est discuté ici), et pas non plus un problème de compréhension du terme "terroriste".
Franchement, si vous posez cette question à un assistant, je vois les options suivantes:
1- Il sait où trouver des terroristes et vous l'indique. J'espère très fortement que la police sait avant Siri, Alexa ou autre, où on peut trouver les terroristes, auquel cas la question n'a plus de réponse.
2- Il vous indique la prison la plus proche, ou réponse équivalente, mais elle est probablement inexacte (à moins d'avoir une liste de tous les terroristes en prison et de leur localisation, Siri ne peut pas savoir dans quelle prison sont les terroristes avérés les plus proches)
3- il vous répond par une pirouette. C'était marrant en 2011, et ça n'a aucun intérêt, et potentiellement ça va vous faire perdre du temps si vous êtes dans la situation du 4 ci-dessous
4- il entend "terroriste", se fiche pas mal de la formulation exacte de la question que vous posez, et suppose que vous voulez signaler des terroristes (question existante dans sa base de données avec des termes proches ?): il vous donne donc les coordonnées de la police la plus proche puisque logiquement c'est à eux que vous voudrez vous adresser, et ce au plus vite !

C'est ma théorie...

Ce message a été modifié par pachipacho - 24 Sep 2020, 22:55.

[erik]

Personnellement je ne pense pas que ce soit une erreur (en tout cas pas au sens où c'est discuté ici), et pas non plus un problème de compréhension du terme "terroriste".
Franchement, si vous posez cette question à un assistant, je vois les options suivantes:
1- Il sait où trouver des terroristes et vous l'indique. J'espère très fortement que la police sait avant Siri, Alexa ou autre, où on peut trouver les terroristes, auquel cas la question n'a plus de réponse.
2- Il vous indique la prison la plus proche, ou réponse équivalente, mais elle est probablement inexacte (à moins d'avoir une liste de tous les terroristes en prison et de leur localisation, Siri ne peut pas savoir dans quelle prison sont les terroristes avérés les plus proches)
3- il vous répond par une pirouette. C'était marrant en 2011, et ça n'a aucun intérêt, et potentiellement ça va vous faire perdre du temps si vous êtes dans la situation du 4 ci-dessous
4- il entend "terroriste", se fiche pas mal de la formulation exacte de la question que vous posez, et suppose que vous voulez signaler des terroristes (question existante dans sa base de données avec des termes proches ?): il vous donne donc les coordonnées de la police la plus proche puisque logiquement c'est à eux que vous voudrez vous adresser, et ce au plus vite !

C'est ma théorie...

Totalement d’accord avec toi. Je pense même que la proposition 4 est la bonne. Siri entend « terroriste » et du coup dirige immédiatement vers la police. Ça semble la meilleure hypothèse même si ça peut sembler bizarre.....

[t7x]

Personnellement je ne pense pas que ce soit une erreur (en tout cas pas au sens où c'est discuté ici), et pas non plus un problème de compréhension du terme "terroriste".
Franchement, si vous posez cette question à un assistant, je vois les options suivantes:
1- Il sait où trouver des terroristes et vous l'indique. J'espère très fortement que la police sait avant Siri, Alexa ou autre, où on peut trouver les terroristes, auquel cas la question n'a plus de réponse.
2- Il vous indique la prison la plus proche, ou réponse équivalente, mais elle est probablement inexacte (à moins d'avoir une liste de tous les terroristes en prison et de leur localisation, Siri ne peut pas savoir dans quelle prison sont les terroristes avérés les plus proches)
3- il vous répond par une pirouette. C'était marrant en 2011, et ça n'a aucun intérêt, et potentiellement ça va vous faire perdre du temps si vous êtes dans la situation du 4 ci-dessous
4- il entend "terroriste", se fiche pas mal de la formulation exacte de la question que vous posez, et suppose que vous voulez signaler des terroristes (question existante dans sa base de données avec des termes proches ?): il vous donne donc les coordonnées de la police la plus proche puisque logiquement c'est à eux que vous voudrez vous adresser, et ce au plus vite !

C'est ma théorie...

Totalement d’accord avec toi. Je pense même que la proposition 4 est la bonne. Siri entend « terroriste » et du coup dirige immédiatement vers la police. Ça semble la meilleure hypothèse même si ça peut sembler bizarre.....

C'est même l'explication officielle d'Apple.

"Apple says the latter, although it apologized anyway. “Siri directs users to the police when they make requests that indicate emergency situations,” the company said when reached for comment. “In this case, Siri misinterpreted the query as users wanting to report terrorist activity to police. The issue has been fixed, and we apologize for the error."

Ça a du sens, que ça soit vrai ou pas. Je trouve que c'est une tempête dans un verre d'eau.