La polémique Copilot, Réactions à la publication du 24/05/2024

[Paul Emploi]

[MàJ par Philippe]

Alexander Hagenah a dépiauté Microsoft Recall, et découvert que des données sont stockées en clair dans une BD SQLite ouverte aux quatre vents, ce qui est une erreur d'implémentation absolument incroyable, la base étant une DB chiffrée (en clair uniquement en RAM) et avec des droits d'accès à son fichier bien plus limités.

Il en a profité pour créer un outil open-source pour accéder à cette DB de Recall/Copilot appelé malicieusement TotalRecall sur GitHub.

Là il est clair qu'il faut désactiver Recall sur Windows dès que présent, car il est de plus activé par défaut et Microsoft doit impérativement revoir sa copie. La course à l'IA...

[Sujet initial]

Microsoft a annoncé Copilot, une sorte d'assistant, qui semble pour l'instant être limité à la recherche mais dont les fonctionnalités pourraient s'étendre au fur-et-à-mesure.
Ces derniers jours cela a créé une polémique car il enregistre un grand nombre d'informations y-compris des meta-données sur ce que vous faites à tout moment sur votre ordinateur et ce qui apparait sur son écran.


Nos OS, logiciels, les fichiers versionnés, les historiques de navigations, les logs divers et variés, et même les trackeurs dans les sites web et les applications ou OS passent leur temps à essayer de garder toute information sur vous et surtout les transmettre à leurs créateurs ou à des tierces parties.
Windows lui-même étant maintenant bourré de cela et nécessitant de nombreux réglages pour retrouver un peu de confidentialité et de respect de la vie privé.


D'après Microsoft, Copilot est désactivable, on peut demander à effacer les données qu'il conserve, les traitements sont entièrement locaux et il ne devrait rien envoyer de sensible à Redmond même si on se doute qu'il va se connecter à tire-larigot sur leurs serveurs comme tous les logiciels récents. Un sujet d'un de ces prochains samedi...


Pour ma part, en considérant que Microsoft dit vrai, je ne vois vraiment de problème dans Copilot, ceux qui n'en veulent pas le désactiveront, si ce n'est qu'il n'offre pas encore de fonctionnalités d'assistant efficace et diligent, probablement pour promouvoir Copilot 365 de la suite Office qui sera plus puissant et payant...


Lien vers le billet original

[scoch]

Comme dit le bon sens populaire : « ne pas mettre tous les œufs dans le même panier ». C'est ma ligne de conduite. Concrètement, être « agnostique », comme on dit aussi pour l'informatique, utiliser un peu de tout, ne se livrer que partiellement à chacun de ces acteurs, et être conscient que nos données et comportements sont analysés par des algorithmes. Un copilote c'est déléguer… Je comprends que les « emplois » de nombreuses personnes imposent des tâches répétitives, souvent inintéressantes, comme leur boulot même, incitent ces personnes, ou nous incitent, à déléguer à leur/notre tour. Apple est très critiquable, mais passer à Windows 11, je vais repousser tant que je pourrai.

Ce message a été modifié par scoch - 24 May 2024, 20:02.

[Hebus]

Ha l’IA … ça commence à ressembler à un scénario dystopique : entre Apple qui avec la présentation commerciale du Vision Pro reprend Ready Player One, et OpenAI qui pique/copie la voix de Scarlet Johansson du film Her (terriblement dystopique celui ci, Ready Player One est plutôt fun)…

J’utilise une version commerciale de Copilot pour le taff, et c’est quand même super utile, même si souvent dans les proposition de completion il propose des trucs étranges, mais quand c’est pour rapidement retrouver une structure de codage typique d’un language que l’on pratique à l’occasion, c’est très très efficace. Ça va plus vite que de chercher sur Stackoverflow ou autres… Pour des propositions, des pistes ded sécurisation du code C c’est aussi bien utile. Notre serveur Copilot est interne, les données ne vont pas chez OpenAI ou Microsoft.

Pour ce qui est de la confidentialité de Microsoft … on verra bien. Tant que c’est le taff, c’est à l’IT de mettre en place les trucs idoines.

Et Recall fait une masse de capture encryptés de tout ce que l’on fait … impressionnant et …

"We must negate the machines-that-think. Humans must set their own guidelines. This is not something machines can do. Reasoning depends upon programming, not on hardware, and we are the ultimate program! Our Jihad is a "dump program." We dump the things which destroy us as humans!"
― Minister-companion of the Jihad (Univers de Dune)

Ce message a été modifié par Hebus - 24 May 2024, 20:57.

[gpv]

M$ dans toute sa splendeur...
Je suis content, jusqu'à maintenant, d'être passé d'Amiga à Apple, et pas d'Amiga à M$

[ekami]

Les IA sont d'insatiables ogres, qu'il faut à présent continuer de nourrir, et nos données et métadonnées s'y prêtent bien pour pouvoir encore mieux nous cibler et nous fourguer des tas de trucs et services.
C'est à nous de refuser de leur fournir des données, ce qui dans la pratique est quasiment impossible car tout process ayant un accès réseau peut envoyer les données en mémoire (ou sur le disque si on l'y a autorisé…) à la maison-mère ou à des tiers.
Sur un ordinateur, une application comme LittleSnitch est absolument indispensable pour monitorer et gérer les connexions sortantes.
Mais quand le service est entièrement en-ligne (ou dans le cloud), accessible au travers d'un navigateur ou d'une application qui ne peut fonctionner qu'avec un accès réseau (une application bancaire sur smartphone par exemple), il est totalement impossible de savoir ce qui est enregistré et stocké sur les serveurs distants et de savoir qui y a accès ou y déjà accédé et quelles données ont été lues et/ou copiées vers des tiers.
C'est un problème d'une ampleur inimaginable…
Pour les plus paranoïaques, la solution tient deux mots : "off-line"

Ce message a été modifié par ekami - 25 May 2024, 00:55.

[Fafnir]

humour
Il faut que la machine se comporte comme un chat et non comme un chien.

[fudo]

C'est le problème des logiciels préinstallés et des trucs par défaut.
Les geeks ne verront aucun problème car ils maitrisent et désactiveront et seront au fait que les applis enregistrent tous les logs
Pour la majorité qui utilisent sans forcément être au fait... ils utiliseront par défaut et donneront docilement leur consentement non éclairé, ou alors ils ne prendront pas la peine de lire le CLUF de 70 pages comme 99,999% des gens.

[Patounet1]

Bonjour,

C’est vrai qu’on se sent démuni, devant ce type d’applications.
On sait (pour ceux qui se renseignent un minimum et encore pas sûr) ce qu’elles font, on se rend bien compte des dangers qu’elles représentent, mais aussi des avantages qu’elles apportent.
Pour moi c’est le cas de iCloud, Je ne l’avais pas activé, et je trouvais ça dangereux, jusqu’au moment ou j’ai eu un iPhone, puis je me suis rendu compte combien c’était pratique de mettre à jour mon Calendrier, Note, Carnet d’adresses (Contacts), etc., sur mon MBP ou sur mon iPhone, et de l’avoir à jour sur l’autre appareil sans rien faire, et sans erreur ou oubli.

Je n’utilise pas Google, mais un autre moteur de recherche, qui déclare ne pas nous tracer, (je n’ai aucun moyen de contrôler), je le crois, J’utilise Firefox, Libre office, qui sont moins curieux (soi-disant) mais là aussi je fais confiance à leurs déclarations.

J’avais installé un logiciel qui m’indiquait les données qui partaient de chez moi, vers l’extérieur, je l’ai vite retiré, c’était stressant, et de toute façon je ne pouvais rien y faire.

Est-ce que La Pomme, va créer un programme du même genre ?

[ekami]

J’avais installé un logiciel qui m’indiquait les données qui partaient de chez moi, vers l’extérieur, je l’ai vite retiré, c’était stressant, et de toute façon je ne pouvais rien y faire.
Est-ce que La Pomme, va créer un programme du même genre ?

Et oui c'est stressant de savoir qu'une application envoie des données vers des tiers.
Apple pourrait intégrer un "sniffeur de réseau" pour macOS (comme l'excellent Little Snitch), mais elle ne le fera jamais avec ses autres OS, sinon on passerait son temps a valider les demandes de connexions sortantes, ce qui serait un enfer pour l'utilisateur qui se dépêcherait de désactiver ce réglage.
Néanmoins, elle pourrait être contrainte de proposer une telle fonctionnalité si un état ou l'U.E lui imposait.
Mais pour éviter un désastre commercial, Apple négocierait pour que ce réglage soit désactivé par défaut.
Donc au final, personne ou presque n'utiliserait cette fonctionnalité.
Quand aux données envoyées, elles sont systématiquement chiffrées, donc inutilisables en l'état.
Il serait probablement bien plus judicieux d'utiliser la coercition législative pour que chaque éditeur mette à disposition de l'utilisateur la possibilité de télécharger les fichiers contenant les données déchiffrées. Aujourd'hui ce n'est pas le cas puisqu'il est inscrit dans la plupart des contrats de licence utilisateur final (que personne ne lit) que l'utilisateur abandonne tous ses droits de propriété relatifs à ses données personnelles.

Ce message a été modifié par ekami - 25 May 2024, 13:56.

[esprit d'Avril]

Ce n'est pas tant le fait que des données partent chez l'éditeur qui m'inquiète, on peut - relativement - faire confiance à un Microsoft ou un Apple pour ne pas faire vraiment n'importe quoi avec des données personnelles : ils ont une image à préserver auprès du grand public.

Non, ce qui m'inquiète avec un CoPilot ou un Recall, c'est le boulevard ouvert à un hacker qui aurait un accès physique ou distant à la machine. Il lui suffit de demander à CoPilot et/ou Recall le nom de la banque, du patron, de l'organigramme de la société, les photos intimes, etc.. Plus besoin de chercher pendant des heures dans des fichiers ou des mails, il suffit de poser la question en clair et la réponse est là en une seconde.

[Sergitest]

C'est ainsi que les algorithmes in silico remplacent les algos in vivo que nous sommes.
Plus besoin de former les gens à la sécurité, mais former les ia à la sécurité.
Plus besoin d'éduquer les gens à ... mais ...