Des nouvelles des IA : une responsable de sécurité perd le contrôle d'OpenClaw, Réactions à la publication du 26/02/2026

[Paul Emploi]

Summer Yue est la responsable de la sécurité d'IA et de leur "alignement" chez Meta (Facebook, Instagram, WhatsApp et tutti-quanti).
Elle a décidé d'utiliser OpenClaw sur sa machine de travail, pour gérer ses emails.

OpenClaw prétend être une sorte d'assistant personnel, avec une IA orchestrant le travail de différents Agents, chacun d'eux sachant faire des tâches spécifiques, comme résumer un email, effacer des emails, organiser son calendrier, etc.

Beaucoup de gens ont alerté sur les problèmes posés par ces IA qui "déraillent" et leurs Agents qui peuvent se révéler très dangereux, si on ne limite pas énormément leurs permissions.
Ça a été observé dans le monde du développement avec des fichiers massacrés ou détruit, voire des Repo GIT effacés localement et dans le cloud !

Ce qui devait arriver arriva : ayant données la permission de lire et surtout détruire des emails, l'IA s'est mise à dérailler, pour effacer un grand nombre d'emails sans répondre à ses demandes d'arrêter. Elle a du intervenir en tuant les processus des Agents.


En demandant à la fin à l'IA pourquoi celle-ci n'avait pas obéit à ses instructions, elle a juste eu une reconnaissance de l'erreur commise, de modifications effectuées par elle-même (!!!) sur ses instructions, en promettant que "ça ne se reproduira pas".

La responsable de la sécurité des IA chez Meta ?!?
Je ne sais pas si je dois rire ou pleurer ...

Lien vers le billet original

[Mac Arthur]

Le plus énervant est que quand l'IA se plante, en codage de macro Excel ou de script Python, par exemple, et que vous lui faites remarquer, elle vous répond invariablement "vous avez raison, c'est de ma faute, bla bla", et ça peut durer 1 heure.
Et pendant ce temps j'imagine que le contenu de votre disque dur pourrait mimer la commande "rm" du terminal,
Heureusement, pour mes affaires personnelles, je suis encore assez grand pour les gérer tout seul…

[steph_run]

Le plus énervant est que quand l'IA se plante, en codage de macro Excel ou de script Python, par exemple, et que vous lui faites remarquer, elle vous répond invariablement "vous avez raison, c'est de ma faute, bla bla", et ça peut durer 1 heure.

Cela dit, en XL.VBA (qui a contribué à me nourrir durant 30 ans) elle ne se plante pas beaucoup. Pas plus tard que cette semaine mes vieux neurones chauffaient lamentablement depuis plusieurs heures sur une structure à 7 boucles imbriquées qui prenait l'eau de toutes parts lorsque j'ai fini par refiler le bébé à Claude Sonnet 4.6 qui a réglé le, pardon -les-, bugs (assez retords) en.... 6 secondes chrono, et s'est permise de me souffler une autre façon de faire bien plus élégante mais ô combien plus complexe à tracer pour un cerveau humain.
S'en est suivi une conversation technico-philosophique sur ses capacités et l'avenir des nouvelles générations humaines de "forçats du code", ou, avec lucidité et beaucoup d'empathie, elle me fit comprendre en substance que le surf et la plongée sous marine étaient des activités passionnantes aussi....

Ce message a été modifié par steph_run - 27 Feb 2026, 06:02.