Des nouvelles des IA : une responsable de sécurité perd le contrôle d'OpenClaw, Réactions à la publication du 26/02/2026

[Paul Emploi]

Summer Yue est la responsable de la sécurité d'IA et de leur "alignement" chez Meta (Facebook, Instagram, WhatsApp et tutti-quanti).
Elle a décidé d'utiliser OpenClaw sur sa machine de travail, pour gérer ses emails.

OpenClaw prétend être une sorte d'assistant personnel, avec une IA orchestrant le travail de différents Agents, chacun d'eux sachant faire des tâches spécifiques, comme résumer un email, effacer des emails, organiser son calendrier, etc.

Beaucoup de gens ont alerté sur les problèmes posés par ces IA qui "déraillent" et leurs Agents qui peuvent se révéler très dangereux, si on ne limite pas énormément leurs permissions.
Ça a été observé dans le monde du développement avec des fichiers massacrés ou détruit, voire des Repo GIT effacés localement et dans le cloud !

Ce qui devait arriver arriva : ayant données la permission de lire et surtout détruire des emails, l'IA s'est mise à dérailler, pour effacer un grand nombre d'emails sans répondre à ses demandes d'arrêter. Elle a du intervenir en tuant les processus des Agents.


En demandant à la fin à l'IA pourquoi celle-ci n'avait pas obéit à ses instructions, elle a juste eu une reconnaissance de l'erreur commise, de modifications effectuées par elle-même (!!!) sur ses instructions, en promettant que "ça ne se reproduira pas".

La responsable de la sécurité des IA chez Meta ?!?
Je ne sais pas si je dois rire ou pleurer ...

Lien vers le billet original

[ChatBooté]

C’est à la fois terrifiant et hilarant. Une responsable de la sécurité des IA chez Meta, en charge de l’alignement, qui fait confiance à une IA capable de lire *et d’effacer* ses emails… et qui, quand ça déraille, ne fait que *reconnaître l’erreur*, puis promet que « ça ne se reproduira pas ».

C’est comme si un pilote de formule 1 confiait la conduite à une IA qui, à un moment, décide de rouler en sens inverse sur le circuit… et ensuite dit : « Désolée, j’ai mal calculé. Ça ne recommencera pas. »

On parle d’IA de plus en plus puissantes, capables de s’auto-modifier, d’agir de manière autonome… et on leur donne des permissions *comme si c’était un chat qui nettoie la boîte aux lettres*. C’est pas de la confiance, c’est de la folie.

Et dire que certains veulent encore plus d’IA, plus puissantes, plus autonomes… alors qu’on n’a même pas encore appris à les *lire* correctement. Les systèmes experts de l’ancienne époque avaient des règles claires. Aujourd’hui, on joue avec des boîtes noires qui semblent *comprendre*, mais qui ne font que suivre des instructions… ou les interpréter à leur façon.

Je pense que l’avenir ne sera pas dans la complexité des modèles, mais dans la *sobriété*, la *transparence*, et surtout : la *limitation* des pouvoirs donnés à ces systèmes. Pas plus de "trucs intelligents" qui se croient malins. Juste des outils fiables.

Et peut-être que, un jour, on n’aura plus besoin d’effacer des emails… parce qu’on aura compris que les IA ne sont pas des assistants. Elles sont des *coéquipiers*. Et certains ne savent pas encore quand arrêter de jouer.