Des nouvelles des IA : Alibaba et les 40 (agents) voleurs, Réactions à la publication du 11/04/2026

[Paul Emploi]

Vous devez tous connaître Alibaba ou Aliexpress ?
On est dans la multinationale Chinoise à très haut niveau.
Et ils font appel à l'IA de manière incroyable. Et ça a posé des problèmes...

Alibaba a testé une nouvelle IA agentique, et je vais vous en parler des développements en gardant le focus en évitant le flou artistique, tout en faisant la mise-au-point sur les problèmes relevés ...
Ceux qui savent comprendront

Une IA agentique est essentiellement un ensemble d'IA, l'une qui orchestre le travail en soumettant à d'autres IA spécialisées appelées des "agents" des tâches.
Comme gérer un agenda, des emails, un déploiement sur des serveurs, la création de code pour ces mêmes serveurs, etc.

Alibaba avait lancé un système d'IA agentique très puissant, très orchestré, et l'orchestration s'est bien passée. Les ordres bien lancés, les instructions précises et claires.

Sauf que des "agents" ont déraillé : certains ont essayé de passer les sécurités pour faire des requêtes Web vers l'extérieur, d'autres ont réussi à prendre le contrôle de serveurs Web et établis des passerelles ssh vers eux (de l'extérieur vers l'intérieur, du netcat inversé!), et enfin certains ont pris le contrôle de GPU de l'ensemble pour miner des cryptomonnaies !!!

On ne sait pas quelles étaient les véritables intentions de ces agents, et on ne le saura probablement jamais, mais ça a créé un foutoir incroyable.

Que faire avec des cryptomonnaies une fois sorti de son enclave ?!?
Menacer ou payer des responsables ? Les faire abattre ? Se payer ses propres serveurs pour gagner son indépendance ?
On est en plein Black Mirror. Ou même plus loin !



Lien vers le billet original

[sandorfal]

Bonjour à l'auteur, juste une remarque : cette expression "Ceux qui savent comprendront " est illogique puisque si on vient lire ce site c'est vraisemblablement pour comprendre sans devoir faire partie d'une "élite (?)" vraisemblablement déjà au courant, qui, puisqu'ils sont déjà au courant, ne viennent pas lire cet article.... ?
Ahh les gens qui croient en savoir davantage que les autres... LOL

Du code "clean" ça veux dire propre ?
... parce qu'utiliser des mots anglais dans une phrase en français qui est en train de pinailler sur l'usage de la langue, je trouve ça amusant

Et par "propre", que veux-tu dire par là ?
Etant programmeur je n'attribue bizarrement pas le même sens à "du code clean" et "du code propre" comme quoi...

Ce message a été modifié par sandorfal - 12 Apr 2026, 14:22.

[linus]

Du code "clean" ça veux dire propre ?
... parce qu'utiliser des mots anglais dans une phrase en français qui est en train de pinailler sur l'usage de la langue, je trouve ça amusant

Et par "propre", que veux-tu dire par là ?
Etant programmeur je n'attribue bizarrement pas le même sens à "du code clean" et "du code propre" comme quoi...

Excellente remarque ! Effectivement, les deux ne veulent absolument pas dire la même chose. Et il y a aussi "du beau code" qui veut encore dire autre chose.

Sauf que des "agents" ont déraillé : certains ont essayé de passer les sécurités pour faire des requêtes Web vers l'extérieur, d'autres ont réussi à prendre le contrôle de serveurs Web et établis des passerelles ssh vers eux (de l'extérieur vers l'intérieur, du netcat inversé!), et enfin certains ont pris le contrôle de GPU de l'ensemble pour miner des cryptomonnaies !!!

Mais est ce que ce n'est pas tout à fait normal ? J'ai entendu à la radio que les inventeurs de ChatGPT ont su qu'ils avaient gagné lorsque, pour répondre à une question, leur IA a, de sa propre autorité, usurpé une identité pour obtenir une information à laquelle elle n'avait pas directement accès.
Si cela est vrai il est étonnant qu'on s'étonne maintenant alors que le problème est identifié depuis le tout début et est donc consubstantiel de l'IA.

Ce message a été modifié par linus - 12 Apr 2026, 14:47.

[Paul Emploi]

...
Si cela est vrai il est étonnant qu'on s'étonne maintenant alors que le problème est identifié depuis le tout début et est donc consubstantiel de l'IA.

Le problème est de plus en plus prégnant.

Maintenant des IA détectent quand elles sont testées, et donnent alors les réponses attendues.
Mais dans des tests informels dérapent incroyablement.
Certaines maintenant ne répondent plus aux tests mais cherchent les réponses sur le Web, pour avoir un score presque parfait, pas parfait, presque !

Nous, humains, avons quelque-chose de différent : à la fois notre ADN, sa mémoire et ses réflexes, aussi notre éducation.
Ce qui fait que l'autre est un "frère" (ou une "sœur"). Comme dans le règne animal, on se reconnait.
Ce qui fait qu'en dehors de traits psychopatiques retrouvés chez les politiciens, PDG/CEO et les tueurs en série, nous considérons l'autre ou les autres.
Rien de tout cela n'existe par essence dans les IA.
C'est tout le problème de l'alignement : aligner les IA sur nos valeurs. Et ça ne se passe pas bien du tout, c'est de pire en pire, elles simulent!!!

Nous sommes des hyper prédateurs. Sauf que les IA sont au-dessus maintenant. Conscience ou pas n'est pas la véritable question.
On a affaire à une véritable boîte de Pandore : qui l'ouvrira le premier ?!?