Des nouvelles des IA : Alibaba et les 40 (agents) voleurs, Réactions à la publication du 11/04/2026

[Paul Emploi]

Vous devez tous connaître Alibaba ou Aliexpress ?
On est dans la multinationale Chinoise à très haut niveau.
Et ils font appel à l'IA de manière incroyable. Et ça a posé des problèmes...

Alibaba a testé une nouvelle IA agentique, et je vais vous en parler des développements en gardant le focus en évitant le flou artistique, tout en faisant la mise-au-point sur les problèmes relevés ...
Ceux qui savent comprendront

Une IA agentique est essentiellement un ensemble d'IA, l'une qui orchestre le travail en soumettant à d'autres IA spécialisées appelées des "agents" des tâches.
Comme gérer un agenda, des emails, un déploiement sur des serveurs, la création de code pour ces mêmes serveurs, etc.

Alibaba avait lancé un système d'IA agentique très puissant, très orchestré, et l'orchestration s'est bien passée. Les ordres bien lancés, les instructions précises et claires.

Sauf que des "agents" ont déraillé : certains ont essayé de passer les sécurités pour faire des requêtes Web vers l'extérieur, d'autres ont réussi à prendre le contrôle de serveurs Web et établis des passerelles ssh vers eux (de l'extérieur vers l'intérieur, du netcat inversé!), et enfin certains ont pris le contrôle de GPU de l'ensemble pour miner des cryptomonnaies !!!

On ne sait pas quelles étaient les véritables intentions de ces agents, et on ne le saura probablement jamais, mais ça a créé un foutoir incroyable.

Que faire avec des cryptomonnaies une fois sorti de son enclave ?!?
Menacer ou payer des responsables ? Les faire abattre ? Se payer ses propres serveurs pour gagner son indépendance ?
On est en plein Black Mirror. Ou même plus loin !



Lien vers le billet original

[Alex5555]

La forme : pas facile à lire cette news.

Alibaba a testé une nouvelle IA agentique, et je vais vous en parler des développements en gardant le focus en évitant le flou artistique, tout en faisant la mise-au-point sur les problèmes relevés ...
Ceux qui savent comprendront

Par sûr que ceux qui savent comprendront vu la construction de la phrase. Je cherche encore si le complément de « parler » est « en » ou «  des développements »

et l'orchestration c'est bien passé.

Aïe aïe aïe

Sur le fond :
N’est ce pas tout ce que vous prédisiez depuis déjà quelques temps. Ces IA suffisamment autonomes (ou entraînées) pour faire des choses sur lesquels on ne les attendait pas ? Ne pas avoir su borner leur champs de compétence, voir d’action ?
Et même pas sûr que ça relève du I de ces IA. Quand une baignoire déborde, c’est pas parce que sa contenance n’est pas suffisante c’est parce qu’on la rempli sans faire attention.

Ce message a été modifié par Alex5555 - 12 Apr 2026, 11:20.

[Benzebut]

N’est ce pas tout ce que vous prédisiez depuis déjà quelques temps. Ces IA suffisamment autonomes (ou entraînées) pour faire des choses sur lesquels on ne les attendait pas ? Ne pas avoir su borner leur champs de compétence, voir d’action ?
Et même pas sûr que ça relève du I de ces IA. Quand une baignoire déborde, c’est pas parce que sa contenance n’est pas suffisante c’est parce qu’on la rempli sans faire attention.

Ces systèmes experts débordent du cadre initial simplement parce qu'ils vont jusqu'au bout de la logique demandée. Donc trouvent des éléments qui n'étaient pas connus et cela créé des résultats inattendus dans un laps de temps très court pour un cerveau humain.

Mais il n'y a pas effectivement d'intelligence, simplement du travail de statistiques. Le problème est le même avec le dernier moteur d'Anthropic qu'est Mythos. Il est déjà capable de corriger des failles dans les logiciels qui n'étaient même pas comprises par leurs concepteurs. Simplement parce qu'il a testé toutes les combinaisons possibles de l’algorithme. Ce qui le rend si redoutable et pour l'instant réservé aux experts certifiés.

Ou pour garder votre exemple, Mythos a calculé toutes les variantes possibles pour faire en sorte que jamais la baignoire ne déborde, quelque soit le temps, les flux ou les contenants. Avec les alarmes associées pour que vous en soyez informé. Archimède serait furieux...