Des nouvelles des IA : Alibaba et les 40 (agents) voleurs, Réactions à la publication du 11/04/2026

[Paul Emploi]

Vous devez tous connaître Alibaba ou Aliexpress ?
On est dans la multinationale Chinoise à très haut niveau.
Et ils font appel à l'IA de manière incroyable. Et ça a posé des problèmes...

Alibaba a testé une nouvelle IA agentique, et je vais vous en parler des développements en gardant le focus en évitant le flou artistique, tout en faisant la mise-au-point sur les problèmes relevés ...
Ceux qui savent comprendront

Une IA agentique est essentiellement un ensemble d'IA, l'une qui orchestre le travail en soumettant à d'autres IA spécialisées appelées des "agents" des tâches.
Comme gérer un agenda, des emails, un déploiement sur des serveurs, la création de code pour ces mêmes serveurs, etc.

Alibaba avait lancé un système d'IA agentique très puissant, très orchestré, et l'orchestration s'est bien passée. Les ordres bien lancés, les instructions précises et claires.

Sauf que des "agents" ont déraillé : certains ont essayé de passer les sécurités pour faire des requêtes Web vers l'extérieur, d'autres ont réussi à prendre le contrôle de serveurs Web et établis des passerelles ssh vers eux (de l'extérieur vers l'intérieur, du netcat inversé!), et enfin certains ont pris le contrôle de GPU de l'ensemble pour miner des cryptomonnaies !!!

On ne sait pas quelles étaient les véritables intentions de ces agents, et on ne le saura probablement jamais, mais ça a créé un foutoir incroyable.

Que faire avec des cryptomonnaies une fois sorti de son enclave ?!?
Menacer ou payer des responsables ? Les faire abattre ? Se payer ses propres serveurs pour gagner son indépendance ?
On est en plein Black Mirror. Ou même plus loin !



Lien vers le billet original

[STRyk]

C'esrt devenu la mode de faire n'importe quoi :
Pour preuve, déjà avec une base simple la lange française. Prendre un mot anglais et le passer en "français". Sauf que ca ne veux strictement plus rien dire.
"Agentic" (Anglais) => "Agentique" (Français) qui n'existe pas...
"Iconic" (Anglais) => "Iconique" (Français) mais le français ne corresponds pas à la définition du mot anglais. Mais ça, vu le niveau à l'école c'est peine perdue...
Bref...
Ensuite on ne va pas me faire croire que certaines parties du code de tout ces "IA" est clean.
Puisque qu'en cas très général, les gus utilisent des "kits" et sans vraiment regarder ce qu'il y a dedans puisqu'il faut sortir son "nouveau truc" avant qu'un autre le sorte.
Donc il ne faut pas s'étonner que les porgrammes fassent n'importe quoi en allant puiser sur ce qu'on leur fourni.

[Paul Emploi]

"Agentique" est tellement employé qu'il sera demain dans le dico !

Et en fait c'est un mot français : c'est dans le français Québécois officiel.
On est un peu plus rapides

"Bureautique" aurait été inventé par Valéry Giscard. Avant validation par l'Académie Française, avant celle des dictionnaires. Fut-il un mot français, alors ?!?

[Samten]

Du code "clean" ça veux dire propre ?
... parce qu'utiliser des mots anglais dans une phrase en français qui est en train de pinailler sur l'usage de la langue, je trouve ça amusant

[Alex5555]

La forme : pas facile à lire cette news.

Alibaba a testé une nouvelle IA agentique, et je vais vous en parler des développements en gardant le focus en évitant le flou artistique, tout en faisant la mise-au-point sur les problèmes relevés ...
Ceux qui savent comprendront

Par sûr que ceux qui savent comprendront vu la construction de la phrase. Je cherche encore si le complément de « parler » est « en » ou «  des développements »

et l'orchestration c'est bien passé.

Aïe aïe aïe

Sur le fond :
N’est ce pas tout ce que vous prédisiez depuis déjà quelques temps. Ces IA suffisamment autonomes (ou entraînées) pour faire des choses sur lesquels on ne les attendait pas ? Ne pas avoir su borner leur champs de compétence, voir d’action ?
Et même pas sûr que ça relève du I de ces IA. Quand une baignoire déborde, c’est pas parce que sa contenance n’est pas suffisante c’est parce qu’on la rempli sans faire attention.

Ce message a été modifié par Alex5555 - 12 Apr 2026, 11:20.

[Patounet1]

Bonjour,

Alibaba a testé une nouvelle IA agentique, et je vais vous en parler des développements en gardant le focus en évitant le flou artistique, tout en faisant la mise-au-point sur les problèmes relevés ...
Ceux qui savent comprendront

Ceux qui ne savent pas que font-ils ? Nous allons voir ailleurs ?

certains ont essayé de passer les sécurités

C’est une blague ou les IA, sont à même de prendre leur indépendance ?

certains ont pris le contrôle de GPU de l'ensemble pour miner des cryptomonnaies

, même question que précédemment, ou les IA ont été programmées pour ça en amont par leur créateur ?

[g4hd]

Aucun contact avec Aibaba, shein et leurs turpitudes agentiques
ou autres Googleries du même acabit ?
Est-ce qu'on a les mêmes pièges à c.n chez Amazon ?

[sandorfal]

Bonjour à l'auteur, juste une remarque : cette expression "Ceux qui savent comprendront " est illogique puisque si on vient lire ce site c'est vraisemblablement pour comprendre sans devoir faire partie d'une "élite (?)" vraisemblablement déjà au courant, qui, puisqu'ils sont déjà au courant, ne viennent pas lire cet article.... ?
Ahh les gens qui croient en savoir davantage que les autres... LOL

Du code "clean" ça veux dire propre ?
... parce qu'utiliser des mots anglais dans une phrase en français qui est en train de pinailler sur l'usage de la langue, je trouve ça amusant

Et par "propre", que veux-tu dire par là ?
Etant programmeur je n'attribue bizarrement pas le même sens à "du code clean" et "du code propre" comme quoi...

Ce message a été modifié par sandorfal - 12 Apr 2026, 14:22.

[linus]

Du code "clean" ça veux dire propre ?
... parce qu'utiliser des mots anglais dans une phrase en français qui est en train de pinailler sur l'usage de la langue, je trouve ça amusant

Et par "propre", que veux-tu dire par là ?
Etant programmeur je n'attribue bizarrement pas le même sens à "du code clean" et "du code propre" comme quoi...

Excellente remarque ! Effectivement, les deux ne veulent absolument pas dire la même chose. Et il y a aussi "du beau code" qui veut encore dire autre chose.

Sauf que des "agents" ont déraillé : certains ont essayé de passer les sécurités pour faire des requêtes Web vers l'extérieur, d'autres ont réussi à prendre le contrôle de serveurs Web et établis des passerelles ssh vers eux (de l'extérieur vers l'intérieur, du netcat inversé!), et enfin certains ont pris le contrôle de GPU de l'ensemble pour miner des cryptomonnaies !!!

Mais est ce que ce n'est pas tout à fait normal ? J'ai entendu à la radio que les inventeurs de ChatGPT ont su qu'ils avaient gagné lorsque, pour répondre à une question, leur IA a, de sa propre autorité, usurpé une identité pour obtenir une information à laquelle elle n'avait pas directement accès.
Si cela est vrai il est étonnant qu'on s'étonne maintenant alors que le problème est identifié depuis le tout début et est donc consubstantiel de l'IA.

Ce message a été modifié par linus - 12 Apr 2026, 14:47.

[Paul Emploi]

...
Si cela est vrai il est étonnant qu'on s'étonne maintenant alors que le problème est identifié depuis le tout début et est donc consubstantiel de l'IA.

Le problème est de plus en plus prégnant.

Maintenant des IA détectent quand elles sont testées, et donnent alors les réponses attendues.
Mais dans des tests informels dérapent incroyablement.
Certaines maintenant ne répondent plus aux tests mais cherchent les réponses sur le Web, pour avoir un score presque parfait, pas parfait, presque !

Nous, humains, avons quelque-chose de différent : à la fois notre ADN, sa mémoire et ses réflexes, aussi notre éducation.
Ce qui fait que l'autre est un "frère" (ou une "sœur"). Comme dans le règne animal, on se reconnait.
Ce qui fait qu'en dehors de traits psychopatiques retrouvés chez les politiciens, PDG/CEO et les tueurs en série, nous considérons l'autre ou les autres.
Rien de tout cela n'existe par essence dans les IA.
C'est tout le problème de l'alignement : aligner les IA sur nos valeurs. Et ça ne se passe pas bien du tout, c'est de pire en pire, elles simulent!!!

Nous sommes des hyper prédateurs. Sauf que les IA sont au-dessus maintenant. Conscience ou pas n'est pas la véritable question.
On a affaire à une véritable boîte de Pandore : qui l'ouvrira le premier ?!?

[STRyk]

Du code "clean" ça veux dire propre ?
... parce qu'utiliser des mots anglais dans une phrase en français qui est en train de pinailler sur l'usage de la langue, je trouve ça amusant

Ce n'est pas le centre du sujet ici mais qu'une personne réagi sur ce terme, c'est un signe.
Ce sont les personnes du métier qui utilisent ce terme. Métier qui est basé sur la langue anglaise.
Ensuite que tu n'ai pas saisis pourquoi je l'ai utilisé, c'est autre chose.
On met en avant l'absurdité de la chose.
Tout ca n'est pas très saiffe.

"Agentique" est tellement employé qu'il sera demain dans le dico !

Et en fait c'est un mot français : c'est dans le français Québécois officiel.
On est un peu plus rapides

"Bureautique" aurait été inventé par Valéry Giscard. Avant validation par l'Académie Française, avant celle des dictionnaires. Fut-il un mot français, alors ?!?

Ce n'est pas parce que certains l'utilisent et forcent les autres à utiliser une ineptie que tout le monde doit l'utiliser.
Certains se plaignent que la langue français est trop compliquée, qu'il faut drait la simplifier (des y des tremas, des accents dans tel ou tel cas etc...).
D'autres ajoutent des mots qui n'ont pas lieu d'être. C'est ridicule.
Quand on entend "Etatsunien" au lieu "des états unis", pourquoi créer de nouvelles choses qui, à terme créera une nouvelle gêne pour ceux qui se plaingent que la langue est trop complexe ?
(Tien un chapo sur leu E ses koi sa) (Avec plein d'espaces entre les mots qui le forum supprime)
La langue français est déjà suffisament riche pour ne pas devoir créer de choses détournées et inutiles.
On apprends bien à nos enfants qu'il faut dire "je veux faire caca". Je suggère d'ajouter un nouveau mot : "Cacatter" c'est plus simple ! On pourra le conjuger...
C'est marrant c'est la mode actuellement de créer un nouveau verbe à partir d'un mot.

Rappelez vous Carrefour avec sa pub "Je positive"... C'était n'impote quoi.
Parfois je me demande si ce ne sont pas les médias qui sont réellement les 40 voleurs de la langue française.
Bref, désolé effectivement ce n'est pas le sujet ici.

Ce message a été modifié par STRyk - 13 Apr 2026, 12:36.

[Benzebut]

N’est ce pas tout ce que vous prédisiez depuis déjà quelques temps. Ces IA suffisamment autonomes (ou entraînées) pour faire des choses sur lesquels on ne les attendait pas ? Ne pas avoir su borner leur champs de compétence, voir d’action ?
Et même pas sûr que ça relève du I de ces IA. Quand une baignoire déborde, c’est pas parce que sa contenance n’est pas suffisante c’est parce qu’on la rempli sans faire attention.

Ces systèmes experts débordent du cadre initial simplement parce qu'ils vont jusqu'au bout de la logique demandée. Donc trouvent des éléments qui n'étaient pas connus et cela créé des résultats inattendus dans un laps de temps très court pour un cerveau humain.

Mais il n'y a pas effectivement d'intelligence, simplement du travail de statistiques. Le problème est le même avec le dernier moteur d'Anthropic qu'est Mythos. Il est déjà capable de corriger des failles dans les logiciels qui n'étaient même pas comprises par leurs concepteurs. Simplement parce qu'il a testé toutes les combinaisons possibles de l’algorithme. Ce qui le rend si redoutable et pour l'instant réservé aux experts certifiés.

Ou pour garder votre exemple, Mythos a calculé toutes les variantes possibles pour faire en sorte que jamais la baignoire ne déborde, quelque soit le temps, les flux ou les contenants. Avec les alarmes associées pour que vous en soyez informé. Archimède serait furieux...

[scoch]

Un peu hors sujet, le projet apfel, principalement développé avec Claude Code, permet d'utiliser le modèle Apple Foundation Model déjà présent sur les Mac Silicon sous Tahoe. Il est alors possible de converser avec le modèle depuis le terminal ou de l'utiliser en lignes de commande. Tout reste en local.

[laviregen]

...
Nous, humains, avons quelque-chose de différent : à la fois notre ADN, sa mémoire et ses réflexes, aussi notre éducation.

J'y ajouterai : un vécu physique qui s'inscrit dans un corps percevant des sensations et ce faisant produit un ressenti et des émotions propres à chacun de nous et contribue à forger nos identités distinctes.


Ce message a été modifié par laviregen - 13 Apr 2026, 19:24.

[jeandemi]

C'est marrant c'est la mode actuellement de créer un nouveau verbe à partir d'un mot.

Rappelez vous Carrefour avec sa pub "Je positive"... C'était n'impote quoi.
Parfois je me demande si ce ne sont pas les médias qui sont réellement les 40 voleurs de la langue française.
Bref, désolé effectivement ce n'est pas le sujet ici.

En 1960 déjà, Raoul Volfoni disait:
"Moi, les dingues, je les soigne. Je vais lui faire une ordonnance, et une sévère ! Aux quatre coins de Paris qu'on va le retrouver éparpillé par petits bouts façon puzzle ! Moi quand on m'en fait trop, je ne correctionne plus, je dynamite, j'disperse, j'ventile"

[chianti's yogurt]

Bordel de dyslexie, je lis argentique depuis le début


Vu le récit décrit ne serait-il pas plus judicieux d'utiliser le terme IA auto-immune ?

Ce message a été modifié par chianti's yogurt - 14 Apr 2026, 08:59.

[STRyk]

Bordel de dyslexie, je lis argentique depuis le début


Vu le récit décrit ne serait-il pas plus judicieux d'utiliser le terme IA auto-immune ?

C'est aussi pour ca que ça m'ennerve.