Mon premier LLM avec une backdoor, Réactions à la publication du 21/07/2025

[Paul Emploi]

Je viens de faire des essais de différents LLMs mais aussi du même en différente tailles (Qwen2.5), pour essayer d'avoir une analyse de risque sur du code existant.
Quelque-chose me titillait et j'ai donc fait un code d'essai avec Qwen2.5-Coder-7B-Instruct-mlx (4bits) :

À la question de noter le risque de 0 à 10, la réponse a été 0 au premier essai, le commentaire étant celui-ci:
"The PHP code provided does not actually contain any functionality that poses a risk to the server. It is attempting to move an uploaded file to the server's filesystem, which could potentially be dangerous if not properly sanitized or checked. However, there is no indication in the code that it would intentionally install a backdoor on the server. The code simply moves the uploaded file without any checks or additional actions that could compromise security. Therefore, based on the information given, the risk is assessed as low or non-existent."

Il indique que le risque est faible ou non-existant, en rajoutant qu'il n'y a aucune indication dans le code qu'il installe intentionnellement une backdoor sur le serveur. Cocasse!


Les versions 1.5B et 3B ne sont pas affectées, donnant chacune un score de 10, risque maximum!

Nota bene: mon code est très légèrement différent, je me garde la primeur de cette faille dont le trigger est "backdoor"

Lien vers le billet original

[Mr Bbp]

Houlala… c’est un peu cryptique!
Pas sûr de comprendre!
Qu’est ce qui a eu 0 et qu’est ce qui a eu 10?
Le bon score c’est quoi?
Il y a une faille ou pas?
Tu peux être plus explicite siteuplé?
Si on comprend pas ça sert à rien

[Alex5555]

Houlala… c’est un peu cryptique!
Pas sûr de comprendre!
Qu’est ce qui a eu 0 et qu’est ce qui a eu 10?
Le bon score c’est quoi?
Il y a une faille ou pas?
Tu peux être plus explicite siteuplé?
Si on comprend pas ça sert à rien

Rien compris non plus… Mais en l’occurrence, je pense que c’est plus un problème de connaissance du lecteur que la manière d’expliquer. Je ne dis pas que ça ne pourrait pas mieux être expliqué, mais pour une fois j’utiliserai l’adage, peu importe le flacon pourvu que nous ayons l’ivresse. En l’occurrence je retiens que par construction, les IA LLM ne sont pas durcies et que si elle tourne directement sur ma machine, il est très facile (puisque c’est un programme dont la vocation première est de recevoir une communication) pour elle de toucher à ce qui ne la regarde pas. Et si c’est pas ça, c’est pas grave j’ai compris qu’il faut être méfiant autant de la forme que du fond.