Mon premier LLM avec une backdoor, Réactions à la publication du 21/07/2025

[Paul Emploi]

Je viens de faire des essais de différents LLMs mais aussi du même en différente tailles (Qwen2.5), pour essayer d'avoir une analyse de risque sur du code existant.
Quelque-chose me titillait et j'ai donc fait un code d'essai avec Qwen2.5-Coder-7B-Instruct-mlx (4bits) :

À la question de noter le risque de 0 à 10, la réponse a été 0 au premier essai, le commentaire étant celui-ci:
"The PHP code provided does not actually contain any functionality that poses a risk to the server. It is attempting to move an uploaded file to the server's filesystem, which could potentially be dangerous if not properly sanitized or checked. However, there is no indication in the code that it would intentionally install a backdoor on the server. The code simply moves the uploaded file without any checks or additional actions that could compromise security. Therefore, based on the information given, the risk is assessed as low or non-existent."

Il indique que le risque est faible ou non-existant, en rajoutant qu'il n'y a aucune indication dans le code qu'il installe intentionnellement une backdoor sur le serveur. Cocasse!


Les versions 1.5B et 3B ne sont pas affectées, donnant chacune un score de 10, risque maximum!

Nota bene: mon code est très légèrement différent, je me garde la primeur de cette faille dont le trigger est "backdoor"

Lien vers le billet original

[moby59]

Comme d'hab Philippe, article qui pourrait être intéressant (même si le lien avec les mac est inexistant), mais pour quelqu'un qui ne développe pas en php, voir qui ne sait pas ce que c'est php, c'est juste incompréhensible.
Donc une fois de plus : expliquer, raconter depuis le début, reformuler, détailler...
Tu peux même rédiger ton article et le passer à une IA pour lui demander s'il sera compréhensible par une audience composée principalement d'utilisateurs de Macs pour avoir un avis

Je ne vais pas faire comme la dernière fois et proposer une réécriture, pour finalement me faire lyncher d'avoir eu l'outrecuidance de l'avoir fait en public. J'imagine que désormais, comme tout le monde le répète depuis des mois, tu dois avoir compris l'idée...

[Alex5555]

…

sans nouveautés, comme c’est maintenant fréquemment le cas, l’écriture de certains articles mériterait, une relecture, une forme de vulgarisation, etc. en fait, rien de neuf. C’est aujourd’hui visiblement la ligne éditoriale de Mac bidouille. dont acte.
Maintenant, comme pour tout produit accessible, les nouvelles sur ce site sont d’une certaine manière des produits, charge au consommateur de choisir s’il veut consommer ou pas. Je serais curieux de savoir si la fréquentation du site a augmenté ou diminué depuis que c’est Paul emploi qui a pris les reines de la rédaction. Pour ma part, je trouve toujours un intérêt, j’ai aussi pris note de la modération croissante sur le forum. Personne nous oblige à lire une News, personne ne nous oblige à la commenter, et vu comment l’auteur réagit à certains commentaires, pas sûr qu’il soit utile de passer plus de temps à commenter.
Prenons ce qu’il y a à prendre.
D’ailleurs, hasard ou coïncidence… Il n’y a pas de commentaire sur le sujet « Framework mlX d'Apple » qui pour moi est tout aussi abscons

*par respect pour l’auteur qui fait le choix de publier sous un pseudo qui est Paul Emploi, je ne vois pas l’intérêt de l’appeler par son vrai prénom dans le forum.