 Mon premier LLM avec une backdoor, Réactions à la publication du 21/07/2025 |
 |
Bienvenue invité ( Connexion | Inscription )
 21 Jul 2025, 18:00
Message
#1
|
|
 Macbidouilleur d'Or !  Groupe : Rédacteurs Messages : 1 833 Inscrit : 19 Nov 2020 Membre no 212 895  |
Je viens de faire des essais de différents LLMs mais aussi du même en différente tailles (Qwen2.5), pour essayer d'avoir une analyse de risque sur du code existant.
Quelque-chose me titillait et j'ai donc fait un code d'essai avec Qwen2.5-Coder-7B-Instruct-mlx (4bits) : À la question de noter le risque de 0 à 10, la réponse a été 0 au premier essai, le commentaire étant celui-ci: "The PHP code provided does not actually contain any functionality that poses a risk to the server. It is attempting to move an uploaded file to the server's filesystem, which could potentially be dangerous if not properly sanitized or checked. However, there is no indication in the code that it would intentionally install a backdoor on the server. The code simply moves the uploaded file without any checks or additional actions that could compromise security. Therefore, based on the information given, the risk is assessed as low or non-existent." Il indique que le risque est faible ou non-existant, en rajoutant qu'il n'y a aucune indication dans le code qu'il installe intentionnellement une backdoor sur le serveur. Cocasse! Les versions 1.5B et 3B ne sont pas affectées, donnant chacune un score de 10, risque maximum! Nota bene: mon code est très légèrement différent, je me garde la primeur de cette faille dont le trigger est "backdoor"  Lien vers le billet original -------------------- La liberté d'expression c'est l'extrémisme. La censure c'est la liberté.
|
 |
 
|
 |
Réponse(s)
|
22 Jul 2025, 09:16
Message
#2
|
|
|
Nouveau Membre Groupe : Membres Messages : 31 Inscrit : 30 Jan 2004 Membre no 14 022 |
Ce qui m'échappe c'est le lien avec le thème de ce site/forum "macbidouille" ... Je fréquente ce lieu depuis une trentaine d'années pour y trouver des informations utiles à tirer le meilleur parti de mon mac. Là, je vois pas.
|
|
|
|
|
22 Jul 2025, 10:53
Message
#3
|
|
|
Nouveau Membre Groupe : Membres Messages : 24 Inscrit : 23 Dec 2013 Membre no 188 444 |
Citation (leonard @ 22 Jul 2025, 10:16)  Ce qui m'échappe c'est le lien avec le thème de ce site/forum "macbidouille" ... Je fréquente ce lieu depuis une trentaine d'années pour y trouver des informations utiles à tirer le meilleur parti de mon mac. Là, je vois pas. C'est aussi mon ressenti avec les sujets de Paul Emploi : Autant les retrospectives sur les choix techno de chez Apple sont intéressants, autant ce genre de sujet où il y a confusion avec un blog perso/ twit sur X n'ont pas vraiment d'intêrets ni même l'audience qui va avec. |
|
|
|
|
22 Jul 2025, 11:10
Message
#4
|
|
|
Macbidouilleur d'Or ! Groupe : Rédacteurs Messages : 1 833 Inscrit : 19 Nov 2020 Membre no 212 895 |
Citation (Nehi @ 22 Jul 2025, 11:53) Citation (leonard @ 22 Jul 2025, 10:16) Ce qui m'échappe c'est le lien avec le thème de ce site/forum "macbidouille" ... Je fréquente ce lieu depuis une trentaine d'années pour y trouver des informations utiles à tirer le meilleur parti de mon mac. Là, je vois pas. C'est aussi mon ressenti avec les sujets de Paul Emploi : Autant les retrospectives sur les choix techno de chez Apple sont intéressants, autant ce genre de sujet où il y a confusion avec un blog perso/ twit sur X n'ont pas vraiment d'intêrets ni même l'audience qui va avec. Ce sont des sujets aux antipodes, certains tournés vers le passé et l'histoire, qu'il ne faut pas oublier, et celui-ci vers l'avenir, notre futur commun. Pour remettre en perspective c'est comme si je découvrais un antivirus prévu pour laisser passer certains types ou modèles de virus! Ce ne serait pas une surprise pour personne, tous les antivirus Américains laissent passer les attaques de la NSA par exemple, et ce depuis longtemps... Là il s'agit d'IA pour travailler sur le code et capable de l'analyser. IA de distribution libre, là Qwen2.5 vient de Singapour. Et dans des tailles utilisées pour de l'analyse de code automatique en local, de 3 à 14 milliards de paramètres (weights), il est facile d'obtenir qu'il ne reporte pas une backdoor évidente. Cela permet d'insérer des backdoors dans de gros projets sans qu'elles soient détectables automatiquement par cette IA. Et que tu utilises un Mac, un PC, où tout ce qui est informatique, cela va avoir des conséquences... -------------------- La liberté d'expression c'est l'extrémisme. La censure c'est la liberté.
|
|
|
|
|
22 Jul 2025, 11:39
Message
#5
|
|
 Macbidouilleur d'Or ! Groupe : Membres Messages : 4 982 Inscrit : 1 Jul 2010 Membre no 156 073 |
Citation (Paul Emploi @ 22 Jul 2025, 11:10) IA de distribution libre, là Qwen2.5 vient de Singapour. À ma connaissance, Qwen est une IA de la société Alibaba qui est chinoise. Et sinon, au sujet de vérification de code, Gilles Dowek nous a quitté. -------------------- L'homme n'est que poussière... c'est dire l'importance du plumeau ! Alexandre Vialatte
|
|
|
|
|
23 Jul 2025, 18:43
Message
#6
|
|
 Macbidouilleur d'Or ! Groupe : Membres Messages : 1 808 Inscrit : 24 Jun 2004 Lieu : Grenoble Membre no 20 409 |
Pffffff ..... LLM ... je ne sais même pas ce que c'est !!!
Pas envie de chercher. |
|
|
|
|
23 Jul 2025, 22:02
Message
#7
|
|
|
Macbidouilleur d'Or ! Groupe : Membres Messages : 4 982 Inscrit : 1 Jul 2010 Membre no 156 073 |
Citation (linus @ 23 Jul 2025, 18:43) Pffffff ..... LLM ... je ne sais même pas ce que c'est !!! Pas envie de chercher. Bien entendu, chacun est libre de vouloir comprendre une notion inconnue. Si tu lis les articles de ce site tu es tombé de nombreuses fois sur ce terme. Sais-tu ce qu'est un grand modèle de langage ? -------------------- L'homme n'est que poussière... c'est dire l'importance du plumeau ! Alexandre Vialatte
|
|
|
|
Les messages de ce sujet
Paul Emploi Mon premier LLM avec une backdoor 21 Jul 2025, 18:00
Mr Bbp Houlala… c’est un peu cryptique!
Pas sûr ... 21 Jul 2025, 21:14
Alex5555 Citation (Mr Bbp @ 21 Jul 2025, 22:14) Ho... 22 Jul 2025, 09:10 macfredx Moi, ce que je comprends, c'est qu'il ne f... 21 Jul 2025, 22:34 Paul Emploi Citation (macfredx @ 21 Jul 2025, 23:34) ... 21 Jul 2025, 22:43 Paul Emploi Citation (scoch @ 22 Jul 2025, 12:39) Cit... 22 Jul 2025, 12:55 Mac Arthur Citation (Paul Emploi @ 22 Jul 2025, 18:5... 22 Jul 2025, 13:13 shawnscott Citation (leonard @ 22 Jul 2025, 09:16) C... 22 Jul 2025, 14:48 moby59 Comme d'hab Philippe, article qui pourrait êt... 23 Jul 2025, 16:36 Paul Emploi Citation (moby59 @ 23 Jul 2025, 17:36) Co... 23 Jul 2025, 22:48 moby59 Citation (Paul Emploi @ 23 Jul 2025, 23:4... 24 Jul 2025, 09:19 champi Citation (moby59 @ 24 Jul 2025, 09:19) Pe... 24 Jul 2025, 09:40 Paul Emploi Citation (champi @ 24 Jul 2025, 10:40) Ci... 24 Jul 2025, 11:16 linus Citation (moby59 @ 24 Jul 2025, 10:19) Ci... 24 Jul 2025, 22:12 Alex5555 Citation (moby59 @ 23 Jul 2025, 17:36) �... 24 Jul 2025, 13:11 malloc En parlant d'IA et de matériel Apple, selon M... 24 Jul 2025, 08:24 Mac Arthur J'avoue (humblement) qu'effectivement tout... 24 Jul 2025, 09:40 glyoscar Ecrire un aarticle didactque, sur l'interactio... 24 Jul 2025, 17:54 glyoscar Ouf , enfin une explication claire 25 Jul 2025, 10:59 |
1 utilisateur(s) sur ce sujet (1 invité(s) et 0 utilisateur(s) anonyme(s))
0 membre(s) :
| Nous sommes le : 1st September 2025 - 14:16 |