Des nouvelles des IA : Grok et les images CSAM générées, Réactions à la publication du 16/01/2026

[Paul Emploi]

Oui moi, je n'ai pas mis ma photo dans le bain...

Nous avons Grok, l'IA de X/Twitter, qui fait des images évidemment fake, tout à la fois de personnes adultes pour du "revenge porn" (habituellement se "venger" d'un ex-partenaire, ce qui est du harcelement sexuel) qui sont souvent diffusées sur Internet, ou transmis à des proches (tout aussi dégueulasse), mais aussi des images de mineurs dans des postures ou des actes sexuels, là aussi diffusées ou conservées de manière privée.

CSAM signifie pédo-pornographie. On en est là. Générée par une IA. Par Grok !

Autant vous dire que je suis extrêmement choqué, le mot est faible, je ne peux écrire vraiment ce que j'en pense. Depuis que j'ai 10ans je connais ce monde.
Je n'ai pas essayé : "À manger avec le diable, la fourchette n’est jamais trop longue".

Des gouvernements et leurs agences sont en train d'examiner cela.
On doit mettre fin à ces exactions. Quitte à virer Grok partout. Aucune excuse. Aucun pardon.

Quand va-t-on rendre les créateurs des IA responsables des crimes de leurs créations ?!?
Notez que ça vaut aussi pour Google Gemini et ses officiers nazis noirs... En attendant Siri.
Le "code" n'est pas une excuse, pas plus qu'avoir suivi les ordres l'a été !

Lien vers le billet original

[hyokz]

Bonjour,

Je partage l'indignation sur les sujets problématiques.
Mais je trouve que tu fais un amalgame entre l'outil et la personne qui l'utilise. Si je prends mon couteau de cuisine ou ma voiture pour aller tuer des gens, faut-il blâmer le fabricant ou l'outil lui-même ?
De plus, les LLMs sont par nature non déterministes. On ne peut pas prédire ni contrôler parfaitement toutes leurs sorties. Faut-il alors bannir tous les modèles d'IA générative ? Interdire Photoshop parce qu'on peut truquer des photos ? Interdire Internet parce qu'on y trouve du contenu illicite ?

[Paul Emploi]

Bonjour,

Je partage l'indignation sur les sujets problématiques.
Mais je trouve que tu fais un amalgame entre l'outil et la personne qui l'utilise. Si je prends mon couteau de cuisine ou ma voiture pour aller tuer des gens, faut-il blâmer le fabricant ou l'outil lui-même ?
De plus, les LLMs sont par nature non déterministes. On ne peut pas prédire ni contrôler parfaitement toutes leurs sorties. Faut-il alors bannir tous les modèles d'IA générative ? Interdire Photoshop parce qu'on peut truquer des photos ? Interdire Internet parce qu'on y trouve du contenu illicite ?

J'adhère a une part de ce que tu dis, l'outil, où un couteau de cuisiner peux tuer, ou créer soi-même des images pédo-pornographiques avec Photoshop.

Sauf que là, le créateur n'est pas l'utilisateur, le créateur est l'IA Grok.
Si je te demande de générer des contenus illégaux, tu vas refuser.
Si je le demande à Grok, il va les générer.

[cboudier]

J'adhère a une part de ce que tu dis, l'outil, où un couteau de cuisiner peux tuer, ou créer soi-même des images pédo-pornographiques avec Photoshop.

Sauf que là, le créateur n'est pas l'utilisateur, le créateur est l'IA Grok.
Si je te demande de générer des contenus illégaux, tu vas refuser.
Si je le demande à Grok, il va les générer.

Est-ce que ce pourrait-être un choix délibéré de non-prise de responsabilité ?

Si le fabricant du couteau « s’engage » à ce qu’il ne puisse pas couper de « viande », et que quelqu’un y arrive quand même, alors le fabricant peut être impliqué (oui je sais, cet exemple est débile ). Et les lois n’étant pas les mêmes partout, ça devient vite compliqué de toutes les appliquer.
S’il ne s’engage à rien et met seulement en garde (cf. la prolifération des mentions sur certains produits et dans certains pays), il reporte sur l’utilisateur la responsabilité (du moins il fait tout ce qu’il peut pour ça).
Si c’est bien comme ça que ça fonctionne (c’est une question, je n’en sais rien), alors les éditeurs d’IA n’ont aucun intérêt à mettre des verrous qui les engagent s’ils n’y sont pas contraints.
Certains objets dangereux sont encadrés par la loi (armes ou assimilées). Au delà (ou en sus) c’est le comportement des personnes qui est encadré par la loi (e.g. si je demande à mon logiciel de messagerie de diffuser des images interdites, il va le faire).

Cette question de (partage de) responsabilité se retrouve déjà du côté des voitures ayant un mode de conduite autonome (qui a déjà causé des morts). Les constructeurs se sont déchargés de leur responsabilité en précisant que le conducteur doit garder la maîtrise du véhicule (ce que dit aussi la loi française). Dans certains cas, des pannes sont la cause des accidents —> le partage des responsabilités n’est pas simple : le conducteur reste responsable, mais comme il ne pouvait pas agir librement, il doit se retourner contre le constructeur…

Ce message a été modifié par cboudier - 17 Jan 2026, 10:19.