Des nouvelles des IA : Grok et les images CSAM générées, Réactions à la publication du 16/01/2026

[Paul Emploi]

Oui moi, je n'ai pas mis ma photo dans le bain...

Nous avons Grok, l'IA de X/Twitter, qui fait des images évidemment fake, tout à la fois de personnes adultes pour du "revenge porn" (habituellement se "venger" d'un ex-partenaire, ce qui est du harcelement sexuel) qui sont souvent diffusées sur Internet, ou transmis à des proches (tout aussi dégueulasse), mais aussi des images de mineurs dans des postures ou des actes sexuels, là aussi diffusées ou conservées de manière privée.

CSAM signifie pédo-pornographie. On en est là. Générée par une IA. Par Grok !

Autant vous dire que je suis extrêmement choqué, le mot est faible, je ne peux écrire vraiment ce que j'en pense. Depuis que j'ai 10ans je connais ce monde.
Je n'ai pas essayé : "À manger avec le diable, la fourchette n’est jamais trop longue".

Des gouvernements et leurs agences sont en train d'examiner cela.
On doit mettre fin à ces exactions. Quitte à virer Grok partout. Aucune excuse. Aucun pardon.

Quand va-t-on rendre les créateurs des IA responsables des crimes de leurs créations ?!?
Notez que ça vaut aussi pour Google Gemini et ses officiers nazis noirs... En attendant Siri.
Le "code" n'est pas une excuse, pas plus qu'avoir suivi les ordres l'a été !

Lien vers le billet original

[hyokz]

Bonjour,

Je partage l'indignation sur les sujets problématiques.
Mais je trouve que tu fais un amalgame entre l'outil et la personne qui l'utilise. Si je prends mon couteau de cuisine ou ma voiture pour aller tuer des gens, faut-il blâmer le fabricant ou l'outil lui-même ?
De plus, les LLMs sont par nature non déterministes. On ne peut pas prédire ni contrôler parfaitement toutes leurs sorties. Faut-il alors bannir tous les modèles d'IA générative ? Interdire Photoshop parce qu'on peut truquer des photos ? Interdire Internet parce qu'on y trouve du contenu illicite ?

[Paul Emploi]

Bonjour,

Je partage l'indignation sur les sujets problématiques.
Mais je trouve que tu fais un amalgame entre l'outil et la personne qui l'utilise. Si je prends mon couteau de cuisine ou ma voiture pour aller tuer des gens, faut-il blâmer le fabricant ou l'outil lui-même ?
De plus, les LLMs sont par nature non déterministes. On ne peut pas prédire ni contrôler parfaitement toutes leurs sorties. Faut-il alors bannir tous les modèles d'IA générative ? Interdire Photoshop parce qu'on peut truquer des photos ? Interdire Internet parce qu'on y trouve du contenu illicite ?

J'adhère a une part de ce que tu dis, l'outil, où un couteau de cuisiner peux tuer, ou créer soi-même des images pédo-pornographiques avec Photoshop.

Sauf que là, le créateur n'est pas l'utilisateur, le créateur est l'IA Grok.
Si je te demande de générer des contenus illégaux, tu vas refuser.
Si je le demande à Grok, il va les générer.