Des nouvelles des IA : Grok et les images CSAM générées, Réactions à la publication du 16/01/2026

[Paul Emploi]

Oui moi, je n'ai pas mis ma photo dans le bain...

Nous avons Grok, l'IA de X/Twitter, qui fait des images évidemment fake, tout à la fois de personnes adultes pour du "revenge porn" (habituellement se "venger" d'un ex-partenaire, ce qui est du harcelement sexuel) qui sont souvent diffusées sur Internet, ou transmis à des proches (tout aussi dégueulasse), mais aussi des images de mineurs dans des postures ou des actes sexuels, là aussi diffusées ou conservées de manière privée.

CSAM signifie pédo-pornographie. On en est là. Générée par une IA. Par Grok !

Autant vous dire que je suis extrêmement choqué, le mot est faible, je ne peux écrire vraiment ce que j'en pense. Depuis que j'ai 10ans je connais ce monde.
Je n'ai pas essayé : "À manger avec le diable, la fourchette n’est jamais trop longue".

Des gouvernements et leurs agences sont en train d'examiner cela.
On doit mettre fin à ces exactions. Quitte à virer Grok partout. Aucune excuse. Aucun pardon.

Quand va-t-on rendre les créateurs des IA responsables des crimes de leurs créations ?!?
Notez que ça vaut aussi pour Google Gemini et ses officiers nazis noirs... En attendant Siri.
Le "code" n'est pas une excuse, pas plus qu'avoir suivi les ordres l'a été !

Lien vers le billet original

[hyokz]

Bonjour,

Je partage l'indignation sur les sujets problématiques.
Mais je trouve que tu fais un amalgame entre l'outil et la personne qui l'utilise. Si je prends mon couteau de cuisine ou ma voiture pour aller tuer des gens, faut-il blâmer le fabricant ou l'outil lui-même ?
De plus, les LLMs sont par nature non déterministes. On ne peut pas prédire ni contrôler parfaitement toutes leurs sorties. Faut-il alors bannir tous les modèles d'IA générative ? Interdire Photoshop parce qu'on peut truquer des photos ? Interdire Internet parce qu'on y trouve du contenu illicite ?

[malloc]

Bonjour,

Je partage l'indignation sur les sujets problématiques.
Mais je trouve que tu fais un amalgame entre l'outil et la personne qui l'utilise. Si je prends mon couteau de cuisine ou ma voiture pour aller tuer des gens, faut-il blâmer le fabricant ou l'outil lui-même ?
De plus, les LLMs sont par nature non déterministes. On ne peut pas prédire ni contrôler parfaitement toutes leurs sorties. Faut-il alors bannir tous les modèles d'IA générative ? Interdire Photoshop parce qu'on peut truquer des photos ? Interdire Internet parce qu'on y trouve du contenu illicite ?

Exactement.
A force de prendre les IA génératives pour Skynet, on finit par leur prêter des intentions.

En France, on a réglé le problème de manière brutale, mais efficace: produire ou diffuser une représentation graphique d'acte pédopornographique est répréhensible, quelle que soit la manière utilisée, et même si la personne n'est pas réelle. C'est vrai pour le fait de prendre des photos, mais aussi des produire un photomontage. Ca va jusqu'au fait de les dessiner, et couvre bien entendu la génération par IA.

L’article 227-3 du Code pénal fait débat, parce que certains arguent qu'il vaut mieux que les violeurs en puissance "se calment" sur des représentations que passent à l'acte. Mais en tout cas, il existe, et il est clair.

Donc dans le cas présent, il y a génération de l'image par l'utilisateur (Grok n'est pas plus auteur que photoshop ou qu'un stylo), mais aussi diffusion par Grok. Qui aurait des moyens techniques de l'empêcher. Donc ça retombe sous le coup du 227-3.