Des nouvelles des IA : Grok et les images CSAM générées, Réactions à la publication du 16/01/2026

[Paul Emploi]

Oui moi, je n'ai pas mis ma photo dans le bain...

Nous avons Grok, l'IA de X/Twitter, qui fait des images évidemment fake, tout à la fois de personnes adultes pour du "revenge porn" (habituellement se "venger" d'un ex-partenaire, ce qui est du harcelement sexuel) qui sont souvent diffusées sur Internet, ou transmis à des proches (tout aussi dégueulasse), mais aussi des images de mineurs dans des postures ou des actes sexuels, là aussi diffusées ou conservées de manière privée.

CSAM signifie pédo-pornographie. On en est là. Générée par une IA. Par Grok !

Autant vous dire que je suis extrêmement choqué, le mot est faible, je ne peux écrire vraiment ce que j'en pense. Depuis que j'ai 10ans je connais ce monde.
Je n'ai pas essayé : "À manger avec le diable, la fourchette n’est jamais trop longue".

Des gouvernements et leurs agences sont en train d'examiner cela.
On doit mettre fin à ces exactions. Quitte à virer Grok partout. Aucune excuse. Aucun pardon.

Quand va-t-on rendre les créateurs des IA responsables des crimes de leurs créations ?!?
Notez que ça vaut aussi pour Google Gemini et ses officiers nazis noirs... En attendant Siri.
Le "code" n'est pas une excuse, pas plus qu'avoir suivi les ordres l'a été !

Lien vers le billet original

[glyoscar]

l'IA est un outil, comme tout outil, on peut l'utiliser dans l'usage initialement prévu, ou pas
Apres c'est une interprétation purement morale, subjective, et sociétale
L'appréciation que l'on donne a son usage est personnelle, l'IA ayant été conçu par des humains, aucune limite a ce que l'outil réponde a la sollicitation humaine, et cela rendrait l'outil complètement incomplet, si on lui interdisait de faire ceci ou cela, voir idéologiquement oriente
Donc de mon point de vu il faut laisser l'IA construire les monstruositées les plus abominables, Sinon l'outils est un outil bancale
Seul le concepteur et le client de cette production sont coupables.
On produits des autos dont la puissance est sans commune mesure avec l'usage courant de l'objet en question
On a clairement identifié l'excès que son usage au delà des normes établies pouvait amener, et pourtant tout les jours on en observe le résultat mortifère
Cela n'empêche pas toute une catégorie de gens de revendiquer la liberté d'utiliser ce type d'objet, et n'essayer pas de les en empêcher
Malgres les milliers de morts annuel en France, des véhicules continuent d'afficher des dizaines, des centaines de chevaux complètement inutiles au déplacement d'un point A vers un point B
Écologiquement nuisible et potentiellement mortel
C'est la logique du monde d'aujourd'hui, l'IA appartient a cette définition, et peut importe qui fait quoi
Si quelqu'un sait comment faire évoluer cet état d'esprit qui ne date pas d'aujourd'hui, merci de préciser les recettes