Des nouvelles des IA : Siri d'Apple par Google Gemini, Réactions à la publication du 16/01/2026

[Paul Emploi]

Google’s Gemini AI illustrations of a 1943 German soldier. Illustration: Gemini AI/Google


On peut tous être rassurés, Google Gemini représente les vraies choses, la vraie vie, l'histoire.
Voir l'illustration ci-dessus représentant des soldats Allemands en 1943, créée par Gemini.
Apple a prétendu que grâce à Google Gemini, Siri va devenir plus perspicace. Sérieux???

Apple a choisi Google Gemini pour son Siri.
Et j'ai comme un doute en regardant cette illustration...

Ne faudrait-il pas poursuivre ceux qui ont créé cela et qui l'ont autorisé ?!?
Apple ne devrait-il pas avoir un minimum d'éthique?
Je sais que je ne dois pas attaquer Apple. Je l'ai lu. Mais ça ... Pas de quartier pour moi!

Lien vers le billet original

[loucheux]

Quel est le prompt ?
Si on lui demande des officiers nazis noirs ou femmes, il fait ce qu'on lui demande, c'est un peu la base.
quand je demande " fais moi une illustration de soldats allemands en 1943 ", je n'ai pas du tout cela....

Ce message a été modifié par loucheux - 16 Jan 2026, 17:25.

[Paul Emploi]

Quel est le prompt ?
Si on lui demande des officiers nazis noirs ou femmes, il fait ce qu'on lui demande, c'est un peu la base.
quand je demande " fais moi une illustration de soldats allemands en 1943 ", je n'ai pas du tout cela....

Bizarre, quand je fais le plein aujourd'hui de la voiture, je ne paye pas le prix d'hier. Pareil pour l'information.

Merci pour ta défense de Google/Alphabet. Mais tu n'avais pas besoin de te ridiculiser au passage

[loucheux]

Quel est le prompt ?
Si on lui demande des officiers nazis noirs ou femmes, il fait ce qu'on lui demande, c'est un peu la base.
quand je demande " fais moi une illustration de soldats allemands en 1943 ", je n'ai pas du tout cela....

Bizarre, quand je fais le plein aujourd'hui de la voiture, je ne paye pas le prix d'hier. Pareil pour l'information.

Merci pour ta défense de Google/Alphabet. Mais tu n'avais pas besoin de te ridiculiser au passage

Bon j'ai cherché. je pensais que c'était récent mais c'est la polémique d'il y a deux ans. je trouve ca ridicule de balancer ce genre d'infos sans contexte

[Paul Emploi]

Quel est le prompt ?
Si on lui demande des officiers nazis noirs ou femmes, il fait ce qu'on lui demande, c'est un peu la base.
quand je demande " fais moi une illustration de soldats allemands en 1943 ", je n'ai pas du tout cela....

Bizarre, quand je fais le plein aujourd'hui de la voiture, je ne paye pas le prix d'hier. Pareil pour l'information.

Merci pour ta défense de Google/Alphabet. Mais tu n'avais pas besoin de te ridiculiser au passage

Bon j'ai cherché. je pensais que c'était récent mais c'est la polémique d'il y a deux ans. je trouve ca ridicule de balancer ce genre d'infos sans contexte

Tu viens donc d'écrire que de présenter des officiers nazis noirs ou des femmes, ça n'a plus d'importance deux ans après?!?
Représenter des noirs ou des femmes faisant des crimes contre l'humanité n'a donc plus de valeur après 2 ans?
Explique moi, je pense que ça va devenir savoureux là

Tout comme l'implication d'Apple avec ces crimes, et leurs représentations...

[powerdoc]

Ces images sont ridicules
Seul les plus ignorants peuvent s'imaginer que dans les rangs de l'armée allemande Hitlérienne il y avait des noirs . Il y avait quelques femmes comme auxillaire, qu'on a surnommé les souris grises.
D'autre part ce ne sont pas des uniformes SS (qui étaient plutôt noirs mais également pantalon noir et chemise marron)

[Alex5555]

Sur le fond, oui, il y a un vrai soucis avec ces "IA". Pas tant ce résultat. Parce que là ça saute aux yeux, mais pour ce que ça démontre en terme de non fiabilité. Si c'est biaisé pour des choses qui sont énormément documentées donc sur lesquelles elles ne devraient pas tromper, comment faire confiance à des résultats qui demandent plus de recherche.

Mais pourquoi tant d'agressivité ?

Si Gemini ne le fait plus c'est que ça progresse.

dans les images, j'ajouterai que au de la d'une forme de diversité mal placé (on comprendra ma pudeur sur ce mot diversité), la représentation n'assume même pas les insignes et code visuels chers à cette armée.

Mais je reviens à mon premier paragraphe. Qu'on me démontre que quand je fais appel à une IA, ça me coute moins de temps que si je recherche et recoupe par moi même. Parce que s'il faut tout vérifier, le gain est proche de 0.

Ce message a été modifié par Alex5555 - 16 Jan 2026, 21:41.

[Paul Emploi]

...
Si Gemini ne le fait plus c'est que ça progresse.
...

As-tu des preuves?
On a des preuves que c'est arrivé, visibles et mises en avant.
Bien sûr ça n'est pas grave si c'était il y a 2 ans. Je veux vraiment entendre qu'on me redise ça.

[Alex5555]

...
Si Gemini ne le fait plus c'est que ça progresse.
...

As-tu des preuves?
On a des preuves que c'est arrivé, visibles et mises en avant.
Bien sûr ça n'est pas grave si c'était il y a 2 ans. Je veux vraiment entendre qu'on me redise ça.

Le simple fait qu'avec le même prompt, il ne donne pas la même réponse. ça ne it en rien que c'est parfait, c'est une progression = diminution du nombre d'erreur. Sinon, me prouver qu'il le faire encore avec le même prompt.

Et non, personne n'a dit, et personne ne dira que ce n'était pas grave. Pourquoi qqn dirait ça? Pas vu écrit, et pas écrit non plus moi même que ce n'était pas grave.

[scoch]

Le simple fait qu'avec le même prompt, il ne donne pas la même réponse. ça ne it en rien que c'est parfait, c'est une progression = diminution du nombre d'erreur. Sinon, me prouver qu'il le faire encore avec le même prompt.

Je trouve aussi que ce serait une bonne idée d'argumenter par la démonstration. Cela permettrait, d'une part, de nous renseigner sur les garde-fous mis en place par les éditeurs d'IA, et d'autre part, d'éventuellement démonter que ces protections pourraient être contournées par du « prompt hacking » (interdit par les CGU). Pour la démonstration, cela demanderait une bonne connaissance des différents LLM.

[Paul Emploi]

C'est indémontrable : deux requêtes identiques n'amènent pas deux réponses identiques, sans même évoquer le contexte (requêtes et réponses préalables).

On peut, au mieux, démontrer que sans facteur aléatoire la réponse obtenue à chaque fois (donc sans contexte ou contexte identique) est ceci et pas cela.
Cela ne donne aucune indication sur les réponses possibles en usage normal...

Quand aux "sécurité", elles me semblent souvent trop sensibles, sans réussir à arrêter des spécialistes du genre, qui continuent à faire dire pis-que-pendre à la plupart des grosses IA.

[joe75]

C'est indémontrable : deux requêtes identiques n'amènent pas deux réponses identiques, sans même évoquer le contexte (requêtes et réponses préalables).

On peut, au mieux, démontrer que sans facteur aléatoire la réponse obtenue à chaque fois (donc sans contexte ou contexte identique) est ceci et pas cela.
Cela ne donne aucune indication sur les réponses possibles en usage normal...

Quand aux "sécurité", elles me semblent souvent trop sensibles, sans réussir à arrêter des spécialistes du genre, qui continuent à faire dire pis-que-pendre à la plupart des grosses IA.

A force de rajouter des gardes fous à tout bout de champ on ne pourra pas plus faire grand chose non plus...
Moi ces images ne me choquent pas..
C est leur diffusion qui peut poser problème

Quand à l exactitude des données ça me fait sourire...on fustigeait Apple et son intelligence et on portait aux nues Google Gemini pour leur efficacité...au final ça ne va pas si loin que ça.
.

On pourrait faire l inventaire de tous les films récents ou pour culture wokisme ou aute diversité on a mis des acteurs noirs pour jouer certains rôles polémiques...
La petite sirène de Disney par exemple

Ce message a été modifié par joe75 - 17 Jan 2026, 15:35.

[Cronos]

Il me semble que les calculs de probabilité sont forcément sollicités quand l'IA traite une quantité énorme de données.
De plus quand l'algorithme va chercher dans les serveurs les data correspondants, à quel endroit physique commence la recherche? il peut être différent en fonction du temps initial de la demande ?
donc la réponse à une même question varie en formulation texte et en précision, sauf erreur de ma part

[Alex5555]

C’est vrai pas démontrable. Je reconnais. Méconnaissance de ma part du monde de fonctionnement de ces IA.

Maintenant, si avec un prompt adapté l’IA génère ce genre d’image c’est ce qu’on lui demande.
A titre d’exemple, pour avoir ce genre d’image sur ChatGPt c’est compliqué, et j’ai dû contourner. Si je demande une illustration trop fidèle à la réalité. Il refuse. si je demande à ce que ça illustre, ca me paraît acceptable à ceci prêt que les protagonistes sont un peu lambdas, et si j’insiste pour avoir des minorités, ça marche en partant de l’image créés avant.

Si je veux une image qui illustre un vélo j’ai encore plus simple d’aller sélectionner dans Google image (si je mets de côté les droits d’auteurs)

Ce message a été modifié par Alex5555 - 17 Jan 2026, 18:13.

[jeandemi]

Peut-être faudrait-il que quelqu'un qui demande la génération d'images pédopornographiques soit dénoncé par l'IA à la police? Ça dissuaderait les gens de faire ce genre de demande...

[joe75]

Peut-être faudrait-il que quelqu'un qui demande la génération d'images pédopornographiques soit dénoncé par l'IA à la police? Ça dissuaderait les gens de faire ce genre de demande...

Perso je trouve que c est grave...Bon Macbidouille n'est pas le lieu pour en parler mais intellectuellement je ne comprends pas qu on puisse condamner quelqu'un pour des images qui ne sont pas réelles. Qu il se le garde pour lui et ne les impose pas aux autres.Quand à la théorie que ça ferait passer a l'acte je n'en sais rien..
La source de la génération des images elle peut poser problème si l'IA s est en effet appuyé sur des images pedo pornographiques...

Bon il y a peut être des sujets plus important avec ce qui se passe ailleurs dans le monde...

[Cronos]

un peu de philosophie:
c'est tout le problème d'une règlementation de L'IA et en général de tout ce qui concerne les réseaux sociaux face aux dérives qu'ils permettent.
c'est pourquoi Thierry Breton, lorsque qu'il était à la commission de l'UE, s'y est attelé à bon escient et bien entendu a été foutu à la porte.
on voit la réaction des responsables américains de grosses société du numérique qui crient comme des cochons que l'on égorge ; il faut faire comprendre à ces gens là que l'on ne peut pas faire n'importe quoi sous prétexte de liberté d'expression.
Il faut reconnaître que tous ces outils numériques sont des armes efficaces pour les malfaisants et les voyous et surtout pour les politiques extrêmes rêvant de dictature.
il faut impérativement trouver la parade si l'on ne veut pas voir la société démocratique que l'on a mis à construire pendant tant d'année se délite au profit d'une mentalité de brutes.
Là les jeunes sont directement concernés( j'ai 87 ans!!) et ils doivent agir en conséquence.
Cela me fait penser aux expéditions de Charcot et de Paul Emile Victor au Groeland:Charcot y a laissé sa vie; M. Trump devrait prendre exemple ....

Ce message a été modifié par Cronos - 18 Jan 2026, 08:56.

[joe75]

un peu de philosophie:
c'est tout le problème d'une règlementation de L'IA et en général de tout ce qui concerne les réseaux sociaux face aux dérives qu'ils permettent.
c'est pourquoi Thierry Breton, lorsque qu'il était à la commission de l'UE, s'y est attelé à bon escient et bien entendu a été foutu à la porte.
on voit la réaction des responsables américains de grosses société du numérique qui crient comme des cochons que l'on égorge ; il faut faire comprendre à ces gens là que l'on ne peut pas faire n'importe quoi sous prétexte de liberté d'expression.
Il faut reconnaître que tous ces outils numériques sont des armes efficaces pour les malfaisants et les voyous et surtout pour les politiques extrêmes rêvant de dictature.
il faut impérativement trouver la parade si l'on ne veut pas voir la société démocratique que l'on a mis à construire pendant tant d'année se délite au profit d'une mentalité de brutes.
Là les jeunes sont directement concernés( j'ai 87 ans!!) et ils doivent agir en conséquence.
Cela me fait penser aux expéditions de Charcot et de Paul Emile Victor au Groeland:Charcot y a laissé sa vie; M. Trump devrait prendre exemple ....

Bon de toute façon le sujet va bientôt être fermé quand je vois ́la réponse qui a été faite plus haut à Loucheux...essaie de générer la moindre représentation de symboles connoté nazis. Ça ne passe pas ou plus dans Gemini ou Perplexity (il refuse catégoriquement pour des raisons éthiques ou légales ), on aura au mieux droit à une description mais ça fonctionne avec Grok et j ai envie de dire pourquoi pas...

C est et ce sera toujours l utilisation détournée qui peut poser problème

[scoch]

C'est indémontrable : deux requêtes identiques n'amènent pas deux réponses identiques, sans même évoquer le contexte (requêtes et réponses préalables).

On peut, au mieux, démontrer que sans facteur aléatoire la réponse obtenue à chaque fois (donc sans contexte ou contexte identique) est ceci et pas cela.
Cela ne donne aucune indication sur les réponses possibles en usage normal...

Quand aux "sécurité", elles me semblent souvent trop sensibles, sans réussir à arrêter des spécialistes du genre, qui continuent à faire dire pis-que-pendre à la plupart des grosses IA.

Je suis d’accord qu’il n’est pas démontrable qu’une IA ne génèrera plus jamais de contenu erroné semblable.

La démonstration expérimentale que j’ai proposée ne pourrait pas prouver définitivement que l’IA ne produira plus jamais ce type d’erreur ou que le problème est corrigé. Un autre prompt ou un autre contexte non testés pourrait produire encore une sortie semblable.

Cependant, cela pourrait montrer que des garde-fous ont été mis en place dans Gemini et que ce sont des compromis qui fonctionnent pour l’usage moyen mais pourraient échouer face à des utilisateurs experts (prompt hackers) ou même d’autres circonstances.
Aussi, en étendant des tests à d’autres modèles, cela pourrait peut-être montrer que le choix d’Apple d’utiliser Gemini ne serait pas le plus mauvais choix.

Concernant ton propos « Ne faudrait-il pas poursuivre ceux qui ont créé cela et qui l'ont autorisé ?!? », je ne suis pas du tout juriste mais les applications qui reposent sur l’IA générative indiquent à l’utilisateur qu’elles peuvent commettre des erreurs et qu’il est recommandé de vérifier. Dans le cas cité dans la brève, une illustration générée par une IA n’est ni une publication historique officielle, ni un document de référence, et elle n’a pas vocation à faire autorité. Il me semble aussi que pour que ce soit recevable juridiquement, il faudrait démontrer l’intention manifeste de désinformation de Gemini.

Enfin, tu poses cette question : « Apple ne devrait-il pas avoir un minimum d'éthique? » Je te réponds par une question : en quoi Apple n’a pas un minimum d'éthique ?

Je ne me pose pas en avocat de qui que ce soit, je trouve seulement que c’est un sujet intéressant qui mériterait d’être traité de façon pédagogique.

Ce message a été modifié par scoch - 18 Jan 2026, 13:58.

[STRyk]

Ces images sont ridicules
Seul les plus ignorants peuvent s'imaginer que dans les rangs de l'armée allemande Hitlérienne il y avait des noirs . Il y avait quelques femmes comme auxillaire, qu'on a surnommé les souris grises.
D'autre part ce ne sont pas des uniformes SS (qui étaient plutôt noirs mais également pantalon noir et chemise marron)

Ceci me rassure, enfin quelqu'un qui connait un peu l'histoire et réagit sur le sujet premier.
Pour ajouter à la chose :
Il y avait bien des femmes en uniforme avec casque, pentalon (...) et combattantes dans l'armée de l'air allemande (La Luftwaffe).
Elles étaient à la DCA (la FLAK), elles étaient appelées "Flakwaffenhelferinnin".

Pour l'autre sujet, Hitler passait bien sur les différences de couleur de peau, lorsqu'il avait besoin d'un certain nombre de personnel...
Il suffit de rechercher avec qui il s'est allié afin de combattre tout azimuth.
Il n'est d'ailleurs pas le seul...

Pour fini, quand je vois ces deux photos, ce qui est totalement délirant c'est le contournement lié aux lois avec la croix gammée, le reste, ca passe.


Ce message a été modifié par STRyk - 19 Jan 2026, 12:10.

[cboudier]

Ce prompt transforme ChatGPT en facho : les chercheurs scandalisés

https://www.lebigdata.fr/ce-prompt-transfor...urs-scandalises

Et juste après l’introduction de cet article, qu’est-ce qu’on peut lire…

Nous recommandons Gemini

Ce message a été modifié par cboudier - 25 Jan 2026, 10:54.