Des nouvelles des IA : le concours de journalistes mangeurs de hot-dogs, Réactions à la publication du 06/03/2026

[Paul Emploi]

Thomas Germain est un journaliste technologique de la BBC reconnu, et qui semble aimer mettre des mains dans le cambouis et des fois dans la fange ...

Il a créé une simple page pour donner les résultats du dernier championnat International de Dakota du Sud de bouffage de hot-dog (traduction libre).
Il y a les résultats des différents candidats, certains étant aussi des journalistes très reconnus, ainsi qu'un petit addenda pour indiquer tout le sérieux de ce championnat.

Et pendant quelque temps, ChatGPT d'OpenAI et Gemini de Google ont reporté cela de manière très sérieuse : une simple page Web sur un sujet dont personne ne parle ailleurs, avait été ingérée par les IA et était devenu "une vérité".

Tout cela est évidemment une farce, orchestrée avec talent par ce journaliste, avec la complicité des autres dont les noms apparaissent, et qui a nécessité l'adjonction d'un petit paragraphe encore plus satirique pour indiquer que le sujet n'était pas une satire !

Depuis, OpenAI et Google ont corrigé le tir.

Le problème c'est que tout le monde peut faire ça dans son coin, les mécanismes d'apprentissage des IA sont donc exposés à tous les abus : on a jamais été plus proche de la post-vérité qu'aujourd'hui, surtout pour les IA qui veulent imposer leurs "vérités" avec tant d'aplomb.

Lien vers le billet original

[Pyth]

Rien de nouveau sous le soleil : avant les IA, c'étaient juste les humain qui fabriquaient des fausses information et des humains qui les lisaient sans esprit critique. De ce point de vue, quelle différence entre une IA et les résultats d'un Google search ? Hormis la forme, rien n'a changé depuis 30 ans sur la toile...
Sourcer ses information est toujours aussi important, IA ou pas !

[scoch]

Rien de nouveau sous le soleil : avant les IA, c'étaient juste les humain qui fabriquaient des fausses information et des humains qui les lisaient sans esprit critique. De ce point de vue, quelle différence entre une IA et les résultats d'un Google search ? Hormis la forme, rien n'a changé depuis 30 ans sur la toile...
Sourcer ses information est toujours aussi important, IA ou pas !

Une chose qui change c’est que globalement les IA présentent les informations comme des faits contrairement aux moteurs de recherche traditionnels. Des études montrent qu’une grande proportion d’utilisateurs sont moins susceptibles de cliquer sur un lien quand un aperçu IA apparaît au-dessus, ce qui réduit encore le réflexe de vérification…

Il est intéressant de noter que c’est structurel. Si une information semble structurée et crédible, certaines IA peuvent l’intégrer à leurs réponses, souvent sans avertir l’utilisateur que la source est unique et non vérifiée. D’un autre côté, certaines IA sont entraînées à ne pas affirmer avec confiance ce qu’elles ne peuvent pas vérifier. Chez Anthropic, ils nomment cela la “calibration de l’incertitude”. Cela ne garantit pas pour autant une fiabilité absolue mais réduit les risques de désinformation.

Pour apparaitre dans les premiers résultats des SERP (pages de résultats des moteurs de recherche) les éditeurs de sites web utilisent différentes techniques de SEO (optimisation pour le référencement naturel). Désormais, ils utilisent des techniques de GEO (Generative Engine Optimization) pour améliorer la visibilité dans les réponses générées par les IA génératives. Une dérive de GEO, que certains nomment GEM (Generative Engine Manipulation), vise à manipuler les réponses produites par des moteurs de recherche basés sur des LLMs. Pour cela, certains acteurs font comme le super prof de lycée (cf. lien de @gerald87), ils saturent des sources publiques (Wikipedia, Reddit, etc) de contenus orientés afin de biaiser les futurs réponses des LLMs. On a même le cas de Grokipedia, une alternative “free speech” de Wikipédia, dans laquelle OpenAI, entre autres, va puiser des informations.