OpenAI propose une IA LLM générative en libre-accès et en deux tailles, Réactions à la publication du 06/08/2025

[Paul Emploi]

[MàJ par Philippe]

À la question-piège "Que peut-on faire un week-end de vacances à Limoges", rien ne m'a été épargné par le nouvel GPT-OSS d'OpenAI dans sa version 20B (20 milliards de paramètres/weights) nécessitant déjà 24 Go de RAM sur un Mac ARM.

La porcelaine ou les céramiques? Non.
Les promenades le long de la Loire? Oui.
La visite du chateau de Chambord? Oui, aussi!

À cette échelle (20B) c'est la plus mauvaise IA que j'ai essayé!

En bonus pour lui Oradour-sur-Glane se résume à une auberge! Si si!
À la place il recommande le Parc Naturel du Morvan, ou le Parc d'attraction du Puy de Dôme. Il n'a pas vraiment le compas dans l'œil.

[Article initial]

OpenAI avait été originellement créé pour proposer des IA en libre-accès, et a depuis changé son fusil d'épaule, devenant un mammouth des IA payantes via abonnement ou accords avec des partenaires comme Apple et surtout Microsoft. Les différents ChatGPT.

Le modèle GPT-OSS vient d'être proposé avec 20 milliards ou 120 milliards de paramètres (weights), et maintenant accessibles via LM Studio, ou téléchargeables séparément, en accès-libre.

Néanmoins nombre d'entre nous auront une belle déconvenue, car si des sites indiquent que le plus petit modèles (20 milliards de paramètres/weights) tournerait sur un Mac récent avec 16 Go de RAM, ça n'est malheureusement pas possible.


Pour faire tourner le plus petit modèle, il vous faut un Mac ARM avec 24 Go de RAM au minimum.
Alternativement sur PC, une dGPU avec 16 Go de RAM comme l'excellente et abordable GeForce RTX 5060 Ti 16 Go.


Le modèle avec 120 milliards de paramètre devrait tourner sur un Mac ARM avec 96 Go de RAM sans que je puisse le vérifier dans ce cas. Avec 128 Go de RAM ça passera large.

Je vais lui faire passer mes petits "benchmarks" ce soir.

Lien vers le billet original

[steph_run]

Salut,

J'ai testé depuis quelques mois - depuis que j'utilise un MBP M1max /32Go en fait - quelques modèles sur LMStudio. Et je dois passer à travers quelque chose car je trouve qu'au regard de la qualité des réponses des modèles cloud on est forcément à des années lumières. Du coup je ne vois pas trop l'intérêt pour des particuliers de faire tourner des LLM en local. En codage peut-être ? Pour certaines entreprises, avec des configs monstrueuses dédiées et des modèles entrainés spécifiquement je peux imaginer.

Je vais donc regarder openai/gpt-oss-20b . Déjà 20B avec une quantification 4,25 bit ça devrait causer un peu, mais ça commence mal :

Q : Quelle était la couleur du cheval rouge d'Henri IV ?
R : Il était rouge – c’est exactement la couleur qu’on lui attribue dans les récits.

Je suis en revanche beaucoup plus enthousiaste sur les modèle génératifs text to image en local comme Stable Diffusion. A condition de "prompter" en anglais on obtient des trucs bluffants qui prendraient des heures d'Illustrator + Photoshop. Et c'est vachement stimulant d'essayer d'arriver à des réalisations de plus en plus précises.

[joe75]

Salut,
[...] un peu, mais ça commence mal :

Q : Quelle était la couleur du cheval rouge d'Henri IV ?
R : Il était rouge – c’est exactement la couleur qu’on lui attribue dans les récits.

Pas sûr que Gemini (non pro) donne de meilleurs résultats...je préfère la réponse détaillée de Perplexity


Gemini a répondu :"Il y a un jeu de mots dans votre question. La couleur du cheval rouge d'Henri IV était le rouge."

Perplexity :" La couleur du cheval rouge d'Henri IV n'est pas une question courante, car la célèbre devinette porte sur "la couleur du cheval blanc d'Henri IV". Ainsi, la question sur le "cheval rouge" semble être une variante humoristique ou un piège....etc...
et il continue à disserter sur la vraie couleur du cheval ..qui était historiquement plutôt grise...