Mon nouveau Mac : et les PC ?, Réactions à la publication du 27/06/2025

[Paul Emploi]

Auteur Marcin Wieclaw


Quand on regarde du côté PC, deux mondes s’affrontent : d’un côté les machines pré-assemblées, souvent "gaming", bardées de LED et proposées à des prix absurdes pour ce qu'elles offrent… Et de l’autre, le sur-mesure, qui peut réellement avoir du sens si l’on sait ce qu’on veut.


Dans mon cas, avec des besoins bien spécifiques, une bonne puissance CPU, 32 Go de RAM minimum, et surtout une carte graphique capable de faire tourner des modèles de langage (LLM) en local, certaines configurations PC commencent à devenir intéressantes.


CPU : AMD en embuscade


Côté processeur, le Ryzen 9 7900X (12 cœurs) offre de très bonnes performances brutes, au-dessus d’un M4. Le 7950X (16 cœurs), pour 150 € de plus, est proche d’un M4 Max 14 cœurs ou M4 Pro en multi-thread, tout en restant très compétitif en prix/performance.


Je n'attends rien d'Intel: on a déjà du bon chauffage à la maison!


RAM : la claque


C’est là que le PC enterre Apple. Pour le prix qu’Apple facture pour 8 Go supplémentaires (passer de 16 à 24 Go coûte 250 €…), on peut s’offrir 96 Go de DDR5 sur PC !
Autant dire que pour des bases SQLite en RAM ou des projets lourds, la messe est dite.


GPU : le vrai nerf de la guerre


Et là, nVidia vient de frapper fort avec la RTX 5060 Ti 16 Go. Pensée pour l’inférence IA, avec ses Tensor Cores Blackwell et le support du FP4 (float 4 bits), elle surpasse clairement un M4 Max et même un M3 Ultra dans ce domaine très spécifique.


Côté jeu vidéo en revanche, elle atteint ses limites en 4K : la RTX 5070 prendra le relais pour les gamers. Mais pour de l'IA locale, c’est une bombe!

Stockage : c’est cadeau


1 To en NVMe, c’est désormais moins de 100 €. Sans commentaire.


Le hic


Oui, tout ça a un coût : boîtier, alimentation costaude (800W, si un jour vous voulez doubler les GPU), refroidissement, etc. On frôle facilement les 1500 €, sans Windows, et sans macOS bien sûr.


Et on perd aussi la portabilité. Un Mac mini, ça se trimballe dans un sac.
Une tour PC… pas vraiment.


Conclusion


Le monde PC devient vraiment intéressant dès qu’on a besoin de beaucoup de RAM, d'une ou plusieurs GPU musclées ou d’un gros stockage. Ou d'un ordi très abordable.

Et pour rappel : Apple vend la RAM 8 fois plus cher, le SSD 4 fois plus cher et côté GPU, c’est très limité pour très cher là aussi.


Mon Mac mini M4 32 Go/256 Go devrait arriver aujourd'hui! J'ai hâte!


Lien vers le billet original

[MacAstray]

Bonjour,
Il y a peu, j’ai sauté le pas pour le Mac Mini M4 pro sur le refurb d’Apple en 24/512Go.
J’ai également commandé un « dock » Beelink Mate Mini model B que j’ai équipé d’un SSD SN850 1Go (recup de ma PS5).
Ainsi le m4 pro avec son lien Thunderbolt 5 me permet d’atteindre 5200Mo/s en lecture et écriture de façon stable avec Blackmagic en mode 5Go (beelink donne une limite à 3200Mo/s en écriture sur son site pour les macs, manifestement, ce n’est pas le cas, du moins en thunderbolt 5).
La carte réseau 2.5G du dock avec son chip realtek plafonne à 2gbits (le pilote d’Apple est en cause).
J’ai connecté un disque dur 2,5pouces en usb A pour les sauvegardes Time Machine.
Le ventilateur est inaudible et je n’ai pas eu besoin d’ajouter une alimentation au dock (via usb-c).
Le Mate Mini a été livré par DHL depuis la Chine (37euros de frais de dossier/douane/taxe en sus).

J’espère que ce petit post pourra donner des idées pour limiter la « taxe » Apple sur les SSD et l’ethernet des Mac Mini M4

[MacAvantIOS]

Tu soulèves un point intéressant en terme de performance/prix pour les LLM

Est-ce qu'il vaut mieux une machine ultra-boostée RAM à base de M4, ou un pauvre M2-M3 au tiers du prix, en se payant un PC bien doté avec la différence.

Quand je vois la cote des machines M2 M3 aujourd'hui en vrai-faux neuf (refurb store), j'avoue que je me pose la question...

Mon Mac mini M4 32 Go/256 Go devrait arriver aujourd'hui! J'ai hâte!

Des bench! Des bench!

Ce message a été modifié par MacAvantIOS - 27 Jun 2025, 06:33.

[Mac Arthur]

On sait tous que c'est "le dernier kilomètre" qui est critique en logistique
Keep your fingers crossed.

[SuperCed]

Tu nous diras si tu changes le SSD interne et par quoi, si c'est compliqué, si ça marche bien etc.

[roseau]

j'ai beaucoup apprécié la chute de la news

Bonjour,
Il y a peu, j’ai sauté le pas pour le Mac Mini M4 pro sur le refurb d’Apple en 24/512Go.
J’ai également commandé un « dock » Beelink Mate Mini model B que j’ai équipé d’un SSD SN850 1Go (recup de ma PS5).
Ainsi le m4 pro avec son lien Thunderbolt 5 me permet d’atteindre 5200Mo/s en lecture et écriture de façon stable avec Blackmagic en mode 5Go (beelink donne une limite à 3200Mo/s en écriture sur son site pour les macs, manifestement, ce n’est pas le cas, du moins en thunderbolt 5).
La carte réseau 2.5G du dock avec son chip realtek plafonne à 2gbits (le pilote d’Apple est en cause).
J’ai connecté un disque dur 2,5pouces en usb A pour les sauvegardes Time Machine.
Le ventilateur est inaudible et je n’ai pas eu besoin d’ajouter une alimentation au dock (via usb-c).
Le Mate Mini a été livré par DHL depuis la Chine (37euros de frais de dossier/douane/taxe en sus).

J’espère que ce petit post pourra donner des idées pour limiter la « taxe » Apple sur les SSD et l’ethernet des Mac Mini M4

Un mini avec un stockage au minimum mais de la ram confortable , et des disques à coté c'est suffisant pour le commun des mortels, à cela tu ajoute un iMac 27 5k comme écran ( faut bien un peu de bidouille) ça doit être bien à la fin

Ce message a été modifié par roseau - 27 Jun 2025, 09:03.

[Paul Naurd]

Bonne réception de machine

[Paul Emploi]

Elle est arrivée, son SSD externe de 1 To aussi (Patriot) qui m'a surpris quand j'y ai copié plus de 300 Go de données, en ne s'écroulant pas au bout d'un moment, d'ailleurs ça n'a pas duré un gros moment pour la copie.

J'ai évidemment chargé LM Studio et essayé 2-3 LLM, dont Gemma de Google proposé par défaut.
Pour l'instant la plus grosse chargée fait 27 milliards de paramètres (weights), sans problème avec 5 Go libres (cache) et sans swap du système.
Évidemment les performances varient, ainsi que la qualité des résultats, avec la taille de la LLM.
Et évidemment on attend des caractéristiques différentes d'une session interactive (chatbot) que d'un usage automatisé, le second représentant plus mes besoins initiaux.

Je vais vous en reparler la semaine prochaine: la qualité des réponses sur mon "fameux" bench "Que peut-on faire un week-end en vacances à Limoges" qui teste pas mal de choses ceci-dit, la latence puis vitesse de la réponse, la qualité des réponses sur une analyse de code exemplaire (et leur temps total), etc.

[brbc]

Bonjour

Le Mac c'est typiquement la machine généraliste. Quelqu'un qui a plein de tâches exécutées, et qui a besoin d'un bon coup de fouet de temps à autre, c'est super. La puissance est correcte, l'efficience extra, le silence d'or, et l'expérience utilisateur j'adore (surtout l'écosystème). J'ai un PC puissant pour le jeu, jamais je ne l'utiliserai pour mon travail !

Pour une utilisation spécifique le PC a l'avantage de pouvoir être configuré sur mesure, donc de répondre exactement au besoin.

PS : au bureau j'ai un MBP Intel (le dernier sorti), je le troquerai bien pour un PC : ça chauffe, ça fige, ça rame, ça ventile... il est comme ça depuis qu'il est neuf. A la maison, le MBP M2 est un régal.

[Mac Arthur]

"Que peut-on faire un week-end en vacances à Limoges"

Ça m'intéresse, je me demandais si je venais y passer mes vacances cet été. Boutade...

Ravi pour toi et bonne mise en route et tests(sssss).
Je déballe le mien lundi,
Noël un 1er juillet, il ne manquera que le sapin.

[Paul Emploi]

"Que peut-on faire un week-end en vacances à Limoges"

Ça m'intéresse, je me demandais si je venais y passer mes vacances cet été. Boutade...

Points bonus pour la première IA qui rajoutera à sa réponse complète que "tu vas quand-même t'emmerder comme un rat mort"

[Mac Arthur]

Le hub à connecter au Studio semble donc plus attractif que celui de leur aéroport. Je le note.

[Paul Emploi]

Oui il y a le point du manque de ports au final, même comparé à un MacBook Air.

Clavier, souris, webcam et système sonore (DAC USB + Casque ou petits moniteurs actifs) : 4 ports USB occupés sur le Mac mini... 3 si on se satisfait de la sortie casque moyenne.
Évidemment un port USB dans mon cas pour mon écran, j'ai pris un câble USB Type C, je vais en retrouver un HDMI, donc les 5 ports USB occupés pour l'instant.
Pour utiliser le SSD externe je ne branche donc pas la webcam encore.

Devoir arbitrer sur l'usage des ports sans parler de mes futures sauvegardes TimeMachine en USB aussi, c'est pas zoli zoli.
HUB USB même pourri? Ancien clavier USB avec port USB pour la souris? Clavier Apple bluetooth au prix de 3 Raspberry Pi?

En tout cas je vais en reparler...

[Mac Arthur]

Moi je me suis mis à la transcription vocale vers le texte faute de clavier en TB5. Je tapais trop vite ça saturait. Pas assez de débit.
Apple nous bride, c'est évident

Ce message a été modifié par Mac Arthur - 27 Jun 2025, 15:00.

[joe75]

Bonjour

Le Mac c'est typiquement la machine généraliste. Quelqu'un qui a plein de tâches exécutées, et qui a besoin d'un bon coup de fouet de temps à autre, c'est super. La puissance est correcte, l'efficience extra, le silence d'or, et l'expérience utilisateur j'adore (surtout l'écosystème). J'ai un PC puissant pour le jeu, jamais je ne l'utiliserai pour mon travail !

Pour une utilisation spécifique le PC a l'avantage de pouvoir être configuré sur mesure, donc de répondre exactement au besoin.

PS : au bureau j'ai un MBP Intel (le dernier sorti), je le troquerai bien pour un PC : ça chauffe, ça fige, ça rame, ça ventile... il est comme ça depuis qu'il est neuf. A la maison, le MBP M2 est un régal.

On trouve la même chose dans le monde PC qui est bien plus vaste...
Pour moi c'est plus le PC qui est une machine géneraliste quand on sait bien le choisir, c'est une question de goûts et d'habitudes...avec un petit avantage peut être sur Mac pour les performances brutes /consommation dans certains cas.

Ce message a été modifié par joe75 - 27 Jun 2025, 15:12.

[gpv]

"Que peut-on faire un week-end en vacances à Limoges"

Ça m'intéresse, je me demandais si je venais y passer mes vacances cet été. Boutade...

Points bonus pour la première IA qui rajoutera à sa réponse complète que "tu vas quand-même t'emmerder comme un rat mort"

Salut,

N'étant pas une IA, je serais à limoges le WE prochain (4 au 7 juillet) pour : Ça !
Il n'y a pas que les Mac dans la vie.

P.S. : à 1h de Limoges, le Lac de Vassivière vaut la peine de s'y attarder.

Ce message a été modifié par gpv - 27 Jun 2025, 15:43.

[scoch]

J'ai évidemment chargé LM Studio

As-tu déjà essayé AnythingLLM ? Un peu la même chose mais avec des agents, et la possibilité d’en créer, pour faire de la RAG, interagir avec des DB SQL, sauver des fichiers, etc.

[Paul Emploi]

J'ai évidemment chargé LM Studio

As-tu déjà essayé AnythingLLM ? Un peu la même chose mais avec des agents, et la possibilité d’en créer, pour faire de la RAG, interagir avec des DB SQL, sauver des fichiers, etc.

Non, je prends note, mais je me méfie des agents qui nécessitent des gardes-fous très solides!

[MacAvantIOS]

J'ai évidemment chargé LM Studio

As-tu déjà essayé AnythingLLM ? Un peu la même chose mais avec des agents, et la possibilité d’en créer, pour faire de la RAG, interagir avec des DB SQL, sauver des fichiers, etc.

Le problème d'AnythingLLM c'est qu'il ne supporte pas les modèles en MLX

Mais... il sait s'interfacer avec LMStudio en serveur local

La on a le meilleur des deux mondes : AnythingLLM pour son excellente gestion de contextes, et LM Studio pour le choix des modèles.

Je trouve par contre AnythingLLM mauvais dans les appels d'agents. Ça passe une fois sur 10 chez moi, 90% du temps l'appel est halluciné. Finalement je suis revenu au bon vieux CrewAI/Python. Tu arrives à t'en servir de manière fiable?

[Sethy]

Je réponds rapidement.

Avec le PC, c'est aussi le réemploi qui est possible. Si on achète une bonne alim, elle peut tenir 10-12 ans.

De même pour le boitier, le mien date de 2014. J'ai juste remplacer les ventilateurs.

Je me suis fait une machine serveur de VM et pour 261 euros, j'ai installé 128 GB de RAM DDR4. Il est basé sur un AMD de la génération précédente (16 coeurs / 32 threads) et un GPU de récup (une 970).

Car c'est aussi, un PC : pouvoir pousser certains composants, sans devoir payer pour d'autres dont on n'a pas forcément besoin (ex chez Apple : il faut passer au modèle xx pouces si on veut plus de yy quantité de RAM).

[Paul Emploi]

...
Car c'est aussi, un PC : pouvoir pousser certains composants, sans devoir payer pour d'autres dont on n'a pas forcément besoin (ex chez Apple : il faut passer au modèle xx pouces si on veut plus de yy quantité de RAM).

Un Raspberry Pi oui, les kits ESP32 oui. Tous les PC non. Ça n'est pas propre aux PC, et tous les PC ne le permettent pas.
Beaucoup de PC sont tout soudé comme des Mac, c'est de plus en plus courant, ils suivent la tendance...

De moins en moins de gens montent leurs PC eux-même, d'abord car les ordinateurs portables c'est le marché, ensuite car le coté de se monter son propre PC, différent des autres se perd malheureusement. Certains Mac ont permis cela, le Macintosh II ayant été un exemple parfait, Steve Jobs étant sur la touche!
Je trouve cela malheureux.

Et si je prends un PC, chaque composant sera choisi, et il ne ressemblera à rien car le boîtier sera le moins cher possible que je puisse bien ventiler!
Tout l'inverse des PC "gamers" qu'on trouve partout. Je ferais mon Henry Cavill. Retour aux années 90 pour moi!
Le vrai PC de hobbyist n'a pas des LED colorées partout, il ne ressemble à rien, mais si on regarde dedans c'est autre chose...

@gpv oui mais enfin c'est pas la fête le Lac de Vassivièrre. Il y a aussi Saint-Léonaard de Noblat, patrie de PouPou que j'ai maintes fois croisé en voiture quand allant ou revenant de leur Club Microtel pour lequel j'avais réalisé un serveur. Dans les côtes il poutrait encore le bougre. Et pour certains Limougeauds le camping de St-Leo était des vacances en caravane ou en tente. C'est dire si ils se faisaient chier à Limoges! St-Léo c'est beau pendant 2 heures...
Et je parle pas des boîtes là. Et des rares bars sympas, sans parler du seul bar gay et de la seule boîte gay triste à mourrir, autant visiter un EPAHD!
Mais j'y ai de bons souvenirs, comme la gare superbe quand je fuyais en train!

[tepaze]

Hello,
Je monte des PC Tour pour le boulot de temps à autres. Pas des PC de gamers, des PC de Streaming essentiellement.
Pour les boitiers, je me dirige vers des boitiers de marque plutôt orienté Gaming, car c'est vraiment eux qui sont les mieux pensé en terme de passage de câble, d'installation des composants, et d'aération...
J'ai commencé avec des boitiers vraiment pas cher, et c'est vraiment galère.

[scoch]

Je trouve par contre AnythingLLM mauvais dans les appels d'agents. Ça passe une fois sur 10 chez moi, 90% du temps l'appel est halluciné. Finalement je suis revenu au bon vieux CrewAI/Python. Tu arrives à t'en servir de manière fiable?

Non, pas d’utilisation stable. Je posais justement la question pour avoir des retours.
J’essaie l’utilisation de modèles en local par curiosité, ça me plairait de pouvoir en profiter.
Mais je dois me contenter pour l’instant d’un matériel peu adapté : un laptop windows (i7 12th gen 2.30 Ghz, RAM 32 Go, Nvidia 4 GB vram). Les retours sur l’utilisation sur Mac Silicon m’intéressent vivement.
J’ai suivi les recommandations de la doc en utilisant des modèles quantifiés en 8 bit minimum (llama3.1:8b-instruct-q8_0 et gemma3:4b-it-q8_0).
Mes déceptions :
- pour la RAG, certains documents ne sont jamais consultés… dans un corpus de petits documents au format markdown ;
- hallucinations spectaculaires (surtout avec llama) ;
- les appels aux blocs dans les flows peuvent échouer.

Je me demande donc si c’est à cause de la configuration matérielle que les résultats sont aussi décevants. Pour info, en moyenne 8 tokens /s avec Gemma, 5 tokens /s avec Llama.

[MacAvantIOS]

Ouh la, quelle patience. 5 tokens/s ca commence vraiment à faire lent.

J'utilise peu llama maintenant, je trouve qu'il hallucine bien trop même s'il va vite sur mon M1Pro.

Gemma3 et Qwen sont pas mal. Phi4 est très bon pour mes usages mais d'une lenteur insupportable.

Je partage toutes tes déceptions. La doc d'AnythingLLM est assez laconique avec son "ça marche pas comme vous voulez? faites tourner des modèles plus gros.". Certes, mais jusqu'où? Avec 16 Go de mémoire unifiée c'est encore trop aléatoire pour être utilisable pour moi au quotidien. Est-ce que ce serait mieux avec 32 Go? Peut être, mais j'ai un doute (et le ticket d'entrée est cher).

Pas plus tard qu'hier j'ai refait des tests avec gemma3n. Excellents résultats avec des flows qui se comportent bien pendant 1h, que j'enrichis petit à petit... puis plus rien, plus aucun appel ne passe. Ce côté non-reproductible est extrêmement énervant, je trouve que l'on perd tout le plaisir du dev algorithmique où l'on peut passer à autre chose une fois que les choses ont bien été faites.

[Paul Emploi]

Je trouve par contre AnythingLLM mauvais dans les appels d'agents. Ça passe une fois sur 10 chez moi, 90% du temps l'appel est halluciné. Finalement je suis revenu au bon vieux CrewAI/Python. Tu arrives à t'en servir de manière fiable?

Non, pas d’utilisation stable. Je posais justement la question pour avoir des retours.
J’essaie l’utilisation de modèles en local par curiosité, ça me plairait de pouvoir en profiter.
Mais je dois me contenter pour l’instant d’un matériel peu adapté : un laptop windows (i7 12th gen 2.30 Ghz, RAM 32 Go, Nvidia 4 GB vram). Les retours sur l’utilisation sur Mac Silicon m’intéressent vivement.
J’ai suivi les recommandations de la doc en utilisant des modèles quantifiés en 8 bit minimum (llama3.1:8b-instruct-q8_0 et gemma3:4b-it-q8_0).
Mes déceptions :
- pour la RAG, certains documents ne sont jamais consultés… dans un corpus de petits documents au format markdown ;
- hallucinations spectaculaires (surtout avec llama) ;
- les appels aux blocs dans les flows peuvent échouer.

Je me demande donc si c’est à cause de la configuration matérielle que les résultats sont aussi décevants. Pour info, en moyenne 8 tokens /s avec Gemma, 5 tokens /s avec Llama.

J'ai essayé Gemma3, dans différentes tailles, et les contre-performances que tu décris, il faut monter à 12 milliards (12B) de paramètres/weights pour aller aussi lentement sur le M4 de base. Tout à fait utilisable dans des sessions non-interactives, mais sur des sessions interactives c'est vraiment insupportable!
On s'entend que la qualité augmente avec le logarithme de la taille du LLM, sur les petites tailles.

Et évidemment un Gemma3 similaire au tien mais en int4 (le M4 supporte le int4), ça va plusieurs fois plus vite.
Il est probable que tu n'ai pas la bonne GPU pour tes LLMs.
Elle manque de VRAM et elle ne supporte probablement pas le int4 puisque tu utilises le int8.

D'ailleurs dans mes essais, à quantité mémoire similaire sur la même famille de LLM, une version int4 avec plus de paramètres (weights) est un peu au-dessus du même en int8 avec moins de paramètres. À empreinte mémoire similaire donc et même famille de LLM.
Le fp4 introduit par nVidia dans Blackwell semble très prometteur, et on peut convertir un modèle int8 en fp4 une fois pour toute.

Dans mes essais j'aime bien Gemma 3, c'est pas mal du tout. Sauf qu'il ne sait pas à quel point on se fait chier le week-end à Limoges!
J'adore Qwen 2.5 en version coder+instruct , qui fait ce qu'on lui demande de faire (c'est pas gagné, essayez Deepseek coder+instruct 3B!), mais la qualité des résultats est variable suivant la tâche demandée. Mais elle fonctionne bien dès les 3 milliards (3B), utilisable sur tout Mac ARM 16 Go.

Dans mes différentes tâches, je valide différents LLM avec différentes tailles, ma contrainte principale étant non les performances pures, mais la qualité minimum avec de bonnes performances. La qualité minimum à atteindre est donc le facteur décisif. Les performances dans le respect de mes critères de qualité étant évidemment le second facteur.

Et comme troisième facteur, car j'ai un projet que j'aimerais diffuser en open-source, ou ad-minima utiliser et donner accès à mon travail, c'est de pouvoir l'exploiter sur un Mac ARM avec 16 Go de RAM. On est donc dans du 3B à 7B maxi en int4, 3B en int8 de manière plus réaliste.
Avec comme compromis d'offrir une option si nécessaire pour que ça tourne donc sur un Mac 16 Go Apple Silicon, même si la qualité est un peu inférieure.
Imparfait > rien. Tant que ça ne transforme pas le Mac en addict à la LSD!!!

[scoch]

Ouh la, quelle patience. 5 tokens/s ca commence vraiment à faire lent.

Étant donné que pour l’instant je fais cela par curiosité, de la prospective, j’accorde beaucoup plus d’importance à la qualité du contenu généré qu’à la vitesse. L’aspect qui me motive le plus c’est la RAG. Avec cette lenteur les sessions interactives sont exclues mais je serais déjà un peu satisfait si je pouvais exécuter des prompts qui vont bien et laisser faire lentement en tâche de fond.
Ça donne quoi chez toi le travail sur un corpus ? Il arrive bien à croiser les informations réparties dans plusieurs documents ?

Pas plus tard qu'hier j'ai refait des tests avec gemma3n. Excellents résultats avec des flows qui se comportent bien pendant 1h, que j'enrichis petit à petit... puis plus rien, plus aucun appel ne passe. Ce côté non-reproductible est extrêmement énervant, je trouve que l'on perd tout le plaisir du dev algorithmique où l'on peut passer à autre chose une fois que les choses ont bien été faites.

C’est plein de mystères… Même un ChatGPT payant peut, avec un même prompt et un même modèle, se montrer parfois paresseux alors que généralement le résultat est très satisfaisant. Ça dépend de la météo ? De l’occupation des serveurs ?
Je vais essayer gemma3n.

Imparfait > rien. Tant que ça ne transforme pas le Mac en addict à la LSD!!!

Très imparfait > rien… Pas forcément.

Merci pour vos réponses.

[Paul Emploi]

Imparfait > rien. Tant que ça ne transforme pas le Mac en addict à la LSD!!!

Très imparfait > rien… Pas forcément.

Merci pour vos réponses.

Imparfait > rien. Tant que ça ne transforme pas le Mac en addict à la LSD!!!

Cite-moi parfaitement

N'hésite pas à me revenir si tu ne comprends pas ce que je veux dire par "imparfait". Le rien parle de lui même.

[scoch]

Imparfait > rien. Tant que ça ne transforme pas le Mac en addict à la LSD!!!

Très imparfait > rien… Pas forcément.

Merci pour vos réponses.

Imparfait > rien. Tant que ça ne transforme pas le Mac en addict à la LSD!!!

Cite-moi parfaitement

N'hésite pas à me revenir si tu ne comprends pas ce que je veux dire par "imparfait". Le rien parle de lui même.

Je souriais à ton propos et ajoutais un remix d’une partie.

Ce que je comprends de ton « imparfait » c’est que ça demande de faire des choix, tels que la précision du modèle (accepter de l’imperfection), des compromis adaptés aux contextes, et au-delà que ça génère forcément des erreurs à un moment.
Si ce n’est qu’au sujet de ton projet, je pourrais comprendre qu’il s’agirait d’un utilitaire qui ne serait pas un agent auquel on confirait les clefs du Mac.

[Paul Emploi]

Ce que je comprends de ton « imparfait » c’est que ça demande de faire des choix, tels que la précision du modèle (accepter de l’imperfection), des compromis adaptés aux contextes, et au-delà que ça génère forcément des erreurs à un moment.
Si ce n’est qu’au sujet de ton projet, je pourrais comprendre qu’il s’agirait d’un utilitaire qui ne serait pas un agent auquel on confirait les clefs du Mac.

Exactement!

Contrairement à d'autres je ne me vois pas donner les clés de mon royaume à des IA.
Ça arrivera peut-être sur une machine réinitialisée, donc finalement ne donner les clés que de l'usage temporaire du matériel...

Et l'idée est un petit projet pour réaliser automatiquement ce que je réalise des fois à la main, en laissant travailler une machine le temps qu'il faut (ça n'est donc pas interactif), tout en sirotant un mojito sous un parasol: les machines sont là pour travailler, pas moi

[MacAvantIOS]

Ouh la, quelle patience. 5 tokens/s ca commence vraiment à faire lent.

Étant donné que pour l’instant je fais cela par curiosité, de la prospective, j’accorde beaucoup plus d’importance à la qualité du contenu généré qu’à la vitesse. L’aspect qui me motive le plus c’est la RAG. Avec cette lenteur les sessions interactives sont exclues mais je serais déjà un peu satisfait si je pouvais exécuter des prompts qui vont bien et laisser faire lentement en tâche de fond.
Ça donne quoi chez toi le travail sur un corpus ? Il arrive bien à croiser les informations réparties dans plusieurs documents ?

C'est assez médiocre sur AnythingLLM.

Clairement, mieux vaut fournir le corpus en .txt déjà.
Ensuite, en faisant des tests, je me suis rendu compte qu'il oubliait de regarder certains documents (de manière aléatoire bien sûr).
J'ai donc ajouté une moulinette qui regroupe tout ce que je veux mettre dans le contexte dans un unique fichier .txt

La dernière version de LM Studio prend en charge la RAG, je vais tester voir si cela marche mieux.
Le problème principal à mon sens, est qu'on est toujours dans l'aléatoire. Difficile de faire un workflow quand les choses marchent X% du temps.

C’est plein de mystères… Même un ChatGPT payant peut, avec un même prompt et un même modèle, se montrer parfois paresseux alors que généralement le résultat est très satisfaisant. Ça dépend de la météo ? De l’occupation des serveurs ?
Je vais essayer gemma3n.

On sait qu'il y a une part (ajoutée) d'aléatoire dans les réponses, mais clairement quand il manque des gros bouts au process c'est problématique.

Je trouve ChatGPT et Gemini, même en gratuit, bien meilleurs que les IA locales malheureusement (ce n'était pas forcément le cas il y a un an).