Nvidia DGX : un énorme échec, Réactions à la publication du 11/09/2025

[Paul Emploi]

Je vous avais parlé du Nvidia DGX Spark aussi appelé "Project Digit" : basé sur la nouvelle architecture Blackwell et supportant un encodage fp4 (virgule flottante avec 4+1 bits d'informations au total), 128 Go de RAM permettant de supporter des modèles d'IA jusqu'à probablement 200 milliards de paramètres (weight). Avec les performances Nvidia pour l'IA.
Autour de 3000$ USD le bout.

L'annonce comportait aussi une DGX station, avec 768 Go de RAM, pouvant supporter les meilleurs grands modèles de langages (LLM) dans leurs plus grandes tailles comme DeepSeek, même avec 1000 milliards de paramètres/weights, là aussi avec des performances incroyables attendues avec du Nvidia. Mais moins accessible évidemment.


Ce DGX Spark avait été annoncé il y a 6 mois, en mars 2025 pour sortir ou au moins être précommandable en avril 2025...
Mon boss avait précommandé 2 DGX Spark à 3000$ USD l'unité. On en a reparlé hier.

Six mois plus tard, on ne voit rien venir, un échec cuisant pour Nvidia et ses partenaires dont HP ou Dell, et la raison semble être des problèmes de production des puces nécessaires, de la génération Blackwell, chez TSMC !

Nvidia lui aussi est frappé de la malédiction du contrôle sur la fabrication de ses puces, comme Intel !


Heureusement, Apple propose des Mac Studio M4 Max avec 128 Go de RAM, et des Mac Studio M3 Ultra avec 512 Go de RAM (jusqu'à 600-700 milliards de paramètres/weights).
Probablement un des meilleurs choix existant

Lien vers le billet original

[joe75]

Il y a d'autres solutions :

https://youtu.be/B7GDr-VFuEo?si=0iVIraqSZTStDgqv


https://youtu.be/AcTmeGpzhBk?si=OgLsZQ6BR3P8KkWH

[Paul Emploi]

Il y a d'autres solutions :

https://youtu.be/B7GDr-VFuEo?si=0iVIraqSZTStDgqv


https://youtu.be/AcTmeGpzhBk?si=OgLsZQ6BR3P8KkWH

Ils sont très lents, quasi inutilisables pour des échanges en temps-réels avec de vrais LLM, rien à voir avec les Mac Studio M4 Max ou M3 Ultra!

Le prix ne fait pas tout...

[moby59]

Juste pour saluer ce post, qui est clair et compréhensible. Merci !

[CAMEO172]

Est-ce qu’un retard suffit pour parler d’un « énorme échec ». C’est au mieux un énorme retard .

[Paul Emploi]

Est-ce qu’un retard suffit pour parler d’un « énorme échec ». C’est au mieux un énorme retard .

Ça l'est : Apple venait juste de présenter le Mac Studio M3 Ultra avec jusqu'à 512 Go de RAM, et le M4 Max avec jusqu'à 128 Go de RAM.

Ces machines n'ont pas de concurrents, mis à part peut-être le Ryzen AI 395+ avec 128 Go de RAM soudée, mais qui se traîne face au M4 Max sur les grands modèles de langage (LLM).
Un peu moins cher et bien plus lent à cause de sa relativement faible bande-passante mémoire.

nVidia voulait s'établir sur le marché du desktop IA LLM, pour les PME, les indépendants ou artisans, voire la LLM familiale (pourquoi pas!), et ça a juste établi Apple grâce à son architecture à mémoire unifiée. Les SoC Apple sont en fait principalement des GPU, avec la RAM adaptée, et qui intègrent aussi une CPU.
Apple a raflé ce marché.

D'ailleurs aujourd'hui au bureau, je me suis prêté à un exercice visant à fournir l'accès à différentes IA de type LLM au sein de notre réseau local.
On a plus que Apple comme fournisseur capable de nous fournir le matériel adéquat.
Tout comme je vais aussi mettre en place des IA chez moi qui nous seront accessibles localement au travers de mon Mac mini M4, mais aussi à distance via un VPN (Pi VPN), des IA protégeant nos vies privées et sous notre contrôle absolu. Peut-être plus tard un Mac mini M4 Pro ou un Mac Studio M4 Max pour cela.