Microsoft et le PC pour IA, Réactions à la publication du 09/04/2024

[Paul Emploi]

L'IA est de plus en plus présente, elle va envahir nos Mac et PC, et Microsoft semble avoir une vision à ce propos, ou plutôt deux!


Les spécifications Microsoft du PC IA


Microsoft aurait émis des spécifications pour des PC conçus pour des usages intégrant de l'intelligence artificielle IA.
On devine que Windows 12 sera de la partie, mais il faudrait aussi un minimum de 16 Go de RAM, et une puissance de traitement de 40 Tops sans précision s'il s'agit d'int16, int8 ou int4, voire des formats flottants fp16 ou bfp16.


La RAM nécessaire vise l'usage de Large Language Model LLM dans des déclinaisons simplifiées ayant moins de poids, au propre comme au figuré, comme ceux que je vous ai proposé dans mon premier article sur Faraday, et nombre de PC remplissent ce critère ou peuvent être upgradé pour cela.
Notez bien qu'il n'y a pas de spécifications pour la VRAM d'une GPU discrète, qui pour héberger les mêmes modèles devrait être d'au moins 8 Go. Ni de nécessité d'une GPU discrète.


La puissance de traitement de 40 Tops en revanche est problématique, c'est un très bon niveau, les NPU des Mac M3 plafonnant à 18 Tops fp16 seulement, c'est très ambitieux, peut-être même trop aujourd'hui?


Microsoft Surface Laptop 6 et Pro 10

Le même Microsoft a présenté ses nouveaux Surface, dont le Surface Laptop 6 (pdf) équipé de CPU Intel Core Ultra ou le Surface Pro 10 (pdf), en les présentant comme des "AI PC".

Las, ces CPU Intel plafonnent pour la plus puissante à 34 Tops, et encore en cumulant les faibles 11 Tops de la NPU aux 18 Tops de la GPU et aux 5 Tops de la CPU.
Soit moins que ce qui est exigé pour les "PC AI".

Microsoft lance donc des "AI PC" qui ne répondent pas à ses propres critères pour les "PC AI"!


Microsoft fait la promotion du Qualcomm Snapdragon Elite X


Puis toujours le même Microsoft déclare à qui veut l'entendre que les PC Windows ARM à base de SoC Snapdragon Elite X seront plus rapide que les MacBook Air M3, ce qui est indéniable et attendu pour un CPU consommant autant qu'un M3 Pro.


Microsoft reprend donc la communication de Qualcomm, sans comparer ce qui est comparable, et en passant sous silence une caractéristique essentielle de ces PC ARM: leurs NPU poutrent comme aucune autre intégrée dans un SoC ou une CPU, et délivrent entre 45 Tops et 75 Tops!


Les ordinateurs portables à base de Qualcomm Snapdragon Elite X seront de fait, avec Windows 12 et 16 Go de RAM ou plus, d'excellent "PC AI" tels que spécifiés par Microsoft, contrairement aux "AI PC" Intel du même Microsoft...


Pour résumer

On emploie un jargon technique quand un fabricant de matériel fait involontairement la promotion d'un concurrent: se tirer dans le pied.


Nous avions évoqué en ces termes le Qualcomm Snapdragon Elite X, qui coté CPU ou GPU est en-dessous d'un M3 Pro, mais qui brille en terme de NPU, qui semble parfaitement correspondre à la vision de Microsoft pour des PC généralisant l'usage d'IA:
"La grande force annoncée de ce Snapdragon sont les unités destinées aux Intelligences Artificielles IA, Qualcomm AI Engine et Hexagon NPU, et il ne déçoit absolument pas, au contraire."


Si l'on en croit Microsoft il est le premier d'une nouvelle lignée, un précurseur, et fait pas banal, ça n'est pas Intel dedans, ni même AMD, mais ARM via Qualcomm!


Lien vers le billet original

[Sethy]

Merci pour ces précisions !