Apple Silicon M4, Réactions à la publication du 08/05/2024

[Paul Emploi]

[MàJ par Philippe]

Les premiers benchmarks ont déjà été réalisés sur Twitter par @VadimYuryev, et le M4 est effectivement 25% plus rapide que le M3, 50% plus rapide que le M2, comme promis par Apple, ce qui le met au niveau des M2 Pro et M3 Pro.

Le gain en fréquence est maintenant connu, puisque le M4 tourne à 4,4 Ghz contre 4,05 Ghz pour le M3, une augmentation de 8,6% de la fréquence.

On a donc un gain d'environ 16% par l'adjonction de 2 cœurs économiques (4+4 à 4+6), environ 9% par augmentation de la fréquence, et quasi nul pour ce qui concerne l'efficacité de la micro-architecture comparé au M3...


Merci TSMC et son N3E!
Mais on peut être franchement inquiet sur les capacités d'Apple à faire évoluer sa micro-architecture, qui parait faire du surplace...

[Sujet initial]

Apple vient de révéler les caractéristiques du M4, premier élément de sa nouvelle génération de SoC, et qui vient d'être présenté via les iPad Pro.

Ce M4 devrait arriver sur les MacBook Air puis MacBook Pro 14" cette année, faisant table rase du M3, qui s'était révélé décevant à cause de son TDP qui avait fait un bond en avant et se révélait trop calorifère pour le châssis du MacBook Air.

CPU

La CPU intégrée au M4 est annoncée comme 50% plus rapide que celle du M2, passant d'une configuration 4+4 à 4+6, ajoutant donc 2 cœurs économiques au passage.
Cet ajout permet autant d'augmenter les performances générales que de limiter la consommation de l'ensemble.

Apple annonce la CPU du M4 comme 50% plus rapide que celle du M2 sorti il y a 2 ans.
Et en consommant deux fois moins à performances identiques.
À vérifier en pratique, mais il est probable qu'on soit à ce bel ordre de grandeur.

Ce progrès est du aux environs 16% amenés par le passage à 4+6 cœurs, l'augmentation de la fréquence grâce au process TSMC N3E avancé contre N5P avant, mais aussi une meilleure dissipation thermique de l'iPad Pro de l'ordre de 20%.

Et pour finir peut-être des progrès micro-architecturaux, mais ils devraient être très faibles car le M4 seulement 25% plus rapide que le M3 malgré les 2 cœurs en plus...
Notez qu'on est passé de 8 instructions décodés par cycle sur les M1 et M2, à 9 pour le M3 et à 10 pour le M4, les unités entières sont passées de 6 sur les M1, et M2 à 8 sur le M3 et peut-être 9 sur le M4, mais sans réel effet sur les IPC.

GPU

La GPU prend du mieux, du beaucoup mieux en fait, à valider tellement les chiffres annoncés sont obscènes!

D'abord l'intégration du Ray-Tracing RT (lâché de rayon) matériel, attendu depuis fort longtemps, et dont rien n'est indiqué sur le niveau de performance réel.
Les performances du RT sont très dépendantes des choix techniques effectués, comme on l'a vu avec AMD et nVidia, une GPU en théorie plus puissante pouvant se révéler moins rapide lors de l'usage de ces types de rendu.

Ensuite, tenez vous bien, toujours avec 10 cœurs GPU, 4 fois plus rapide pour les rendu pro "pro rendering performance".
Je me demande ce qu'ils veulent dire par "pro rendering", mais même si donc les rendus pas "pro" ne seront pas 4 fois plus rapides dont les jeux, on devrait observer un bond en avant.

Là aussi la gravure N3E de TSMC ainsi que l'augmentation de 20% de la dissipation thermique du nouvel iPad Pro sont à l'œuvre.

IA & ML

Apple a évoqué des accélérations pour le Machine Learning ML (apprentissage automatisé) au sein même de la CPU, mais on ne sait quels types de charges de travail en bénéficieront ni quelle sera l'implémentation réalisée.

Serait-ce une communication sur les instructions inofficielles AMX d'Apple?

En revanche la NPU passe à 38 Tops, mais c'est tout sauf une surprise puisque le A17 Pro de l'an dernier affichait déjà 35 Tops dans les iPhone 15 Pro!

Il y a le coup de pied de l'âne en indiquant que c'est la NPU la plus puissante commercialisée dans une tablette ou un PC, visant ainsi Qualcomm et son Snapdragon X encore dans les limbes, mais aussi Microsoft et ses "AI PC".

Mais c'est factuellement faux si on compte les capacités des GPU de certains PC, AMD et surtout nVidia!

Sous-système mémoire

Sans qu'il y ait d'annonce spécifique sur les SLC du sous-système mémoire, notamment en terme de taille de cache et de bande-passante du bus interne, la bande passante mémoire a augmenté de 18% en passant de 102 Go/s à 120 Go/s.

Si la partie CPU n'en a pas vraiment besoin, ça donne là un peu d'oxygène aux NPU et GPU.

Pour conclure

Après un M3 qui m'avait déçu, le M4 sera-t-il le sauveur décrit par Apple?

Les informations données sur l'efficacité par watt qui aurait doublée, ainsi que le travail pour dissiper la chaleur généré dans l'iPad montrent qu'Apple a pris ce problème au sérieux, tant côté M4 que côté chassis. Merci TSMC aussi pour le process de gravure N3E.

On peut très probablement espérer un MacBook Air M4 qui dépote!

Lien vers le billet original

[Fabrice_75015]

Bonjour à tous,

ce qui n'est pas clair pour moi c'est à quoi servent les NPU ?
En effet, je joue un peu avec les LLM (llama, fooocus, etc..) et aucun n'utilise les NPU. Ils utilisent tous le GPU, via Metal Persofrmance Shaders (https://developer.apple.com/documentation/metalperformanceshaders). D'ailleurs fooocus fonctionne sur mon Mac Intel/AMD eGPU.
En discutant sur les différents forums github, il s'avère que la plupart des dev de LLM se font sur base des GPU, et modifier le code pour utiliser les NPU semble complexe (voir il se peut que les GPU soient de toute façon beaucoup plus puissants).

Les NPU sont spécialisés dans le calcul matriciel, ce que font aussi les GPU... la différence : les GPU travaillent dans la VRAM et les NPU directement dans la RAM. Pour les machines Apple ARM cela ne change rien, car on est en mémoire unifiée... d'où ma question ? Est-ce que les NPU ont vocation à dépasser la puissance des GPU dans un avenir très proche ?