Llama-3.2-1B : une IA pour presque tous les Mac !, Réactions à la publication du 02/12/2024

[Paul Emploi]

Apple explique qu'il faut un SoC Apple Silicon, des Gigaoctets de mémoire libre, et que ses IA ne peuvent pas tourner sur les Mac Intel, d'anciens iPhone, et c'est absolument faux.

Un contre-exemple est Llama-3.2-1B (1,2 milliards de paramètres en BF16).
Voici l'échange que j'ai eu avec lui, il a tendance à bien halluciner quand-même, mais il est très utilisable:

Deux points, la vitesse était correcte, un peu lent certes mais utilisable au quotidien.
Mais je l'ai fait tourner sur un MacBook Pro 13" début-2013 (dual-core i7) avec 8Go de RAM sous macOS 15 Sequoia grâce à OpenCore Legacy Patcher.

Ollama se télécharge ici, nécessite d'être au moins sur macOS 11 Big Sur, mais est vraiment compatible avec du matériel ancien et même très performant vu le peu de puissance du vieux MBP 13". Par défaut il charge LLama-3.2-1B mais vous pouvez bien sûr charger d'autres Modèles d'IA.

Je crois en l'émergence d'IA plus légères, tournant plus facilement et plus rapidement, spécialisées dans des tâches précises, comme programmer ou rédiger un courrier, et surtout accessibles à tous.
Llama-3.2-1B est un pas dans cette direction, mais aussi une base de travail pour avoir des versions spécialisées.

Lien vers le billet original

[Paul Emploi]

Il y a trois points:
D'abord le code PHP est buggé. C'est évident pour tous les devs PHP.
Mais justement pour un dev PHP comme moi qui ne manipule pas d'image régulièrement, où la bug est évidente, ça accélère les choses énormément de toute façon.
Pour un débutant, il ne verra pas le soucis du header() dans un code qui n'est typiquement pas un code de requête http mais de CLi...

Le second point c'est son titre: "Le guide complet pour redimensionner une image GD en PHP".
L'assurance de ces IA de type LLM me fait halluciner (moi aussi). C'est grotesquement arrogant!

Et le dernier point, il est malheureusement muselé, une sorte de camisole chimique sous forme binaire, qui lui interdit de dire certaines choses, de peur d'offenser.
Je n'ai pas peur qu'on m'offense, j'ai bien plus peur qu'on me ménage en travestissant la réalité, et cette IA comme la plupart des autres, est du second type!