Apple Mac mini (M4 Pro)

Le Apple Mac mini (M4 Pro) est un Mini-PC Apple Silicon, l’architecture intégrée d’Apple réunissant calcul et mémoire, destiné à l’inférence locale dans un format compact de 12,7 × 12,7 cm. Sa configuration à 1 999 USD associe 64 Go de mémoire unifiée, partagée entre CPU et GPU, à une bande passante de 273 Go/s.

Environ 48 Go restent exploitables par le modèle, une capacité adaptée aux LLM de 8 à 32 milliards de paramètres. Le GPU à 20 cœurs atteint 40 tok/s sur Llama 3.1 8B en Q4, une quantification réduisant la précision des poids pour économiser de la mémoire, via llama.cpp et Metal, l’interface d’accélération graphique d’Apple.

Carte d'identité

Quels modèles peut-elle faire tourner ?

Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.

Performances mesurées

« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.

Efficience

Calculée sur la meilleure mesure de génération Llama 3.1 8B de cette fiche, au prix de référence 1 999 $ (Apple (config 64 Go), 8 novembre 2024). Indicative : le prix varie et la consommation réelle en inférence est inférieure au TDP.

Notre analyse

Les quelque 48 Go disponibles pour le modèle permettent d’exécuter confortablement Llama 3.1 8B, Qwen3 14B et Qwen3 32B en Q4. La mémoire unifiée évite de séparer la mémoire du processeur de celle du GPU, tandis que ses 273 Go/s de bande passante alimentent l’inférence sans copie intermédiaire. Sur Llama 3.1 8B Q4_K_M, un format de quantification sur 4 bits, llama.cpp avec Metal produit 40 tok/s, c’est-à-dire 40 unités de texte générées chaque seconde, un débit adapté à une interaction fluide.

À 1 999 USD en configuration 64 Go, le positionnement privilégie l’intégration, la compacité et la capacité mémoire plutôt qu’une comparaison directe avec une carte graphique seule. L’efficience atteint 0,40 tok/s par watt sur la base du TDP de 100 W, le TDP désignant l’enveloppe thermique de référence. La limite principale reste la capacité : gpt-oss-120B en MXFP4, un format numérique compact, est trop grand, malgré son architecture MoE, qui n’active qu’une partie de ses experts à chaque calcul. L’écosystème pratique se concentre ici sur MLX, le framework d’Apple pour ses puces, et llama.cpp, un moteur d’inférence local. Disponible et décrit comme silencieux, ce Mac mini convient surtout à l’expérimentation, au développement et au service local de modèles jusqu’à 32B.

Sources : specs Apple, llama.cpp — benchmarks Apple Silicon.