Apple Mac Studio (M1 Ultra)
Sorti en 2022, l’Apple Mac Studio (M1 Ultra) est un desktop compact de 19,7 × 19,7 cm destiné à l’inférence locale de modèles d’IA. Sa principale singularité tient à ses 128 Go de mémoire unifiée, une mémoire partagée entre le CPU et le GPU, dont environ 96 Go peuvent être exploités par…
Sorti en 2022, l’Apple Mac Studio (M1 Ultra) est un desktop compact de 19,7 × 19,7 cm destiné à l’inférence locale de modèles d’IA. Sa principale singularité tient à ses 128 Go de mémoire unifiée, une mémoire partagée entre le CPU et le GPU, dont environ 96 Go peuvent être exploités par le modèle.
Avec 800 Go/s de bande passante mémoire et un GPU à 64 cœurs, cette machine Apple Silicon se positionne comme une station de travail d’occasion capable d’accueillir des modèles nettement plus volumineux que les configurations à mémoire limitée. Elle atteint notamment 84 tok/s sur Llama 2 7B en Q4_0, une quantification réduisant la précision des poids pour diminuer leur empreinte mémoire.
Carte d'identité
| Caractéristique | Valeur |
|---|---|
| Constructeur | Apple |
| Catégorie | Apple Silicon |
| Statut | Occasion (plus produit) |
| Date de sortie | 18 mars 2022 |
| Mémoire | 128 Go (Mémoire unifiée) |
| Dont exploitable par le modèle | 96 Go (≈) |
| Bande passante mémoire | 800 Go/s |
| Consommation (TDP) | 370 W |
| CPU | Apple M1 Ultra, 20 cœurs |
| GPU | GPU 64 cœurs |
| NPU | 22 TOPS |
| Format | Desktop compact 19,7 × 19,7 cm |
| Extensible | Non |
| Prix officiel | 3 999 $ (Apple (config de base M1 Ultra, via AppleInsider), 18 mars 2022) |
| Fiche constructeur | specs officielles |
Quels modèles peut-elle faire tourner ?
| Modèle étalon | Verdict |
|---|---|
| 8 B (Llama 3.1 8B, Q4) | ✅ À l'aise |
| 14 B (Qwen3 14B, Q4) | ✅ À l'aise |
| 32 B (Qwen3 32B, Q4) | ✅ À l'aise |
| 70 B (Llama 3.3 70B, Q4) | ✅ À l'aise |
| 120 B MoE (gpt-oss-120B, MXFP4) | ✅ À l'aise |
Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.
Performances mesurées
| Modèle | Quantisat° | Lecture | Génération | Runtime | Source |
|---|---|---|---|---|---|
| Llama 2 7B | Q4_0 | 1 030 tok/s | 84 tok/s | llama.cpp (Metal) | llama.cpp — benchmarks Apple Silicon (#4167), GPU 64 cœurs (10 juillet 2026) |
« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.
Notre analyse
Les quelque 96 Go accessibles au modèle permettent d’exécuter confortablement des modèles quantifiés de 8 B, 14 B, 32 B et 70 B paramètres, notamment Llama 3.3 70B en Q4, une quantification sur 4 bits qui réduit les besoins en mémoire. La machine peut aussi héberger gpt-oss-120B en MXFP4, un format numérique compact, grâce à son architecture MoE, ou mixture of experts, qui n’active qu’une partie du modèle pour chaque calcul. La bande passante de 800 Go/s contribue directement à la fluidité de génération. Le benchmark disponible mesure 84 tokens par seconde sur Llama 2 7B Q4_0 avec llama.cpp et Metal, l’interface d’accélération graphique d’Apple.
Le prix officiel de 3 999 USD en 2022 situait cette configuration parmi les stations haut de gamme. Son rapport performance-prix actuel dépend du tarif d’occasion, non fourni. De même, le TDP de 370 W, une enveloppe thermique indicative, ne permet pas à lui seul de calculer précisément la performance par watt du test. L’écosystème repose ici sur une prise en charge Metal vérifiée, sans élément permettant d’évaluer plus largement la compatibilité logicielle. Aucun niveau sonore n’est documenté. Plus produite et disponible uniquement en occasion, la machine conserve surtout un intérêt pour l’inférence locale de grands modèles quantifiés exigeant une importante capacité mémoire.
Sources : specs Apple, llama.cpp — benchmarks Apple Silicon (#4167), GPU 64 cœurs.