Apple Mac Studio (M2 Ultra)
Le Mac Studio M2 Ultra est un desktop compact de 19,7 × 19,7 cm destiné à l’inférence locale de grands modèles d’IA. Son principal atout réside dans ses 192 Go de mémoire unifiée, une mémoire partagée entre CPU et GPU, dont environ 144 Go peuvent être exploités par le modèle.
Le Mac Studio M2 Ultra est un desktop compact de 19,7 × 19,7 cm destiné à l’inférence locale de grands modèles d’IA. Son principal atout réside dans ses 192 Go de mémoire unifiée, une mémoire partagée entre CPU et GPU, dont environ 144 Go peuvent être exploités par le modèle.
Avec une bande passante mémoire de 800 Go/s et un GPU à 76 cœurs, cette machine Apple Silicon se positionne comme une station intégrée pour exécuter des modèles difficiles à loger sur un GPU classique. Elle atteint notamment 12 tok/s sur Llama 3 70B en Q4_K_M, une quantification qui réduit la précision des poids afin d’économiser la mémoire.
Carte d'identité
| Caractéristique | Valeur |
|---|---|
| Constructeur | Apple |
| Catégorie | Apple Silicon |
| Statut | Occasion (plus produit) |
| Date de sortie | 13 juin 2023 |
| Mémoire | 192 Go (Mémoire unifiée) |
| Dont exploitable par le modèle | 144 Go (≈) |
| Bande passante mémoire | 800 Go/s |
| Consommation (TDP) | 370 W |
| CPU | Apple M2 Ultra, 24 cœurs |
| GPU | GPU 76 cœurs |
| NPU | 32 TOPS |
| Format | Desktop compact 19,7 × 19,7 cm |
| Extensible | Non |
| Prix officiel | 3 999 $ (Apple (config de base M2 Ultra, via AppleInsider), 13 juin 2023) |
| Fiche constructeur | specs officielles |
Quels modèles peut-elle faire tourner ?
| Modèle étalon | Verdict |
|---|---|
| 8 B (Llama 3.1 8B, Q4) | ✅ À l'aise |
| 14 B (Qwen3 14B, Q4) | ✅ À l'aise |
| 32 B (Qwen3 32B, Q4) | ✅ À l'aise |
| 70 B (Llama 3.3 70B, Q4) | ✅ À l'aise |
| 120 B MoE (gpt-oss-120B, MXFP4) | ✅ À l'aise |
Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.
Performances mesurées
| Modèle | Quantisat° | Lecture | Génération | Runtime | Source |
|---|---|---|---|---|---|
| Llama 2 7B | Q4_0 | 1 238 tok/s | 94 tok/s | llama.cpp (Metal) | llama.cpp — benchmarks Apple Silicon (#4167), GPU 76 cœurs (10 juillet 2026) |
| Llama 3 70B | Q4_K_M | 118 tok/s | 12 tok/s | llama.cpp (Metal) | XiongjieDai — GPU-Benchmarks-on-LLM-Inference (10 juillet 2026) |
« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.
Notre analyse
L’enveloppe exploitable d’environ 144 Go permet de faire tourner confortablement des modèles quantifiés de 8B, 14B, 32B et 70B, ainsi que gpt-oss-120B en MXFP4, un format de basse précision destiné à réduire l’empreinte mémoire. Ce dernier est un MoE, ou mélange d’experts, une architecture qui n’active qu’une partie du modèle à chaque étape. La bande passante de 800 Go/s soutient une génération mesurée à 94 tok/s sur Llama 2 7B Q4_0 et à 12 tok/s sur Llama 3 70B Q4_K_M avec llama.cpp via Metal, l’interface d’accélération graphique d’Apple. La première offre une réponse très fluide, tandis que la seconde reste adaptée à un usage interactif.
Le prix officiel de 3 999 USD concernait la configuration M2 Ultra de base au lancement. Face à un TDP de 370 W, une enveloppe thermique nominale plutôt qu’une mesure de consommation réelle, les données fournies ne permettent pas d’établir précisément la performance par watt. Elles ne documentent pas non plus le bruit ni les limites de compatibilité logicielle. Sorti du catalogue en mars 2025, ce Mac Studio dépend désormais du marché de l’occasion. Il conserve surtout du sens pour l’inférence locale de modèles 70B et plus, lorsque la capacité mémoire prime sur l’accès à du matériel neuf.
Sources : specs Apple, llama.cpp — benchmarks Apple Silicon (#4167), GPU 76 cœurs, XiongjieDai — GPU-Benchmarks-on-LLM-Inference.