Framework Desktop (Ryzen AI Max+ 395)

Le Framework Desktop (Ryzen AI Max+ 395) est un mini-PC de 4,5 litres destiné à l’inférence locale de grands modèles, à mi-chemin entre une station de travail compacte et les configurations équipées d’un GPU dédié. Son principal atout réside dans ses 128 Go de mémoire unifiée, une mémoire partagée entre le CPU et le GPU, dont environ 110 Go sont exploitables par le modèle.

Cette plateforme Strix Halo associe 16 cœurs Zen 5 à un Radeon 8060S intégré doté de 40 unités de calcul RDNA 3.5, l’architecture graphique d’AMD. Sa bande passante de 256 Go/s et son TDP de 120 W, l’enveloppe thermique de référence, ciblent notamment les grands modèles MoE, qui n’activent qu’une partie de leurs paramètres à chaque requête.

Carte d'identité

Quels modèles peut-elle faire tourner ?

Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.

Performances mesurées

« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.

Notre analyse

Les quelque 110 Go accessibles au modèle permettent d’exécuter confortablement des modèles allant de Llama 3.1 8B à Llama 3.3 70B en Q4, une quantification sur 4 bits qui réduit fortement l’empreinte mémoire. La machine accueille aussi gpt-oss-120B en MXFP4, un format numérique compact sur 4 bits, grâce à son architecture MoE, qui sélectionne certains groupes de paramètres pour chaque calcul. La bande passante de 256 Go/s se traduit par des débits élevés dans les mesures fournies : Qwen3 30B-A3B atteint 86 tokens par seconde en Q8_0, une quantification sur 8 bits, tandis que gpt-oss-120B produit 53 tokens par seconde.

Ces résultats proviennent de llama.cpp, un moteur d’inférence local, avec ROCm, la pile logicielle de calcul GPU d’AMD. À 1 999 USD pour 128 Go et avec un TDP de 120 W, le rapport capacité mémoire, débit et enveloppe énergétique apparaît favorable pour héberger de gros modèles sans GPU séparé. Une comparaison stricte des performances par dollar ou par watt nécessiterait toutefois des mesures concurrentes réalisées dans les mêmes conditions. L’écosystème documenté ici reste centré sur ROCm, sans indication sur les autres moteurs. Aucun niveau sonore n’est fourni. Le statut est disponible depuis le 1er août 2025. Cette machine a surtout du sens pour l’expérimentation locale, les assistants privés et les modèles MoE volumineux.

Sources : specs Framework, strix-halo-llm-perf (GitHub).