AMD Radeon AI PRO R9700

L’AMD Radeon AI PRO R9700 est une carte graphique professionnelle fondée sur RDNA 4, l’architecture GPU d’AMD dédiée au traitement graphique et aux calculs parallèles. Ses 32 Go de GDDR6, une mémoire graphique à haut débit, et ses 128 accélérateurs IA, des unités spécialisées dans les réseaux neuronaux, la positionnent pour les stations de travail exécutant l’IA localement.

Cette carte vise notamment l’inférence locale, c’est-à-dire l’exécution d’un modèle déjà entraîné sur la machine, jusqu’aux modèles de classe 30B, comptant environ 30 milliards de paramètres. Sa bande passante de 640 Go/s favorise l’alimentation du GPU en données, tandis que son TDP de 300 W, l’enveloppe de consommation thermique prévue, impose une configuration adaptée. Son prix officiel au détail est de 1 299 dollars.

Carte d'identité

Quels modèles peut-elle faire tourner ?

Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.

Performances mesurées

« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.

Efficience

Calculée sur la meilleure mesure de génération Llama 3.1 8B de cette fiche, au prix de référence 1 299 $ (AMD (lancement retail, via TechPowerUp), 27 octobre 2025). Indicative : le prix varie et la consommation réelle en inférence est inférieure au TDP.

Notre analyse

Les 32 Go permettent de faire tourner confortablement Llama 3.1 8B, Qwen3 14B et Qwen3 32B en Q4, une quantification qui stocke les poids sur 4 bits afin de réduire l’empreinte mémoire. En revanche, Llama 3.3 70B en Q4 et gpt-oss-120B en MXFP4, un format numérique compact sur 4 bits, dépassent cette capacité. Ce dernier est un MoE, ou mélange d’experts, une architecture qui n’active qu’une partie du modèle à chaque calcul.

Les mesures atteignent 77 tok/s, soit 77 fragments de texte générés par seconde, avec Llama 3.1 8B sous Ollama, un outil d’exécution locale, via ROCm, la plateforme de calcul GPU d’AMD. Qwen3 30B-A3B atteint 183 tok/s avec llama.cpp, un moteur d’inférence, via Vulkan, une interface graphique et de calcul multiplateforme. Ces résultats ne sont pas directement comparables, car les modèles et logiciels diffèrent. À 1 299 dollars, ils correspondent respectivement à environ 0,059 et 0,141 tok/s par dollar, sans base concurrente permettant de qualifier davantage ce rapport. L’efficience mesurée sur Llama 3.1 8B est de 0,26 tok/s par watt de TDP. Le support de ROCm et Vulkan élargit les usages, mais l’écosystème reste dépendant de leur compatibilité. La carte est disponible, tandis qu’aucune donnée de bruit n’est fournie. Elle a surtout du sens pour l’inférence locale de modèles jusqu’à 32B quantifiés.

Sources : specs AMD, meefik.dev, llama.cpp — discussion #19890.