NVIDIA RTX A6000
La NVIDIA RTX A6000 est une carte graphique workstation lancée en 2020, désormais disponible uniquement d’occasion. Son GPU Ampere GA102, une architecture NVIDIA conçue pour le calcul parallèle, réunit 10 752 cœurs CUDA et s’accompagne de 48 Go de GDDR6 ECC, une mémoire capable de…
La NVIDIA RTX A6000 est une carte graphique workstation lancée en 2020, désormais disponible uniquement d’occasion. Son GPU Ampere GA102, une architecture NVIDIA conçue pour le calcul parallèle, réunit 10 752 cœurs CUDA et s’accompagne de 48 Go de GDDR6 ECC, une mémoire capable de corriger certaines erreurs.
Cette capacité la positionne comme une solution recherchée pour l’inférence locale, c’est-à-dire l’exécution de modèles sans service distant. Sa bande passante de 768 Go/s alimente les calculs, tandis que son TDP de 300 W reste compatible avec un format PCIe à deux slots. Elle cible notamment les stations de travail nécessitant 48 Go de VRAM NVIDIA sans carte plus encombrante.
Carte d'identité
| Caractéristique | Valeur |
|---|---|
| Constructeur | NVIDIA |
| Catégorie | Cartes graphiques |
| Statut | Occasion (plus produit) |
| Date de sortie | 5 octobre 2020 |
| Mémoire | 48 Go (GDDR6 ECC) |
| Bande passante mémoire | 768 Go/s |
| Consommation (TDP) | 300 W |
| GPU | Ampere GA102, 10 752 cœurs CUDA (84 SM) |
| Format | Carte PCIe (2 slots) |
| Extensible | Non |
| Prix officiel | 4 650 $ (Wccftech (annonce NVIDIA), 5 octobre 2020) |
| Fiche constructeur | specs officielles |
Quels modèles peut-elle faire tourner ?
| Modèle étalon | Verdict |
|---|---|
| 8 B (Llama 3.1 8B, Q4) | ✅ À l'aise |
| 14 B (Qwen3 14B, Q4) | ✅ À l'aise |
| 32 B (Qwen3 32B, Q4) | ✅ À l'aise |
| 70 B (Llama 3.3 70B, Q4) | ⚠️ Juste (contexte réduit) |
| 120 B MoE (gpt-oss-120B, MXFP4) | ❌ Trop grand |
Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.
Performances mesurées
| Modèle | Quantisat° | Lecture | Génération | Runtime | Source |
|---|---|---|---|---|---|
| Llama 2 7B | Q4_0 | 5 662 tok/s | 145 tok/s | llama.cpp (CUDA) | knightli.com (scoreboard llama.cpp) (10 juillet 2026) |
« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.
Notre analyse
Les 48 Go de mémoire permettent d’exécuter confortablement Llama 3.1 8B, Qwen3 14B et Qwen3 32B en Q4, une quantification qui réduit la précision des poids afin d’abaisser l’occupation mémoire. En revanche, gpt-oss-120B en MXFP4, un format numérique compact destiné aux modèles d’IA, reste trop volumineux. La bande passante de 768 Go/s contribue à une génération réactive lorsque le modèle tient entièrement en VRAM. Avec llama.cpp, un moteur d’inférence local, et CUDA, la plateforme logicielle de calcul parallèle de NVIDIA, Llama 2 7B en Q4_0 atteint 145 tokens par seconde, le token étant une unité de texte traitée par le modèle.
Le prix officiel de 4 650 USD en 2020 ne permet pas d’évaluer directement le rapport performance-prix actuel, puisque la carte n’est plus produite et relève du marché de l’occasion. De même, les 145 tokens par seconde face à un TDP de 300 W donnent un repère, mais pas une mesure complète de l’efficacité énergétique. L’écosystème CUDA constitue le cadre logiciel indiqué par la mesure disponible. Aucun niveau sonore n’est documenté dans les données fournies, tandis que la disponibilité dépend nécessairement des exemplaires d’occasion. Cette carte conserve surtout du sens pour l’inférence locale de modèles allant jusqu’à 32B quantifiés, lorsque la capacité mémoire prime sur l’achat de matériel neuf.
Sources : specs NVIDIA, knightli.com (scoreboard llama.cpp).