NVIDIA A100 80 Go PCIe
La NVIDIA A100 80 Go PCIe est une carte graphique de centre de données destinée à l’inférence locale exigeante. Son GPU Ampere GA100, une architecture NVIDIA conçue pour le calcul accéléré, réunit 6 912 cœurs CUDA et 80 Go de HBM2e, une mémoire à très haut débit placée au plus près du…
La NVIDIA A100 80 Go PCIe est une carte graphique de centre de données destinée à l’inférence locale exigeante. Son GPU Ampere GA100, une architecture NVIDIA conçue pour le calcul accéléré, réunit 6 912 cœurs CUDA et 80 Go de HBM2e, une mémoire à très haut débit placée au plus près du processeur.
Sa bande passante de 1 935 Go/s favorise l’exécution de grands modèles, tandis que son TDP de 300 W, l’enveloppe thermique de référence, impose une infrastructure adaptée. Disponible d’occasion car elle n’est plus produite, cette carte PCIe à deux slots cible surtout les serveurs sur site. Son refroidissement passif, dépourvu de ventilateur intégré, exige un châssis avec flux d’air dédié.
Carte d'identité
| Caractéristique | Valeur |
|---|---|
| Constructeur | NVIDIA |
| Catégorie | Cartes graphiques |
| Statut | Occasion (plus produit) |
| Date de sortie | 28 juin 2021 |
| Mémoire | 80 Go (HBM2e) |
| Bande passante mémoire | 1 935 Go/s |
| Consommation (TDP) | 300 W |
| GPU | Ampere GA100, 6 912 cœurs CUDA |
| Format | Carte PCIe (2 slots), refroidissement passif serveur |
| Extensible | Non |
| Prix constaté | 4 800 $ (guide de prix refurb (Alibaba Electronics), 10 juillet 2026) |
| Fiche constructeur | specs officielles |
Quels modèles peut-elle faire tourner ?
| Modèle étalon | Verdict |
|---|---|
| 8 B (Llama 3.1 8B, Q4) | ✅ À l'aise |
| 14 B (Qwen3 14B, Q4) | ✅ À l'aise |
| 32 B (Qwen3 32B, Q4) | ✅ À l'aise |
| 70 B (Llama 3.3 70B, Q4) | ✅ À l'aise |
| 120 B MoE (gpt-oss-120B, MXFP4) | ✅ À l'aise |
Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.
Performances mesurées
| Modèle | Quantisat° | Lecture | Génération | Runtime | Source |
|---|---|---|---|---|---|
| Llama 2 7B | Q4_0 | 5 286 tok/s | 201 tok/s | llama.cpp (CUDA) | knightli.com (scoreboard llama.cpp) (10 juillet 2026) |
« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.
Notre analyse
Les 80 Go de mémoire permettent d’exécuter confortablement Llama 3.1 8B, Qwen3 14B, Qwen3 32B et Llama 3.3 70B en Q4, une quantification qui réduit la précision des poids à environ quatre bits afin d’abaisser l’occupation mémoire. gpt-oss-120B fonctionne aussi en MXFP4, un format numérique compact sur quatre bits, malgré son architecture MoE, mélange d’experts qui n’active qu’une partie du modèle à chaque étape. Avec 1 935 Go/s de bande passante, la génération bénéficie d’un accès rapide aux poids. Llama 2 7B en Q4_0 atteint ainsi 201 jetons par seconde avec llama.cpp, un moteur d’inférence local, via CUDA, la plateforme de calcul GPU de NVIDIA.
Le prix constaté de 4 800 USD en reconditionné situe cette A100 dans un achat d’infrastructure plutôt que dans une configuration personnelle classique. Ses performances doivent aussi être rapportées à un TDP de 300 W, sans mesure fournie permettant de calculer précisément le rendement réel par watt. L’écosystème CUDA facilite l’exploitation des logiciels compatibles, mais crée une dépendance à la pile NVIDIA. L’absence de production limite l’approvisionnement aux circuits d’occasion, et le refroidissement dépend entièrement d’un serveur ventilé, dont les contraintes acoustiques ne sont pas documentées ici. Cette carte prend surtout sens pour l’inférence on-prem, c’est-à-dire exécutée dans l’infrastructure locale, avec de grands modèles et un châssis adapté.
Sources : specs NVIDIA, knightli.com (scoreboard llama.cpp).