NVIDIA GeForce RTX 4080 SUPER
La NVIDIA GeForce RTX 4080 SUPER est une carte graphique haut de gamme destinée à l’inférence locale, c’est-à-dire à l’exécution de modèles d’IA directement sur la machine. Son GPU Ada Lovelace AD103, une architecture NVIDIA orientée calcul graphique et IA, réunit 10 240 cœurs CUDA, des…
La NVIDIA GeForce RTX 4080 SUPER est une carte graphique haut de gamme destinée à l’inférence locale, c’est-à-dire à l’exécution de modèles d’IA directement sur la machine. Son GPU Ada Lovelace AD103, une architecture NVIDIA orientée calcul graphique et IA, réunit 10 240 cœurs CUDA, des unités de calcul parallèle.
Ses 16 Go de GDDR6X, une mémoire graphique à haut débit, et sa bande passante de 736 Go/s favorisent une génération rapide et un traitement solide des prompts, les données soumises au modèle. Cette carte PCIe occupant trois slots vise surtout les modèles quantifiés de 8B à 14B, avec une consommation annoncée de 320 W.
Carte d'identité
| Caractéristique | Valeur |
|---|---|
| Constructeur | NVIDIA |
| Catégorie | Cartes graphiques |
| Statut | Disponible |
| Date de sortie | 8 janvier 2024 |
| Mémoire | 16 Go (GDDR6X) |
| Bande passante mémoire | 736 Go/s |
| Consommation (TDP) | 320 W |
| GPU | Ada Lovelace AD103, 10 240 cœurs CUDA |
| Format | Carte PCIe (3 slots) |
| Extensible | Non |
| Prix officiel | 999 $ (NVIDIA (via TechPowerUp), 8 janvier 2024) |
| Fiche constructeur | specs officielles |
Quels modèles peut-elle faire tourner ?
| Modèle étalon | Verdict |
|---|---|
| 8 B (Llama 3.1 8B, Q4) | ✅ À l'aise |
| 14 B (Qwen3 14B, Q4) | ✅ À l'aise |
| 32 B (Qwen3 32B, Q4) | ❌ Trop grand |
| 70 B (Llama 3.3 70B, Q4) | ❌ Trop grand |
| 120 B MoE (gpt-oss-120B, MXFP4) | ❌ Trop grand |
Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.
Performances mesurées
| Modèle | Quantisat° | Lecture | Génération | Runtime | Source |
|---|---|---|---|---|---|
| Llama 2 7B | Q4_0 | 9 439 tok/s | 147 tok/s | llama.cpp | llama.cpp — discussion #15013 (10 juillet 2026) |
| Qwen3 8B | Q4_K_XL | 3 858 tok/s | 79 tok/s | llama.cpp | Hardware Corner (llama-bench, contexte 16K) (10 juillet 2026) |
« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.
Efficience
| Métrique | Valeur |
|---|---|
| Génération par tranche de 1 000 $ investis | 79,5 tok/s |
| Génération par watt (TDP) | 0,25 tok/s/W |
Calculée sur la meilleure mesure de génération Qwen3 8B de cette fiche, au prix de référence 999 $ (NVIDIA (via TechPowerUp), 8 janvier 2024). Indicative : le prix varie et la consommation réelle en inférence est inférieure au TDP.
Notre analyse
Les 16 Go de mémoire permettent d’exécuter confortablement Llama 3.1 8B et Qwen3 14B en Q4, une quantification qui réduit la précision des poids à environ quatre bits afin d’abaisser l’usage mémoire. En revanche, Qwen3 32B, Llama 3.3 70B et gpt-oss-120B en MXFP4, un format numérique compact, dépassent cette capacité. Ce dernier est aussi un MoE, ou mélange d’experts, une architecture n’activant qu’une partie du modèle à chaque calcul.
La bande passante de 736 Go/s se traduit par 147 tok/s sur Llama 2 7B en Q4_0 et 79,4 tok/s sur Qwen3 8B en Q4_K_XL. Le tok/s mesure le nombre de fragments de texte générés par seconde. Ces résultats proviennent de llama.cpp, un moteur d’inférence local, mais de protocoles distincts et ne sont donc pas directement comparables. À 999 USD au prix officiel, le rapport capacité-prix reste pénalisé par les 16 Go, face à une RTX 3090 d’occasion donnée pour 24 Go et moins chère. L’efficacité atteint 0,25 tok/s par watt sur Qwen3 8B, pour un TDP de 320 W, soit l’enveloppe thermique nominale. Le statut est disponible, mais les faits fournis ne documentent ni bruit ni contraintes logicielles. La carte garde surtout du sens pour une station locale rapide centrée sur les modèles 8B à 14B quantifiés.
Sources : specs NVIDIA, llama.cpp — discussion #15013, Hardware Corner (llama-bench, contexte 16K).