NVIDIA GeForce RTX 4090
La NVIDIA GeForce RTX 4090 est une carte graphique PCIe à trois slots destinée aux configurations haut de gamme consacrées notamment à l’inférence locale, c’est-à-dire l’exécution d’un modèle d’IA directement sur la machine. Son GPU Ada Lovelace AD102, l’architecture graphique de cette…
La NVIDIA GeForce RTX 4090 est une carte graphique PCIe à trois slots destinée aux configurations haut de gamme consacrées notamment à l’inférence locale, c’est-à-dire l’exécution d’un modèle d’IA directement sur la machine. Son GPU Ada Lovelace AD102, l’architecture graphique de cette génération NVIDIA, réunit 16 384 cœurs CUDA.
Ses 24 Go de mémoire GDDR6X et sa bande passante de 1 008 Go/s la placent au-dessus des cartes limitées à 16 Go pour charger de grands modèles. Elle fait notamment tourner des modèles 32B en Q4, une quantification qui réduit la précision des poids afin d’abaisser l’usage mémoire. Cette capacité s’accompagne toutefois d’un TDP de 450 W.
Carte d'identité
| Caractéristique | Valeur |
|---|---|
| Constructeur | NVIDIA |
| Catégorie | Cartes graphiques |
| Statut | Disponible |
| Date de sortie | 20 septembre 2022 |
| Mémoire | 24 Go (GDDR6X) |
| Bande passante mémoire | 1 008 Go/s |
| Consommation (TDP) | 450 W |
| GPU | Ada Lovelace AD102, 16 384 cœurs CUDA |
| Format | Carte PCIe (3 slots) |
| Extensible | Non |
| Prix officiel | 1 599 $ (NVIDIA (via TechPowerUp), 20 septembre 2022) |
| Fiche constructeur | specs officielles |
Quels modèles peut-elle faire tourner ?
| Modèle étalon | Verdict |
|---|---|
| 8 B (Llama 3.1 8B, Q4) | ✅ À l'aise |
| 14 B (Qwen3 14B, Q4) | ✅ À l'aise |
| 32 B (Qwen3 32B, Q4) | ✅ À l'aise |
| 70 B (Llama 3.3 70B, Q4) | ❌ Trop grand |
| 120 B MoE (gpt-oss-120B, MXFP4) | ❌ Trop grand |
Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.
Performances mesurées
| Modèle | Quantisat° | Lecture | Génération | Runtime | Source |
|---|---|---|---|---|---|
| Llama 3.1 8B | Q4_K_M | 7 594 tok/s | 120 tok/s | llama.cpp | LocalScore (10 juillet 2026) |
| Qwen3 8B | Q4_K_XL | 6 721 tok/s | 104 tok/s | llama.cpp | Hardware Corner (llama-bench, contexte 16K) (10 juillet 2026) |
« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.
Efficience
| Métrique | Valeur |
|---|---|
| Génération par tranche de 1 000 $ investis | 75,0 tok/s |
| Génération par watt (TDP) | 0,27 tok/s/W |
Calculée sur la meilleure mesure de génération Llama 3.1 8B de cette fiche, au prix de référence 1 599 $ (NVIDIA (via TechPowerUp), 20 septembre 2022). Indicative : le prix varie et la consommation réelle en inférence est inférieure au TDP.
Notre analyse
Les 24 Go de GDDR6X permettent de charger confortablement Llama 3.1 8B, Qwen3 14B et Qwen3 32B en Q4, une représentation compacte des poids sur quatre bits. Les modèles 30B quantifiés entrent ainsi en mémoire, contrairement aux cartes de 16 Go. En revanche, Llama 3.3 70B en Q4 et gpt-oss-120B en MXFP4 restent trop volumineux. Ce dernier est un MoE, ou mélange d’experts, une architecture qui répartit le calcul entre plusieurs sous-réseaux spécialisés.
La bande passante de 1 008 Go/s contribue à une génération rapide et à un traitement de prompt, la phase d’analyse du texte fourni au modèle, parmi les plus véloces du marché grand public. Llama 3.1 8B atteint 120 tok/s, les tokens étant les unités de texte manipulées par le modèle. Qwen3 8B atteint 104,3 tok/s dans un test llama.cpp avec un contexte 16K, soit une fenêtre de 16 000 tokens. Face au prix officiel de 1 599 USD, la carte privilégie la capacité et le débit plutôt que l’économie d’énergie, avec 0,27 tok/s par watt au TDP. Son format trois slots et ses 450 W imposent aussi une configuration adaptée. Elle reste disponible, mais les faits fournis ne permettent pas d’évaluer précisément le bruit ni les contraintes de son écosystème logiciel.
Sources : specs NVIDIA, LocalScore, Hardware Corner (llama-bench, contexte 16K).