NVIDIA GeForce RTX 5090

La NVIDIA GeForce RTX 5090 est une carte graphique grand public destinée aux stations d’inférence locale haut de gamme. Son GPU Blackwell GB202, une architecture de calcul de NVIDIA, réunit 21 760 cœurs CUDA, des unités conçues pour exécuter de nombreux calculs en parallèle. Elle cible les usages exigeant un débit élevé sans recourir à une infrastructure distante.

Ses 32 Go de GDDR7, une mémoire graphique à haut débit, et ses 1 792 Go/s de bande passante constituent ses principaux atouts. Cette capacité accueille confortablement plusieurs modèles quantifiés, tandis que le TDP de 575 W, l’enveloppe de puissance de référence, impose une plateforme électrique et thermique adaptée.

Carte d'identité

Quels modèles peut-elle faire tourner ?

Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.

Performances mesurées

« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.

Efficience

Calculée sur la meilleure mesure de génération Llama 3.1 8B de cette fiche, au prix de référence 2 999 $ (relevé éditorial (prix boutiques US), 10 juillet 2026). Indicative : le prix varie et la consommation réelle en inférence est inférieure au TDP.

Notre analyse

Les 32 Go de mémoire permettent d’exécuter aisément Llama 3.1 8B, Qwen3 14B et Qwen3 32B en Q4, une quantification qui réduit la précision numérique afin d’abaisser l’occupation mémoire. En revanche, Llama 3.3 70B en Q4 et gpt-oss-120B en MXFP4, un format numérique compact sur quatre bits, dépassent cette capacité. Ce dernier est aussi un MoE, ou mélange d’experts, une architecture qui n’active qu’une partie de ses paramètres à chaque calcul.

Avec Llama 3.1 8B en Q4_K_M, une variante de quantification quatre bits, llama.cpp, un moteur d’inférence local, atteint 175 tokens par seconde selon LocalScore. La bande passante de 1 792 Go/s contribue à ce débit élevé. L’efficience reste toutefois de 0,30 token par seconde et par watt sur la base du TDP de 575 W. Le prix constaté de 2 999 USD au 10 juillet 2026 dépasse de 1 000 USD, soit environ 50 %, le tarif officiel de 1 999 USD. La carte est disponible, mais la pénurie de GDDR7 maintient son prix élevé. Les faits fournis ne documentent ni son niveau sonore ni les éventuelles contraintes de son écosystème logiciel. Elle a surtout du sens pour une station locale privilégiant la vitesse et les modèles quantifiés jusqu’à 32 B, avec un budget et une alimentation adaptés.

Sources : specs NVIDIA, LocalScore.