NVIDIA GeForce RTX 4070 Ti SUPER

La NVIDIA GeForce RTX 4070 Ti SUPER est une carte graphique de milieu de gamme destinée notamment à l’inférence locale de grands modèles de langage. Son GPU Ada Lovelace AD103, une architecture NVIDIA conçue pour le calcul graphique et l’IA, réunit 8 448 cœurs CUDA, des unités de calcul parallèles exploitées par les logiciels compatibles.

Ses 16 Go de mémoire GDDR6X et ses 672 Go/s de bande passante offrent une capacité adaptée aux modèles quantifiés de 8B à 14B. Avec un TDP de 285 W, soit l’enveloppe de puissance prévue, ce modèle lancé à 799 USD se situe désormais face à la RTX 5070 Ti.

Carte d'identité

Quels modèles peut-elle faire tourner ?

Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.

Performances mesurées

« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.

Efficience

Calculée sur la meilleure mesure de génération Qwen3 8B de cette fiche, au prix de référence 799 $ (NVIDIA (via TechPowerUp), 8 janvier 2024). Indicative : le prix varie et la consommation réelle en inférence est inférieure au TDP.

Notre analyse

Les 16 Go de mémoire permettent d’exécuter confortablement Llama 3.1 8B et Qwen3 14B en Q4, une quantification qui réduit la précision numérique des poids afin de diminuer leur occupation mémoire. Les modèles Qwen3 32B et Llama 3.3 70B en Q4 restent trop volumineux, tout comme gpt-oss-120B en MXFP4, un format numérique compact, malgré sa structure MoE, ou mixture d’experts, qui n’active qu’une partie du modèle à chaque calcul.

La bande passante de 672 Go/s contribue à une génération fluide. Llama 3.1 8B atteint 53,9 tokens par seconde en Q4_K_M avec llama.cpp, un moteur d’inférence local, tandis que Qwen3 8B atteint 72,2 tokens par seconde en Q4_K_XL, avec un contexte de 16K, soit une fenêtre de 16 000 tokens. À 799 USD au lancement, la carte associe ainsi une capacité de 14B quantifié à des débits élevés sur les modèles 8B. Son efficience mesurée sur Qwen3 8B est de 0,25 token par seconde et par watt, rapportée au TDP de 285 W. Elle convient surtout à l’inférence locale de modèles compacts ou intermédiaires. La disponibilité est annoncée, mais les faits fournis ne permettent pas d’évaluer le bruit ni les éventuelles contraintes de compatibilité logicielle. La mémoire constitue sa principale limite face aux modèles de 32B et plus.

Sources : specs NVIDIA, LocalScore, Hardware Corner (llama-bench, contexte 16K).