NVIDIA GeForce RTX 5070 Ti

La NVIDIA GeForce RTX 5070 Ti est une carte graphique destinée à l’inférence locale, c’est-à-dire à l’exécution de modèles d’IA directement sur la machine. Son GPU Blackwell GB203, une architecture NVIDIA conçue pour le calcul graphique et l’IA, réunit 8 960 cœurs CUDA, des unités de calcul exploitables par les logiciels compatibles avec la plateforme NVIDIA.

Ses 16 Go de GDDR7, une mémoire graphique à haut débit, et sa bande passante de 896 Go/s offrent un compromis adapté aux modèles de 8 à 14 milliards de paramètres quantisés. Affichée officiellement à 749 USD lors de sa sortie le 20 février 2025, elle reste toutefois sous les cartes de 24 Go pour les modèles plus volumineux.

Carte d'identité

Quels modèles peut-elle faire tourner ?

Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.

Performances mesurées

« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.

Efficience

Calculée sur la meilleure mesure de génération Qwen3 8B de cette fiche, au prix de référence 749 $ (NVIDIA (via TechPowerUp), 20 février 2025). Indicative : le prix varie et la consommation réelle en inférence est inférieure au TDP.

Notre analyse

Les 16 Go de mémoire permettent d’exécuter confortablement Llama 3.1 8B et Qwen3 14B en Q4, une quantification qui réduit la précision des poids à environ 4 bits afin d’abaisser l’occupation mémoire. En revanche, Qwen3 32B, Llama 3.3 70B et gpt-oss-120B en MXFP4, un format numérique compact destiné aux calculs d’IA, dépassent cette capacité. La bande passante de 896 Go/s contribue à une génération réactive : Llama 3.1 8B atteint 65,5 tok/s, des tokens par seconde, soit des fragments de mots produits chaque seconde, avec llama.cpp, un moteur d’inférence local. Qwen3 8B monte à 87,5 tok/s dans llama-bench avec un contexte 16K, une fenêtre pouvant contenir environ 16 000 tokens. À 749 USD, le rapport performance/prix repose surtout sur cette vitesse avec des modèles 8B à 14B, plutôt que sur la prise en charge de très grands modèles. L’efficience atteint 0,29 tok/s par watt sur Qwen3 8B, rapportée au TDP de 300 W, l’enveloppe thermique de référence. La carte a donc du sens pour un poste local rapide limité à 16 Go. Les faits disponibles ne documentent ni le bruit ni d’éventuelles contraintes logicielles. Son statut est indiqué comme disponible.

Sources : specs NVIDIA, LocalScore, Hardware Corner (llama-bench, contexte 16K).