NVIDIA GeForce RTX 5060 Ti 16 Go

La NVIDIA GeForce RTX 5060 Ti 16 Go est la porte d’entrée la moins chère vers les 16 Go de mémoire GDDR7, une génération de mémoire graphique à haut débit, dans la gamme Blackwell. Son GPU GB206 repose sur Blackwell, l’architecture graphique de NVIDIA, et réunit 4 608 cœurs CUDA, les unités de calcul parallèle du constructeur, pour un TDP de 180 W, l’enveloppe de puissance thermique de référence.

Cette carte à deux slots cible l’inférence locale dans une machine compacte et abordable. Sa bande passante de 448 Go/s, contrainte par un bus mémoire de 128 bits, convient surtout aux modèles de 8B à 14B paramètres, plutôt qu’aux modèles plus volumineux.

Carte d'identité

Quels modèles peut-elle faire tourner ?

Estimation mémoire : environ 0,6 Go par milliard de paramètres en Q4, plus le contexte. « Juste » : le modèle se charge mais le contexte utilisable est réduit.

Performances mesurées

« Lecture » (prompt processing) : vitesse d'ingestion du contexte. « Génération » : vitesse d'écriture de la réponse, celle que l'on perçoit à l'usage. Deux mesures ne sont comparables qu'à modèle, quantisation et runtime identiques.

Efficience

Calculée sur la meilleure mesure de génération Llama 3.1 8B de cette fiche, au prix de référence 429 $ (NVIDIA (via TechPowerUp), 16 avril 2025). Indicative : le prix varie et la consommation réelle en inférence est inférieure au TDP.

Notre analyse

Les 16 Go permettent d’exécuter confortablement Llama 3.1 8B et Qwen3 14B en Q4, une quantification qui réduit les poids à environ 4 bits afin d’économiser la mémoire. Llama 3.1 8B atteint 59 tok/s, soit 59 jetons textuels générés par seconde, avec llama.cpp, un moteur d’inférence local. Qwen3 8B atteint 51,4 tok/s avec une fenêtre de contexte de 16K, la quantité de texte prise en compte simultanément. Ces cadences indiquent une génération rapide sur les modèles 8B, même si la bande passante de 448 Go/s limite la progression avec les tailles supérieures.

À 429 USD au tarif officiel, la carte privilégie l’accès à 16 Go et une consommation contenue plutôt que les très grands modèles. Son efficacité atteint 0,33 tok/s par watt de TDP sur Llama 3.1 8B. En revanche, Qwen3 32B Q4, Llama 3.3 70B Q4 et gpt-oss-120B MXFP4 ne tiennent pas en mémoire. Ce dernier est un MoE, ou modèle à mélange d’experts, dont seule une partie des paramètres est activée à chaque étape. Les données disponibles ne documentent ni le bruit ni l’étendue de la compatibilité logicielle au-delà des mesures sous llama.cpp. Le statut est disponible. L’ensemble a surtout du sens pour un poste compact dédié aux assistants, à la génération de texte et aux expérimentations locales en 8B ou 14B.

Sources : specs NVIDIA, LocalScore, Hardware Corner (llama-bench, contexte 16K).