DeepSeek R1 Distill Llama 70B

DeepSeek R1 Distill Llama 70B est un LLM dense de 71 milliards de paramètres, publié par DeepSeek le 20 janvier 2025. Âgé d’environ un an, il appartient déjà à une génération ancienne à l’échelle de l’IA, probablement dépassée et souvent retirée des catalogues actuels.

DeepSeek R1 Distill Llama 70B est un LLM dense de 71 milliards de paramètres, publié par DeepSeek le 20 janvier 2025. Âgé d’environ un an, il appartient déjà à une génération ancienne à l’échelle de l’IA, probablement dépassée et souvent retirée des catalogues actuels.

Distillé à partir d’échantillons générés par DeepSeek-R1 et basé sur Llama-3.3-70B-Instruct, il combine une fenêtre de contexte de 128 000 tokens avec une licence MIT autorisant l’usage commercial. Son tarif très économique se situe 60% sous la moyenne des LLM similaires.

Caractéristiques

CaractéristiqueValeur
TypeGrand modèle de langage (LLM)
ÉditeurDeepSeek
Poids🟢 Poids ouverts · usage commercial autorisé
LicenceMIT
Date de sortie20 janvier 2025
Multimodalnon
Paramètres71 milliards
Fenêtre de contexte128 000 tokens
Modalités (entrée → sortie)text → text

Performances (benchmarks)

BenchmarkScoreRang (LLM)SourceFiabilité
MATH-50094,5 %19ᵉ / 31llm-statsAuto-déclaré
AIME 202486,7 %13ᵉ / 52llm-statsAuto-déclaré
GPQA65,2 %136ᵉ / 219llm-statsAuto-déclaré
LiveCodeBench57,5 %33ᵉ / 72llm-statsAuto-déclaré

« Auto-déclaré » : score communiqué par l'éditeur, non rejoué indépendamment. « Mesuré » : évalué par un tiers (Epoch AI, LiveBench). Le rang est calculé parmi les LLM évalués sur le même benchmark.

Tarifs

FournisseurEntrée / 1MSortie / 1MCache lecture / 1M
NovitaAI0,8 $0,8 $n.d.

Prix en dollars US par million de tokens.

Sa tarification se situe 62 % en dessous de la moyenne des LLM similaires, et 6,9 fois moins cher que les modèles frontières (Claude Fable 5, GPT-5.6 Sol, Gemini 3.5 Flash).

Coût & vitesse agentiques

IndicateurValeur
Coût moyen par benchmark — Benchable0,02 $
Latence moyenne par benchmark — Benchable33 min 01 s

Coûts et durées réels mesurés en exécutant le modèle comme agent. PinchBench = un run complet de 147 tâches (harness OpenClaw) ; Benchable = moyenne par benchmark. Sources : PinchBench, Benchable.ai.

Notre analyse

Forces. DeepSeek R1 Distill Llama 70B se distingue par un excellent suivi des instructions, classé en tête du benchmark correspondant. Ses résultats en connaissances générales sont élevés, tandis que MATH level 5 le place parmi les meilleurs modèles évalués en mathématiques difficiles. À sa sortie, il figurait dans le top 21% des LLM de sa génération sur GPQA Diamond, ce qui le situait dans le haut du panier de son époque. Son tarif est environ 6,9 fois inférieur à celui des modèles frontière. Le modèle accepte les outils d’inférence vLLM et SGLang, avec des configurations et tokenizers légèrement modifiés par rapport à sa base Llama.

Limites et points d’attention. Son classement est nettement moins favorable en éthique, en classification d’e-mails et sur le benchmark consacré aux hallucinations, malgré des scores bruts élevés. Sa date limite de connaissances, fixée au 31 juillet 2024, réduit aussi sa pertinence sur les informations plus récentes. Son ancienneté rend ses performances probablement largement dépassées par les générations actuelles, et ce type de modèle est souvent retiré du catalogue de son éditeur. Sa taille de 71 milliards de paramètres reste par ailleurs une caractéristique technique importante à prendre en compte.


Sources des données : LLM-Stats (llm-stats.com) · OpenRouter (openrouter.ai) · Epoch AI (epoch.ai), CC-BY-4.0 · Benchable.ai (benchable.ai).