DeepSeek R1 Distill Qwen 32B
DeepSeek R1 Distill Qwen 32B est un LLM dense de DeepSeek, sorti le 20 janvier 2025. Âgé d’environ un an, il appartient déjà à une génération ancienne à l’échelle de l’IA, probablement dépassée par les modèles plus récents et souvent retirée des catalogues.
DeepSeek R1 Distill Qwen 32B est un LLM dense de DeepSeek, sorti le 20 janvier 2025. Âgé d’environ un an, il appartient déjà à une génération ancienne à l’échelle de l’IA, probablement dépassée par les modèles plus récents et souvent retirée des catalogues.
Fondé sur Qwen2.5-32B, ce modèle de 33 milliards de paramètres a été affiné avec des échantillons produits par DeepSeek-R1 afin d’en distiller les schémas de raisonnement. Sa fenêtre de contexte atteint 128 000 tokens et ses connaissances s’arrêtent au 31 juillet 2024.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Grand modèle de langage (LLM) |
| Éditeur | DeepSeek |
| Poids | 🟢 Poids ouverts · usage commercial autorisé |
| Licence | MIT |
| Date de sortie | 20 janvier 2025 |
| Multimodal | non |
| Paramètres | 33 milliards |
| Fenêtre de contexte | 128 000 tokens |
| Modalités (entrée → sortie) | text → text |
Performances (benchmarks)
| Benchmark | Score | Rang (LLM) | Source | Fiabilité |
|---|---|---|---|---|
| MATH-500 | 94,3 % | 20ᵉ / 31 | llm-stats | Auto-déclaré |
| AIME 2024 | 83,3 % | 19ᵉ / 52 | llm-stats | Auto-déclaré |
| GPQA | 62,1 % | 143ᵉ / 219 | llm-stats | Auto-déclaré |
| LiveCodeBench | 57,2 % | 34ᵉ / 72 | llm-stats | Auto-déclaré |
« Auto-déclaré » : score communiqué par l'éditeur, non rejoué indépendamment. « Mesuré » : évalué par un tiers (Epoch AI, LiveBench). Le rang est calculé parmi les LLM évalués sur le même benchmark.
Notre analyse
Forces. À sa sortie, DeepSeek R1 Distill Qwen 32B se situait dans le top 25% des 59 LLM de sa génération sur GPQA, un benchmark consacré aux questions scientifiques complexes. Ce résultat le plaçait alors dans le haut du panier pour le raisonnement évalué par ce test. Sa distillation transfère des schémas de raisonnement produits par DeepSeek-R1 vers une architecture dense basée sur Qwen2.5-32B. Les évaluations couvrent également les mathématiques et le code. Le modèle s’utilise selon des modalités proches des modèles Qwen ou Llama, notamment avec vLLM ou SGLang, au moyen de configurations et de tokenizers adaptés par DeepSeek. Sa licence MIT autorise l’usage commercial et ses poids sont ouverts.
Limites et points d'attention. Son ancienneté d’environ un an est très importante dans un secteur qui évolue rapidement. Ses performances sont désormais probablement largement dépassées par celles des modèles récents, et les modèles de cette période sont souvent retirés du catalogue de leur éditeur. La limite de connaissances fixée au 31 juillet 2024 exclut les événements et informations postérieurs. Enfin, son classement favorable sur GPQA décrit sa position au moment de sa sortie, parmi les modèles publiés durant les quelque 18 mois précédents, et non son niveau face aux modèles actuels.
Sources des données : LLM-Stats (llm-stats.com) · OpenRouter (openrouter.ai).