Qwen2 72B Instruct
Qwen2 72B Instruct est un LLM de Qwen sorti le 23 juillet 2024. Avec environ deux ans d’ancienneté, il appartient déjà à une génération ancienne à l’échelle de l’IA et doit être replacé parmi les modèles disponibles lors de son lancement, plutôt que comparé directement aux systèmes…
Qwen2 72B Instruct est un LLM de Qwen sorti le 23 juillet 2024. Avec environ deux ans d’ancienneté, il appartient déjà à une génération ancienne à l’échelle de l’IA et doit être replacé parmi les modèles disponibles lors de son lancement, plutôt que comparé directement aux systèmes actuels.
Cette version de 72 milliards de paramètres repose sur une architecture Transformer intégrant SwiGLU, un biais d’attention QKV et la group query attention. Son tokenizer est adapté à plusieurs langues naturelles ainsi qu’au code. Sa fenêtre de contexte atteint 32 768 tokens et ses connaissances s’arrêtent au 30 juin 2024.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Grand modèle de langage (LLM) |
| Éditeur | Alibaba Cloud / Qwen Team |
| Poids | 🟢 Poids ouverts · usage commercial restreint (recherche / non commercial) |
| Licence | tongyi-qianwen |
| Date de sortie | 23 juillet 2024 |
| Multimodal | non |
| Paramètres | 72 milliards |
| Fenêtre de contexte | 32 768 tokens |
| Modalités (entrée → sortie) | text → text |
Performances (benchmarks)
| Benchmark | Score | Rang (LLM) | Source | Fiabilité |
|---|---|---|---|---|
| GSM8k | 91,1 % | 23ᵉ / 47 | llm-stats | Auto-déclaré |
| CMMLU | 90,1 % | 2ᵉ / 6 | llm-stats | Auto-déclaré |
| HellaSwag | 87,6 % | 8ᵉ / 27 | llm-stats | Auto-déclaré |
| HumanEval | 86,0 % | 31ᵉ / 65 | llm-stats | Auto-déclaré |
| Winogrande | 85,1 % | 4ᵉ / 22 | llm-stats | Auto-déclaré |
| C-Eval | 83,8 % | 14ᵉ / 18 | llm-stats | Auto-déclaré |
| BBH | 82,4 % | 6ᵉ / 12 | llm-stats | Auto-déclaré |
| MMLU | 82,3 % | 47ᵉ / 98 | llm-stats | Auto-déclaré |
| MBPP | 80,2 % | 13ᵉ / 33 | llm-stats | Auto-déclaré |
| EvalPlus | 79,0 % | 2ᵉ / 4 | llm-stats | Auto-déclaré |
| MultiPL-E | 69,2 % | 10ᵉ / 13 | llm-stats | Auto-déclaré |
| ARC-C | 68,9 % | 24ᵉ / 34 | llm-stats | Auto-déclaré |
| MMLU-Pro | 64,4 % | 97ᵉ / 125 | llm-stats | Auto-déclaré |
| MATH | 59,7 % | 47ᵉ / 70 | llm-stats | Auto-déclaré |
| TruthfulQA | 54,8 % | 13ᵉ / 18 | llm-stats | Auto-déclaré |
| TheoremQA | 44,4 % | 1ᵉ / 6 | llm-stats | Auto-déclaré |
| GPQA | 42,4 % | 183ᵉ / 219 | llm-stats | Auto-déclaré |
« Auto-déclaré » : score communiqué par l'éditeur, non rejoué indépendamment. « Mesuré » : évalué par un tiers (Epoch AI, LiveBench). Le rang est calculé parmi les LLM évalués sur le même benchmark.
Notre analyse
Forces. À sa sortie, Qwen2 72B Instruct se situait dans la partie supérieure de sa génération sur GPQA, un benchmark consacré aux questions scientifiques complexes : il figurait dans le top 40 % des 25 LLM parus au cours des quelque 18 mois précédents. Son format Instruct correspond à une version alignée pour les interactions, contrairement au modèle de base de la même famille, dont l’usage direct pour la génération de texte nécessite plutôt un post-entraînement comme le SFT, le RLHF ou le continued pretraining. Sa capacité de 72 milliards de paramètres et son contexte de 32 768 tokens en faisaient un modèle de grande taille pour sa période.
Limites et points d’attention. Son ancienneté est aujourd’hui très importante dans un secteur qui évolue rapidement. Ses performances sont probablement dépassées par celles de modèles plus récents, et les modèles de cette période sont souvent retirés des catalogues de leurs éditeurs. Sa limite de connaissances au 30 juin 2024 exclut les événements ultérieurs. Enfin, sa licence tongyi-qianwen ne donne pas accès à des poids ouverts, ce qui restreint les possibilités d’accès et de réutilisation.
Sources des données : LLM-Stats (llm-stats.com) · OpenRouter (openrouter.ai).