Qwen2 7B Instruct
Qwen2 7B Instruct est un LLM de Qwen publié le 23 juillet 2024. Âgé de près de deux ans, il appartient désormais à une génération ancienne à l’échelle de l’IA, dont les performances sont largement dépassées par les modèles récents.
Qwen2 7B Instruct est un LLM de Qwen publié le 23 juillet 2024. Âgé de près de deux ans, il appartient désormais à une génération ancienne à l’échelle de l’IA, dont les performances sont largement dépassées par les modèles récents.
Cette version de 8 milliards de paramètres est ajustée pour suivre des instructions et dialoguer. Elle repose sur une architecture Transformer avec activation SwiGLU, biais QKV et group query attention. Ses poids ouverts sous licence Apache 2.0 autorisent l’usage commercial, tandis que son tokenizer prend en charge plusieurs langues naturelles et le code.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Grand modèle de langage (LLM) |
| Éditeur | Alibaba Cloud / Qwen Team |
| Poids | 🟢 Poids ouverts · usage commercial autorisé |
| Licence | Apache 2.0 |
| Date de sortie | 23 juillet 2024 |
| Multimodal | non |
| Paramètres | 8 milliards |
| Fenêtre de contexte | 32 768 tokens |
| Modalités (entrée → sortie) | text → text |
Performances (benchmarks)
| Benchmark | Score | Rang (LLM) | Source | Fiabilité |
|---|---|---|---|---|
| MT-Bench | 84,1 % | 7ᵉ / 12 | llm-stats | Auto-déclaré |
| GSM8k | 82,3 % | 36ᵉ / 47 | llm-stats | Auto-déclaré |
| HumanEval | 79,9 % | 45ᵉ / 65 | llm-stats | Auto-déclaré |
| C-Eval | 77,2 % | 15ᵉ / 18 | llm-stats | Auto-déclaré |
| AlignBench | 72,1 % | 4ᵉ / 4 | llm-stats | Auto-déclaré |
| MMLU | 70,5 % | 80ᵉ / 98 | llm-stats | Auto-déclaré |
| EvalPlus | 70,3 % | 4ᵉ / 4 | llm-stats | Auto-déclaré |
| MBPP | 67,2 % | 25ᵉ / 33 | llm-stats | Auto-déclaré |
| MultiPL-E | 59,1 % | 13ᵉ / 13 | llm-stats | Auto-déclaré |
| MATH | 49,6 % | 55ᵉ / 70 | llm-stats | Auto-déclaré |
| MMLU-Pro | 44,1 % | 117ᵉ / 125 | llm-stats | Auto-déclaré |
| LiveCodeBench | 26,6 % | 63ᵉ / 72 | llm-stats | Auto-déclaré |
| GPQA | 25,3 % | 212ᵉ / 219 | llm-stats | Auto-déclaré |
| TheoremQA | 25,3 % | 6ᵉ / 6 | llm-stats | Auto-déclaré |
« Auto-déclaré » : score communiqué par l'éditeur, non rejoué indépendamment. « Mesuré » : évalué par un tiers (Epoch AI, LiveBench). Le rang est calculé parmi les LLM évalués sur le même benchmark.
Notre analyse
Forces. À sa sortie, Qwen2 7B Instruct proposait un format relativement compact, associé à une fenêtre de contexte de 32 768 tokens. Son tokenizer multilingue couvre aussi le code, ce qui élargit les types de contenus traitables. L’architecture intègre la group query attention, et YARN est prévu pour le traitement de textes longs, avec vLLM comme solution de déploiement recommandée. La licence Apache 2.0 constitue un autre atout concret, car elle autorise l’exploitation commerciale des poids.
Limites et points d’attention. Son classement sur GPQA, qui évalue le raisonnement sur des questions scientifiques complexes, le plaçait seulement dans le top 100% des 25 LLM de sa génération. Ce résultat ne le distinguait donc pas de ses contemporains, même au moment de sa sortie. Près de deux ans plus tard, ses performances sont largement dépassées et les modèles de cette période sont souvent retirés des catalogues des éditeurs. La longueur maximale de 131 072 tokens associée à YARN relève d’une configuration pour textes longs, tandis que la fenêtre de contexte retenue pour le modèle est de 32 768 tokens.
Sources des données : LLM-Stats (llm-stats.com) · OpenRouter (openrouter.ai).