Mistral NeMo Instruct
Sorti le 18 juillet 2024, Mistral NeMo Instruct est un LLM de 12 milliards de paramètres développé conjointement par Mistral AI et NVIDIA. Près de deux ans plus tard, il appartient déjà à une génération ancienne à l’échelle de l’IA, probablement dépassée par les modèles plus récents et…
Sorti le 18 juillet 2024, Mistral NeMo Instruct est un LLM de 12 milliards de paramètres développé conjointement par Mistral AI et NVIDIA. Près de deux ans plus tard, il appartient déjà à une génération ancienne à l’échelle de l’IA, probablement dépassée par les modèles plus récents et souvent absente des catalogues actuels.
Cette version de Mistral NeMo est affinée pour le suivi d’instructions, le chat et le function calling. Elle se distingue par une fenêtre de contexte de 131 072 tokens, une orientation multilingue et code, ainsi que par une licence Apache 2.0 autorisant l’usage commercial.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Grand modèle de langage (LLM) |
| Éditeur | Mistral AI |
| Poids | 🟢 Poids ouverts · usage commercial autorisé |
| Licence | Apache 2.0 |
| Date de sortie | 18 juillet 2024 |
| Multimodal | non |
| Paramètres | 12 milliards |
| Fenêtre de contexte | 128 000 tokens |
| Modalités (entrée → sortie) | text → text |
Performances (benchmarks)
| Benchmark | Score | Rang (LLM) | Source | Fiabilité |
|---|---|---|---|---|
| HellaSwag | 83,5 % | 15ᵉ / 27 | llm-stats | Auto-déclaré |
| Winogrande | 76,8 % | 12ᵉ / 22 | llm-stats | Auto-déclaré |
| TriviaQA | 73,8 % | 11ᵉ / 18 | llm-stats | Auto-déclaré |
| MMLU | 68,0 % | 86ᵉ / 98 | llm-stats | Auto-déclaré |
| OpenBookQA | 60,6 % | 4ᵉ / 5 | llm-stats | Auto-déclaré |
| TruthfulQA | 50,3 % | 18ᵉ / 18 | llm-stats | Auto-déclaré |
| Natural Questions | 31,2 % | 2ᵉ / 7 | llm-stats | Auto-déclaré |
« Auto-déclaré » : score communiqué par l'éditeur, non rejoué indépendamment. « Mesuré » : évalué par un tiers (Epoch AI, LiveBench). Le rang est calculé parmi les LLM évalués sur le même benchmark.
Tarifs
| Fournisseur | Entrée / 1M | Sortie / 1M | Cache lecture / 1M |
|---|---|---|---|
| DekaLLM | 0,018 $ | 0,03 $ | n.d. |
Prix en dollars US par million de tokens.
Sa tarification se situe 99 % en dessous de la moyenne des LLM similaires, et 305,6 fois moins cher que les modèles frontières (Claude Fable 5, GPT-5.6 Sol, Gemini 3.5 Flash).
Notre analyse
Forces. À sa sortie, Mistral NeMo Instruct proposait une combinaison notable entre format relativement compact, contexte long et polyvalence. Son entraînement intègre une forte proportion de données multilingues et de code. Son architecture transformer comprend 40 couches, une activation SwiGLU, du GQA avec 8 kv-heads, des embeddings rotatifs theta=1M et un vocabulaire d’environ 128k. Le modèle fonctionne avec mistral_inference, transformers et NeMo. Son principal avantage reste économique : ses tarifs minimaux de 0,02 $ par million de tokens en entrée et 0,03 $ en sortie se situent 99% sous la moyenne des LLM similaires, soit environ 275 fois moins que les modèles frontière. Sur MMLU, son classement à sa sortie le situait dans le panel des 26 LLM de sa génération.
Limites et points d’attention. Son ancienneté pèse fortement sur son intérêt comparatif : près de deux ans représentent une période très longue dans l’évolution des LLM. Ses performances sont aujourd’hui probablement largement dépassées, et le modèle est souvent retiré du catalogue de l’éditeur. Sa limite de connaissances au 30 avril 2024 réduit également sa pertinence pour les informations plus récentes. Son intérêt actuel tient surtout à son coût très faible, à ses poids ouverts et à sa longue fenêtre de contexte.
Sources des données : LLM-Stats (llm-stats.com) · OpenRouter (openrouter.ai).