Jamba 1.5 Large
Jamba 1.5 Large est un LLM de 398 milliards de paramètres publié par AI21 Labs le 22 août 2024. Près de deux ans plus tard, il appartient déjà à une génération ancienne à l’échelle de l’IA, dont les performances sont probablement dépassées par celles des modèles plus récents.
Jamba 1.5 Large est un LLM de 398 milliards de paramètres publié par AI21 Labs le 22 août 2024. Près de deux ans plus tard, il appartient déjà à une génération ancienne à l’échelle de l’IA, dont les performances sont probablement dépassées par celles des modèles plus récents.
Le modèle se distingue surtout par sa fenêtre de contexte de 256 000 tokens, particulièrement étendue pour sa période. Ses connaissances s’arrêtent au 5 mars 2024. Développé en Israël, il est distribué sous Jamba Open Model License, sans ouverture de ses poids.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Grand modèle de langage (LLM) |
| Éditeur | AI21 Labs |
| Poids | 🟢 Poids ouverts · usage commercial restreint (recherche / non commercial) |
| Licence | Jamba Open Model License |
| Date de sortie | 22 août 2024 |
| Connaissances jusqu'à | 2024-03-05 |
| Multimodal | non |
| Paramètres | 398 milliards |
| Fenêtre de contexte | 256 000 tokens |
| Modalités (entrée → sortie) | text → text |
Performances (benchmarks)
| Benchmark | Score | Rang (LLM) | Source | Fiabilité |
|---|---|---|---|---|
| ARC-C | 93,0 % | 7ᵉ / 34 | llm-stats | Auto-déclaré |
| GSM8k | 87,0 % | 32ᵉ / 47 | llm-stats | Auto-déclaré |
| MMLU | 81,2 % | 51ᵉ / 98 | llm-stats | Auto-déclaré |
| Arena Hard | 65,4 % | 12ᵉ / 26 | llm-stats | Auto-déclaré |
| TruthfulQA | 58,3 % | 9ᵉ / 18 | llm-stats | Auto-déclaré |
| MMLU-Pro | 53,5 % | 106ᵉ / 125 | llm-stats | Auto-déclaré |
| Wild Bench | 48,5 % | 7ᵉ / 8 | llm-stats | Auto-déclaré |
| GPQA | 36,9 % | 195ᵉ / 219 | llm-stats | Auto-déclaré |
« Auto-déclaré » : score communiqué par l'éditeur, non rejoué indépendamment. « Mesuré » : évalué par un tiers (Epoch AI, LiveBench). Le rang est calculé parmi les LLM évalués sur le même benchmark.
Entraînement & empreinte
| Indicateur | Valeur |
|---|---|
| Jeu de données | Unspecified unreleased |
| Matériel | NVIDIA H100 SXM5 80GB |
| Pays | Israel |
Notre analyse
Forces. La fenêtre de contexte de 256 000 tokens constitue le principal atout de Jamba 1.5 Large et autorise le traitement d’entrées très longues. Sa taille de 398 milliards de paramètres le positionnait également parmi les modèles particulièrement imposants de sa période. Sur GPQA, un benchmark consacré aux questions scientifiques difficiles, il se classait à sa sortie dans le top 62% des 34 LLM de sa génération. Ce résultat le situait au-dessus d’une partie du panel, sans le placer dans le groupe de tête.
Limites et points d’attention. Son âge pèse fortement sur sa pertinence actuelle : près de deux ans représentent une durée très longue dans l’IA, et ses performances sont aujourd’hui largement dépassées. Les modèles de cette génération sont en outre souvent retirés du catalogue de leur éditeur. La coupure des connaissances au 5 mars 2024 exclut les événements ultérieurs. Enfin, les poids ne sont pas ouverts malgré l’emploi d’une licence spécifique, ce qui limite l’accès direct au modèle et son examen indépendant.
Sources des données : LLM-Stats (llm-stats.com) · OpenRouter (openrouter.ai) · Epoch AI (epoch.ai), CC-BY-4.0.