Jamba 1.5 Mini

Jamba 1.5 Mini est un LLM de 52 milliards de paramètres publié par AI21 Labs le 22 août 2024. Près de deux ans plus tard, il appartient déjà à une génération ancienne à l’échelle de l’IA, dont les performances sont probablement dépassées par celles des modèles récents.

Jamba 1.5 Mini est un LLM de 52 milliards de paramètres publié par AI21 Labs le 22 août 2024. Près de deux ans plus tard, il appartient déjà à une génération ancienne à l’échelle de l’IA, dont les performances sont probablement dépassées par celles des modèles récents.

Sa principale caractéristique est une fenêtre de contexte de 256 144 tokens, associée à des connaissances arrêtées au 5 mars 2024. Le modèle relève de la Jamba Open Model License, mais ses poids ne sont pas ouverts.

Caractéristiques

CaractéristiqueValeur
TypeGrand modèle de langage (LLM)
ÉditeurAI21 Labs
Poids🟢 Poids ouverts · usage commercial restreint (recherche / non commercial)
LicenceJamba Open Model License
Date de sortie22 août 2024
Connaissances jusqu'à2024-03-05
Multimodalnon
Paramètres52 milliards
Fenêtre de contexte256 144 tokens
Modalités (entrée → sortie)text → text

Performances (benchmarks)

BenchmarkScoreRang (LLM)SourceFiabilité
ARC-C85,7 %13ᵉ / 34llm-statsAuto-déclaré
GSM8k75,8 %40ᵉ / 47llm-statsAuto-déclaré
MMLU69,7 %82ᵉ / 98llm-statsAuto-déclaré
TruthfulQA54,1 %15ᵉ / 18llm-statsAuto-déclaré
Arena Hard46,1 %20ᵉ / 26llm-statsAuto-déclaré
MMLU-Pro42,5 %119ᵉ / 125llm-statsAuto-déclaré
Wild Bench42,4 %8ᵉ / 8llm-statsAuto-déclaré
GPQA32,3 %205ᵉ / 219llm-statsAuto-déclaré

« Auto-déclaré » : score communiqué par l'éditeur, non rejoué indépendamment. « Mesuré » : évalué par un tiers (Epoch AI, LiveBench). Le rang est calculé parmi les LLM évalués sur le même benchmark.

Notre analyse

Forces. À sa sortie, Jamba 1.5 Mini se situait dans le top 85% des 34 LLM de sa génération sur GPQA, un benchmark consacré aux questions scientifiques difficiles. Ce résultat le plaçait dans la majorité supérieure de sa cohorte, sans en faire l’un des modèles dominants. Sa fenêtre de 256 144 tokens constituait son autre caractéristique notable, avec une capacité de contexte particulièrement étendue pour un modèle publié en août 2024.

Limites et points d’attention. Son âge pèse fortement sur sa pertinence actuelle : près de deux ans représentent une période très longue dans l’évolution des LLM. Ses performances sont aujourd’hui probablement largement dépassées, et les modèles de cette période sont souvent retirés du catalogue de leur éditeur. La coupure des connaissances au 5 mars 2024 exclut en outre les événements et informations postérieurs. Enfin, la Jamba Open Model License ne correspond pas à une ouverture des poids, ce qui limite l’accès direct au modèle malgré l’intitulé de la licence.


Sources des données : LLM-Stats (llm-stats.com) · OpenRouter (openrouter.ai).