Gemma 3n E4B Instructed LiteRT Preview

Gemma 3n E4B Instructed LiteRT Preview est un LLM de Google publié le 20 mai 2025. Âgé d’environ un an, il appartient déjà à une génération ancienne à l’échelle de l’IA, dont les performances sont probablement dépassées par celles de modèles plus récents.

Gemma 3n E4B Instructed LiteRT Preview est un LLM de Google publié le 20 mai 2025. Âgé d’environ un an, il appartient déjà à une génération ancienne à l’échelle de l’IA, dont les performances sont probablement dépassées par celles de modèles plus récents.

Ce modèle de 2 milliards de paramètres se distinguait pourtant à sa sortie par son niveau sur GPQA, qui le plaçait parmi les meilleurs LLM de sa génération. Ses poids sont ouverts sous licence Gemma, avec un usage commercial autorisé, et ses connaissances s’arrêtent au 1er juin 2024.

Caractéristiques

CaractéristiqueValeur
TypeGrand modèle de langage (LLM)
ÉditeurGoogle
Poids🟢 Poids ouverts · usage commercial autorisé
LicenceGemma
Date de sortie20 mai 2025
Connaissances jusqu'à2024-06-01
Multimodaloui
Paramètres2 milliards

Performances (benchmarks)

BenchmarkScoreRang (LLM)SourceFiabilité
ARC-E81,6 %4ᵉ / 8llm-statsAuto-déclaré
BoolQ81,6 %5ᵉ / 10llm-statsAuto-déclaré
PIQA81,0 %5ᵉ / 11llm-statsAuto-déclaré
HellaSwag78,6 %19ᵉ / 27llm-statsAuto-déclaré
HumanEval75,0 %48ᵉ / 65llm-statsAuto-déclaré
Winogrande71,7 %16ᵉ / 22llm-statsAuto-déclaré
TriviaQA70,2 %12ᵉ / 18llm-statsAuto-déclaré
MMLU64,9 %91ᵉ / 98llm-statsAuto-déclaré
Global-MMLU-Lite64,5 %9ᵉ / 14llm-statsAuto-déclaré
MBPP63,6 %26ᵉ / 33llm-statsAuto-déclaré
ARC-C61,6 %28ᵉ / 34llm-statsAuto-déclaré
DROP60,8 %21ᵉ / 29llm-statsAuto-déclaré
MGSM60,7 %24ᵉ / 30llm-statsAuto-déclaré
Global-MMLU60,3 %2ᵉ / 5llm-statsAuto-déclaré
Include57,2 %26ᵉ / 31llm-statsAuto-déclaré
BIG-Bench Hard52,9 %16ᵉ / 20llm-statsAuto-déclaré
MMLU-Pro50,6 %109ᵉ / 125llm-statsAuto-déclaré
WMT24++50,1 %16ᵉ / 23llm-statsAuto-déclaré
Social IQa50,0 %6ᵉ / 9llm-statsAuto-déclaré
HiddenMath37,7 %8ᵉ / 13llm-statsAuto-déclaré
LiveCodeBench v525,7 %6ᵉ / 9llm-statsAuto-déclaré
GPQA23,7 %216ᵉ / 219llm-statsAuto-déclaré
Natural Questions20,9 %4ᵉ / 7llm-statsAuto-déclaré
MMLU-ProX19,9 %29ᵉ / 32llm-statsAuto-déclaré
Codegolf v2.216,8 %1ᵉ / 4llm-statsAuto-déclaré
LiveCodeBench13,2 %67ᵉ / 72llm-statsAuto-déclaré
AIME 202511,6 %105ᵉ / 108llm-statsAuto-déclaré
ECLeKTic1,9 %7ᵉ / 8llm-statsAuto-déclaré

« Auto-déclaré » : score communiqué par l'éditeur, non rejoué indépendamment. « Mesuré » : évalué par un tiers (Epoch AI, LiveBench). Le rang est calculé parmi les LLM évalués sur le même benchmark.

Notre analyse

Forces. À sa sortie, Gemma 3n E4B Instructed LiteRT Preview figurait dans le haut du panier des 98 LLM publiés au cours des quelque 18 mois précédents. Son classement dans le top 99% sur GPQA constituait son principal point fort mesuré. Sa licence Gemma associe par ailleurs des poids ouverts à l’autorisation d’un usage commercial, un cadre favorable à l’exploitation et à l’adaptation du modèle.

Limites et points d’attention. Son ancienneté d’environ un an est très importante dans un secteur où les générations se succèdent rapidement. Ses performances doivent donc être replacées dans le contexte de mai 2025 et sont probablement largement dépassées aujourd’hui, tandis qu’un modèle de cette période peut avoir été retiré du catalogue de son éditeur. La limite de connaissances fixée au 1er juin 2024 exclut les informations postérieures. Enfin, l’évaluation disponible repose sur une seule source de données concordante, ce qui invite à ne pas généraliser le bon résultat obtenu sur GPQA à d’autres capacités.


Sources des données : LLM-Stats (llm-stats.com).