Gemma 3 27B

Gemma 3 27B est un LLM open-weights de Google, publié le 12 mars 2025 sous licence Gemma, avec usage commercial autorisé. Son ancienneté d’environ un an est déjà très importante à l’échelle de l’IA : ses performances doivent être replacées face aux modèles de sa période, plutôt qu’aux…

Gemma 3 27B est un LLM open-weights de Google, publié le 12 mars 2025 sous licence Gemma, avec usage commercial autorisé. Son ancienneté d’environ un an est déjà très importante à l’échelle de l’IA : ses performances doivent être replacées face aux modèles de sa période, plutôt qu’aux systèmes haut de gamme actuels.

Avec 27 milliards de paramètres et une fenêtre de contexte de 131 072 tokens, le modèle privilégie un accès très économique. Son utilisation est gratuite selon les tarifs recensés, soit 100% sous la moyenne des LLM similaires. Ses connaissances s’arrêtent au 31 août 2024.

Caractéristiques

CaractéristiqueValeur
TypeGrand modèle de langage (LLM)
ÉditeurGoogle
Poids🟢 Poids ouverts · usage commercial autorisé
LicenceGemma
Date de sortie12 mars 2025
Multimodaloui
Paramètres27 milliards
Fenêtre de contexte131 072 tokens
Modalités (entrée → sortie)text,image → text

Indices de synthèse

IndiceValeurRang (LLM)
Intelligence Index7.4133ᵉ / 137
Code Index10.174ᵉ / 74
Agentic Index0.368ᵉ / 68
Math Index20.745ᵉ / 54

Indices Artificial Analysis. Le rang situe le modèle parmi tous les LLM du catalogue disposant de l'indice.

Performances (benchmarks)

BenchmarkScoreRang (LLM)SourceFiabilité
GSM8k95,9 %7ᵉ / 47llm-statsAuto-déclaré
IFEval90,4 %13ᵉ / 65llm-statsAuto-déclaré
MATH89,0 %7ᵉ / 70llm-statsAuto-déclaré
HumanEval87,8 %27ᵉ / 65llm-statsAuto-déclaré
BIG-Bench Hard87,6 %3ᵉ / 20llm-statsAuto-déclaré
DocVQA86,6 %23ᵉ / 26llm-statsAuto-déclaré
AI2D84,5 %23ᵉ / 32llm-statsAuto-déclaré
Natural2Code84,5 %3ᵉ / 8llm-statsAuto-déclaré
ChartQA78,0 %21ᵉ / 24llm-statsAuto-déclaré
Global-MMLU-Lite75,1 %6ᵉ / 14llm-statsAuto-déclaré
FACTS Grounding74,9 %7ᵉ / 13llm-statsAuto-déclaré
MBPP74,4 %19ᵉ / 33llm-statsAuto-déclaré
VQAv2 (val)71,0 %2ᵉ / 3llm-statsAuto-déclaré
InfoVQA70,6 %6ᵉ / 9llm-statsAuto-déclaré
MathVista-Mini67,6 %21ᵉ / 23llm-statsAuto-déclaré
MMLU-Pro67,5 %88ᵉ / 125llm-statsAuto-déclaré
TextVQA65,1 %14ᵉ / 15llm-statsAuto-déclaré
MMMU (val)64,9 %9ᵉ / 11llm-statsAuto-déclaré
HiddenMath60,3 %2ᵉ / 13llm-statsAuto-déclaré
Bird-SQL (dev)54,4 %3ᵉ / 7llm-statsAuto-déclaré
WMT24++53,4 %14ᵉ / 23llm-statsAuto-déclaré
GPQA42,4 %183ᵉ / 219llm-statsAuto-déclaré
LiveCodeBench29,7 %61ᵉ / 72llm-statsAuto-déclaré
BIG-Bench Extra Hard19,3 %7ᵉ / 11llm-statsAuto-déclaré
ECLeKTic16,7 %2ᵉ / 8llm-statsAuto-déclaré
MRCR v2 (8-needle)13,5 %19ᵉ / 19llm-statsAuto-déclaré
SimpleQA10,0 %40ᵉ / 45llm-statsAuto-déclaré

« Auto-déclaré » : score communiqué par l'éditeur, non rejoué indépendamment. « Mesuré » : évalué par un tiers (Epoch AI, LiveBench). Le rang est calculé parmi les LLM évalués sur le même benchmark.

Comment se situe-t-il ?

Le modèle (en orange) comparé aux meilleurs modèles sur chaque dimension évaluée, et à ses voisins de classement.

Intelligence Index

▶ Gemma 3 27B7.4

Code Index

▶ Gemma 3 27B10.1

Classements Arena (Elo)

Arena Text · 200 modèles classés

RangModèleElo
1ᵉClaude Fable 51507
2ᵉClaude Opus 4.61504
3ᵉClaude Opus 4.71503
164ᵉGLM-4.7-Flash1368
165ᵉamazon-nova-experimental-chat-11-101366
166ᵉGemma 3 27B1366
167ᵉMiniMax M11364
168ᵉo3-mini1363

Arena Vision · 135 modèles classés

RangModèleElo
1ᵉClaude Fable 51318
2ᵉClaude Opus 4.71304
3ᵉClaude Opus 4.61299
80ᵉClaude 3.5 Sonnet1160
81ᵉhunyuan-vision-1.5-thinking1159
82ᵉGemma 3 27B1159
83ᵉmistral-medium-25081158
84ᵉstep-1o-turbo-2025061157

Tarifs

FournisseurEntrée / 1MSortie / 1MCache lecture / 1M
DeepInfra0,08 $0,16 $n.d.

Prix en dollars US par million de tokens.

Sa tarification se situe 96 % en dessous de la moyenne des LLM similaires, et 68,8 fois moins cher que les modèles frontières (Claude Fable 5, GPT-5.6 Sol, Gemini 3.5 Flash).

Coût & vitesse agentiques

IndicateurValeur
Coût moyen par benchmark — Benchable0 $
Latence moyenne par benchmark — Benchable6 min 34 s

Coûts et durées réels mesurés en exécutant le modèle comme agent. PinchBench = un run complet de 147 tâches (harness OpenClaw) ; Benchable = moyenne par benchmark. Sources : PinchBench, Benchable.ai.

Notre analyse

Forces. Gemma 3 27B se distingue surtout sur Ethics (Baseline), où il occupe la première place du classement recensé. Ses résultats Baseline sont également élevés en connaissances générales, classification d’e-mails, programmation et mathématiques, même si leurs rangs relatifs sont moins favorables. Sur MATH level 5, il se situe dans le premier tiers du panel évalué. À sa sortie, son résultat sur GPQA diamond le plaçait dans le top 43% des LLM de sa génération, soit une position correcte sans appartenir au groupe de tête. Sa licence open-weights autorisant l’usage commercial et sa gratuité constituent ses principaux atouts pratiques.

Limites et points d’attention. Les indices synthétiques révèlent aujourd’hui un net décrochage : l’Intelligence Index place le modèle près du bas du classement, tandis que le Code Index et l’Agentic Index le classent derniers de leurs panels respectifs. Le Math Index reste lui aussi dans la partie basse. Les évaluations Arena confirment cette distance, avec un classement faible en texte et plus modeste encore en vision face aux meilleurs modèles. Après environ un an, ces performances sont largement dépassées à l’échelle de l’IA, et les modèles de cet âge sont souvent retirés des catalogues des éditeurs. La coupure des connaissances en août 2024 limite aussi son intérêt pour les informations récentes.


Sources des données : LLM-Stats (llm-stats.com) · OpenRouter (openrouter.ai) · Artificial Analysis (artificialanalysis.ai) · Arena.ai (arena.ai) · Epoch AI (epoch.ai), CC-BY-4.0 · Benchable.ai (benchable.ai).