DiffusionGemma 26B-A4B
DiffusionGemma 26B-A4B est un LLM open-weights de Google, publié le 10 juin 2026 sous licence Apache 2.0, avec usage commercial autorisé. Ses 25 milliards de paramètres reposent sur une architecture Mixture-of-Experts issue de Gemma 4 26B A4B.
DiffusionGemma 26B-A4B est un LLM open-weights de Google, publié le 10 juin 2026 sous licence Apache 2.0, avec usage commercial autorisé. Ses 25 milliards de paramètres reposent sur une architecture Mixture-of-Experts issue de Gemma 4 26B A4B.
Sa particularité tient à la génération de texte par diffusion discrète, plutôt que par prédiction autoregressive token après token. Son architecture encodeur-décodeur associe un encodeur autoregressif pour le contexte à un décodeur bidirectionnel travaillant sur un espace de génération, avec échantillonnage multi-canvas.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Grand modèle de langage (LLM) |
| Éditeur | |
| Poids | 🟢 Poids ouverts · usage commercial autorisé |
| Licence | Apache 2.0 |
| Date de sortie | 10 juin 2026 |
| Connaissances jusqu'à | 2025-01-01 |
| Multimodal | oui |
| Paramètres | 25 milliards |
Performances (benchmarks)
| Benchmark | Score | Rang (LLM) | Source | Fiabilité |
|---|---|---|---|---|
| MMMLU | 81,5 % | 37ᵉ / 49 | llm-stats | Auto-déclaré |
| MMLU-Pro | 77,6 % | 60ᵉ / 125 | llm-stats | Auto-déclaré |
| GPQA | 73,2 % | 107ᵉ / 219 | llm-stats | Auto-déclaré |
| MathVision | 70,5 % | 16ᵉ / 32 | llm-stats | Auto-déclaré |
| AIME 2026 | 69,1 % | 15ᵉ / 17 | llm-stats | Auto-déclaré |
| LiveCodeBench v6 | 69,1 % | 31ᵉ / 53 | llm-stats | Auto-déclaré |
| t2-bench | 56,2 % | 20ᵉ / 23 | llm-stats | Auto-déclaré |
| MMMU-Pro | 54,3 % | 53ᵉ / 64 | llm-stats | Auto-déclaré |
| MedXpertQA | 49,0 % | 7ᵉ / 12 | llm-stats | Auto-déclaré |
| CodeForces | 47,6 % | 16ᵉ / 16 | llm-stats | Auto-déclaré |
| BIG-Bench Extra Hard | 47,6 % | 4ᵉ / 11 | llm-stats | Auto-déclaré |
| MRCR v2 | 32,0 % | 2ᵉ / 3 | llm-stats | Auto-déclaré |
| Humanity's Last Exam | 11,9 % | 75ᵉ / 89 | llm-stats | Auto-déclaré |
« Auto-déclaré » : score communiqué par l'éditeur, non rejoué indépendamment. « Mesuré » : évalué par un tiers (Epoch AI, LiveBench). Le rang est calculé parmi les LLM évalués sur le même benchmark.
Notre analyse
Forces. DiffusionGemma 26B-A4B combine des entrées texte, image et vidéo afin de produire du texte. Il prend en charge un contexte allant jusqu’à 256K tokens, les prompts système natifs, le function calling et un mode thinking configurable. Sa couverture linguistique comprend un fonctionnement prêt à l’emploi dans plus de 35 langues, après un pré-entraînement couvrant plus de 140 langues. La diffusion discrète et l’attention bidirectionnelle sur le canvas de génération constituent son principal élément distinctif face aux LLM autoregressifs classiques. La licence Apache 2.0 autorise en outre l’exploitation commerciale de ses poids ouverts.
Limites et points d'attention. À sa sortie, DiffusionGemma 26B-A4B se situait dans le top 58% des 171 LLM de sa génération sur GPQA, un benchmark de questions scientifiques avancées. Ce classement le place dans une zone intermédiaire plutôt que parmi les modèles les plus performants de son époque sur ce test. Ses connaissances s’arrêtent au 1er janvier 2025, alors que sa publication intervient en juin 2026. Le modèle cible ainsi surtout l’expérimentation autour de la génération par diffusion, les déploiements open-weights multimodaux et les usages nécessitant un long contexte ou une prise en charge multilingue.
Sources des données : LLM-Stats (llm-stats.com).