Qwen: Qwen3 Embedding 4B

Qwen: Qwen3 Embedding 4B est un modèle d’embedding dense de Qwen, publié le 28 octobre 2025 sous licence ouverte Apache 2.0. Fondé sur Qwen3, il compte 4 milliards de paramètres actifs, répartis sur 36 couches, et accepte des séquences allant jusqu’à 32K.

Qwen: Qwen3 Embedding 4B est un modèle d’embedding dense de Qwen, publié le 28 octobre 2025 sous licence ouverte Apache 2.0. Fondé sur Qwen3, il compte 4 milliards de paramètres actifs, répartis sur 36 couches, et accepte des séquences allant jusqu’à 32K.

Le modèle couvre plus de 100 langues et produit des vecteurs atteignant 2560 dimensions. Grâce au support MRL, cette taille peut être ajustée de 32 à 2560 dimensions. Il sert à indexer des contenus pour la recherche sémantique et le RAG, ainsi qu’à alimenter des systèmes de classification, de clustering et d’alignement de textes bilingues.

Caractéristiques

CaractéristiqueValeur
TypeModèle d'embedding
ÉditeurAlibaba Cloud / Qwen Team
Poids🟢 Poids ouverts
LicenceApache 2.0
Date de sortie28 octobre 2025
Dimension du vecteur2 560
Représentationdense
Paramètres4 milliards
Paramètres actifs4 milliards
Longueur de séquence max32 768 tokens
Modalités (entrée → sortie)text → embeddings

Performances (benchmarks)

BenchmarkScoreRangSourceFiabilité
MTEB: BEIR61,6 %8ᵉ / 192mteb✅ Mesuré
MTEB: Code Information Retrieval79,2 %6ᵉ / 49mteb✅ Mesuré
MTEB: Code80,1 %7ᵉ / 43mteb✅ Mesuré
MTEB: CoREB56,5 %12ᵉ / 19mteb✅ Mesuré
MTEB: Chinese72,3 %13ᵉ / 58mteb✅ Mesuré
MTEB: Russian70,1 %6ᵉ / 104mteb✅ Mesuré
MTEB: Dutch63,7 %8ᵉ / 113mteb✅ Mesuré
MTEB: Instruction Following11,6 %2ᵉ / 196mteb✅ Mesuré

Scores issus de MTEB (Massive Text Embedding Benchmark), suite d'évaluation indépendante. Le rang situe le modèle parmi les modèles d'embedding évalués sur le même track.

Comment se situe-t-il ?

Le modèle (en orange) comparé aux meilleurs modèles sur chaque dimension évaluée, et à ses voisins de classement.

MTEB: BEIR

▶ Qwen3 Embedding 4B62 %

MTEB: Code Information Retrieval

▶ Qwen3 Embedding 4B79 %

Tarifs

FournisseurPrix / 1M tokens
DeepInfra0,02 $

Prix en dollars US par million de tokens.

Sa tarification se situe 55 % en dessous de la moyenne des modèles d'embedding similaires.

Notre analyse

Forces. Qwen: Qwen3 Embedding 4B se distingue surtout en recherche d’information. Son classement dans le top 10 de BEIR indique une bonne aptitude à la recherche zero-shot sur des tâches et domaines hétérogènes. Les résultats obtenus en russe et en néerlandais le placent également parmi les meilleurs modèles évalués sur ces langues, ce qui renforce son intérêt pour des corpus multilingues. La fenêtre de 32K facilite le traitement de documents longs, tandis que les instructions personnalisées permettent d’adapter la représentation à la tâche. La licence Apache 2.0 autorise l’auto-hébergement et l’intégration dans des applications commerciales.

Limites et points d'attention. Le track Chinese reste moins bien classé que les meilleurs résultats du modèle, malgré un score solide. À sa dimension maximale de 2560, chaque vecteur alourdit l’index, accroît les besoins de stockage et peut rendre la recherche plus coûteuse. Le support MRL atténue cet arbitrage en permettant de choisir une sortie plus compacte, avec une dimension comprise entre 32 et 2560. Ses usages pertinents comprennent la recherche sémantique multilingue, le RAG sur des documents longs, la classification, le clustering et l’alignement bilingue.


Sources des données : OpenRouter (openrouter.ai) · MTEB — Massive Text Embedding Benchmark · LLM-Stats (llm-stats.com).