jinaai/jina-embeddings-v3
Publié par Jina AI le 18 septembre 2024, jinaai/jina-embeddings-v3 est un modèle d'embedding multilingue de 572 millions de paramètres, fondé sur Jina-XLM-RoBERTa. Il produit des vecteurs denses de 1024 dimensions et traite des séquences atteignant 8192 tokens grâce à RoPE.
Publié par Jina AI le 18 septembre 2024, jinaai/jina-embeddings-v3 est un modèle d'embedding multilingue de 572 millions de paramètres, fondé sur Jina-XLM-RoBERTa. Il produit des vecteurs denses de 1024 dimensions et traite des séquences atteignant 8192 tokens grâce à RoPE.
Conçu pour la recherche sémantique, le RAG, la similarité et le clustering, il couvre 100 langues, avec un ajustement ciblé sur 30 d'entre elles. Ses embeddings Matryoshka sont tronquables de 1024 à 32 dimensions. La licence CC-BY-NC 4.0 autorise les usages non commerciaux sous réserve d'attribution.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Modèle d'embedding |
| Éditeur | Jina AI |
| Poids | 🟢 Poids ouverts |
| Licence | CC-BY-NC 4.0 |
| Date de sortie | 18 septembre 2024 |
| Dimension du vecteur | 1 024 |
| Représentation | dense, avec embeddings Matryoshka à dimensions tronquables |
| Paramètres | 572 millions |
| Paramètres actifs | 572 millions |
| Longueur de séquence max | 8 194 tokens |
| Modalités (entrée → sortie) | text → embedding |
Performances (benchmarks)
| Benchmark | Score | Rang | Source | Fiabilité |
|---|---|---|---|---|
| MTEB: BEIR | 53,2 % | 62ᵉ / 192 | mteb | ✅ Mesuré |
| MTEB: BEIR-NL | 45,6 % | 4ᵉ / 16 | mteb | ✅ Mesuré |
| MTEB: Long-context Retrieval | 55,7 % | 38ᵉ / 170 | mteb | ✅ Mesuré |
| MTEB: RTEB Legal | 46,5 % | 58ᵉ / 208 | mteb | ✅ Mesuré |
| MTEB: Medical | 59,5 % | 23ᵉ / 158 | mteb | ✅ Mesuré |
| MTEB: Legal | 56,9 % | 18ᵉ / 157 | mteb | ✅ Mesuré |
| MTEB: European | 60,7 % | 18ᵉ / 128 | mteb | ✅ Mesuré |
| MTEB: RTEB French | 44,4 % | 61ᵉ / 218 | mteb | ✅ Mesuré |
| MTEB: RTEB German | 59,4 % | 41ᵉ / 209 | mteb | ✅ Mesuré |
| MTEB: Korean | 69,1 % | 10ᵉ / 102 | mteb | ✅ Mesuré |
| MTEB: Farsi | 65,3 % | 11ᵉ / 30 | mteb | ✅ Mesuré |
| MTEB: Russian | 63,6 % | 16ᵉ / 104 | mteb | ✅ Mesuré |
Scores issus de MTEB (Massive Text Embedding Benchmark), suite d'évaluation indépendante. Le rang situe le modèle parmi les modèles d'embedding évalués sur le même track.
Comment se situe-t-il ?
Le modèle (en orange) comparé aux meilleurs modèles sur chaque dimension évaluée, et à ses voisins de classement.
MTEB: BEIR
MTEB: BEIR-NL
Notre analyse
Forces. jinaai/jina-embeddings-v3 se distingue surtout par sa polyvalence multilingue. Ses résultats MTEB le placent dans le top 10 en coréen et en allemand, tandis que les évaluations russe, persane et européennes confirment une couverture linguistique étendue pour la classification, le clustering, le reranking et la recherche. Cinq adaptateurs LoRA spécialisent les vecteurs pour les requêtes, les passages, la séparation, la classification ou l'appariement de textes. La fenêtre de 8192 tokens facilite l'indexation de documents longs. Les dimensions Matryoshka permettent aussi d'alléger les index et d'accélérer la recherche en tronquant les vecteurs.
Limites et points d'attention. Le positionnement est moins favorable sur MTEB Medical que sur ses meilleurs tracks linguistiques, ce qui invite à valider le modèle sur les corpus cliniques, biomédicaux ou de santé visés. À 1024 dimensions, les vecteurs complets augmentent le stockage et le coût de recherche, même si la troncature offre un compromis. La licence CC-BY-NC 4.0 restreint l'exploitation commerciale. Sorti en 2024, le modèle est ancien à l'échelle de l'IA et peut être dépassé par des embeddings plus récents de son segment. Usages pertinents : recherche multilingue, RAG sur documents longs, déduplication, similarité et clustering non commerciaux.
Sources des données : MTEB — Massive Text Embedding Benchmark · LLM-Stats (llm-stats.com).