mixedbread-ai/mxbai-embed-large-v1
mixedbread-ai/mxbai-embed-large-v1 est un modèle d’embedding publié par Mixedbread AI le 7 mars 2024 sous licence Apache 2.0. Il encode le texte en représentations denses de 1024 dimensions, avec 335 millions de paramètres actifs et une fenêtre de contexte limitée à 512 tokens.
mixedbread-ai/mxbai-embed-large-v1 est un modèle d’embedding publié par Mixedbread AI le 7 mars 2024 sous licence Apache 2.0. Il encode le texte en représentations denses de 1024 dimensions, avec 335 millions de paramètres actifs et une fenêtre de contexte limitée à 512 tokens.
Le modèle sert à indexer et comparer des textes pour la recherche sémantique, le RAG, la similarité et le clustering. Son profil est évalué sur des benchmarks anglophones et multilingues, notamment BEIR, French, European et Scandinavian, ce qui le situe comme un embedding généraliste de sa période.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Modèle d'embedding |
| Éditeur | Mixedbread AI |
| Licence | Apache 2.0 |
| Date de sortie | 7 mars 2024 |
| Dimension du vecteur | 1 024 |
| Représentation | dense |
| Paramètres | 335 millions |
| Paramètres actifs | 335 millions |
| Longueur de séquence max | 512 tokens |
| Modalités (entrée → sortie) | text → embedding |
Performances (benchmarks)
| Benchmark | Score | Rang | Source | Fiabilité |
|---|---|---|---|---|
| MTEB: BEIR | 54,3 % | 51ᵉ / 192 | mteb | ✅ Mesuré |
| MTEB: Long-context Retrieval | 38,9 % | 81ᵉ / 170 | mteb | ✅ Mesuré |
| MTEB: RTEB Legal | 31,6 % | 128ᵉ / 205 | mteb | ✅ Mesuré |
| MTEB: RTEB Healthcare | 46,9 % | 53ᵉ / 95 | mteb | ✅ Mesuré |
| MTEB: RTEB Finance | 57,4 % | 51ᵉ / 95 | mteb | ✅ Mesuré |
| MTEB: Medical | 41,2 % | 63ᵉ / 158 | mteb | ✅ Mesuré |
| MTEB: Legal | 39,9 % | 79ᵉ / 156 | mteb | ✅ Mesuré |
| MTEB: European | 49,3 % | 57ᵉ / 128 | mteb | ✅ Mesuré |
| MTEB: RTEB French | 27,2 % | 102ᵉ / 216 | mteb | ✅ Mesuré |
| MTEB: RTEB German | 16,4 % | 130ᵉ / 206 | mteb | ✅ Mesuré |
| MTEB: French | 53,1 % | 43ᵉ / 117 | mteb | ✅ Mesuré |
| MTEB: Scandinavian | 45,3 % | 39ᵉ / 48 | mteb | ✅ Mesuré |
Scores issus de MTEB (Massive Text Embedding Benchmark), suite d'évaluation indépendante. Le rang situe le modèle parmi les modèles d'embedding évalués sur le même track.
Comment se situe-t-il ?
Le modèle (en orange) comparé aux meilleurs modèles « grand public » sur chaque dimension, et à ses voisins de classement.
MTEB: BEIR
MTEB: Long-context Retrieval
Notre analyse
Forces. Les meilleurs signaux MTEB de mixedbread-ai/mxbai-embed-large-v1 concernent surtout la recherche d’information généraliste avec BEIR et les usages en français, où il se place dans une zone exploitable plutôt que marginale. Les évaluations en finance et en santé indiquent aussi une capacité de retrieval spécialisée, utile pour retrouver des passages pertinents dans des corpus métier, sans prétendre à un niveau de pointe. La licence Apache 2.0 constitue un atout pratique majeur: le modèle peut être intégré, adapté et auto-hébergé sans restriction propriétaire, ce qui facilite les déploiements RAG maîtrisés.
Limites et points d'attention. Son ancienneté d’environ deux ans est très longue à l’échelle de l’IA: il doit être comparé aux embeddings de sa génération, et il est probablement dépassé par des modèles plus récents. La fenêtre de 512 tokens limite l’encodage de documents longs, qui doivent être découpés finement. La dimension 1024 produit des index plus lourds et une recherche vectorielle plus coûteuse que des embeddings plus compacts. Les résultats Scandinavian et European sont plus faibles, ce qui appelle des tests avant un usage multilingue large. Usages pertinents: recherche sémantique, RAG et clustering sur corpus courts à moyens, surtout lorsque la licence ouverte et l’auto-hébergement priment.
Sources des données : MTEB — Massive Text Embedding Benchmark.