nvidia/NV-Embed-v1
Publié par NVIDIA le 13 septembre 2024, nvidia/NV-Embed-v1 est un modèle d’embedding dense de 8 milliards de paramètres, tous actifs. Il produit des vecteurs de 4 096 dimensions et a été évalué sur des corpus français, européens et en langues indiciennes.
Publié par NVIDIA le 13 septembre 2024, nvidia/NV-Embed-v1 est un modèle d’embedding dense de 8 milliards de paramètres, tous actifs. Il produit des vecteurs de 4 096 dimensions et a été évalué sur des corpus français, européens et en langues indiciennes.
Le modèle transforme des textes en représentations numériques destinées à la recherche sémantique, à la récupération de passages pour le RAG, à la mesure de similarité et au clustering. Distribué sous licence CC-BY-NC 4.0, il autorise des usages non commerciaux sous conditions d’attribution. Son ancienneté, proche de deux ans, le situe parmi les modèles de sa période, désormais probablement dépassés par des références plus récentes.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Modèle d'embedding |
| Éditeur | NVIDIA |
| Poids | 🟢 Poids ouverts |
| Licence | CC-BY-NC 4.0 |
| Date de sortie | 13 septembre 2024 |
| Dimension du vecteur | 4 096 |
| Représentation | dense |
| Paramètres | 8 milliards |
| Paramètres actifs | 8 milliards |
| Longueur de séquence max | 32 768 tokens |
| Modalités (entrée → sortie) | text → embedding |
Performances (benchmarks)
| Benchmark | Score | Rang | Source | Fiabilité |
|---|---|---|---|---|
| MTEB: Long-context Retrieval | 21,2 % | 147ᵉ / 170 | mteb | ✅ Mesuré |
| MTEB: RTEB Legal | 39,3 % | 81ᵉ / 208 | mteb | ✅ Mesuré |
| MTEB: Medical | 63,0 % | 12ᵉ / 158 | mteb | ✅ Mesuré |
| MTEB: Legal | 46,5 % | 50ᵉ / 157 | mteb | ✅ Mesuré |
| MTEB: European | 56,9 % | 33ᵉ / 128 | mteb | ✅ Mesuré |
| MTEB: RTEB French | 56,2 % | 22ᵉ / 218 | mteb | ✅ Mesuré |
| MTEB: RTEB German | 20,7 % | 117ᵉ / 209 | mteb | ✅ Mesuré |
| MTEB: Indic | 52,8 % | 41ᵉ / 119 | mteb | ✅ Mesuré |
| MTEB: Instruction Following | 3,0 % | 20ᵉ / 196 | mteb | ✅ Mesuré |
Scores issus de MTEB (Massive Text Embedding Benchmark), suite d'évaluation indépendante. Le rang situe le modèle parmi les modèles d'embedding évalués sur le même track.
Comment se situe-t-il ?
Le modèle (en orange) comparé aux meilleurs modèles sur chaque dimension évaluée, et à ses voisins de classement.
MTEB: Long-context Retrieval
MTEB: Medical
Notre analyse
Forces. nvidia/NV-Embed-v1 se distingue surtout sur le track Medical de MTEB, où son classement indique une bonne aptitude à retrouver des informations dans des corpus cliniques, biomédicaux et de santé grand public. Ses résultats sur RTEB French et MTEB European montrent aussi des capacités solides pour la recherche en français et, plus largement, pour des tâches multilingues européennes. Les évaluations sur les langues indiciennes élargissent ce profil au-delà des langues européennes. La représentation dense de 4 096 dimensions peut conserver des distinctions sémantiques fines, utiles pour classer des passages proches ou constituer des groupes thématiques.
Limites et points d'attention. Les tracks Legal et RTEB Legal sont nettement moins favorables, avec un positionnement de milieu ou de seconde moitié de classement selon l’évaluation. Le modèle paraît donc moins compétitif pour la récupération de décisions, lois, résumés et questions-réponses juridiques. Les vecteurs de 4 096 dimensions alourdissent les index, la mémoire nécessaire et le coût des recherches par rapport à des représentations plus compactes. Ses 8 milliards de paramètres impliquent également un déploiement substantiel. La licence CC-BY-NC 4.0 restreint les usages commerciaux. Usages pertinents : recherche médicale, recherche sémantique multilingue, RAG documentaire non commercial, similarité et clustering.
Sources des données : MTEB — Massive Text Embedding Benchmark · LLM-Stats (llm-stats.com).