voyageai/voyage-3-lite
Publié par Voyage AI le 18 septembre 2024, voyageai/voyage-3-lite est un modèle d’embedding dense qui convertit les textes en vecteurs de 512 dimensions. Cette représentation relativement compacte permet de limiter la taille des index par rapport à des embeddings de plus grande dimension.
Publié par Voyage AI le 18 septembre 2024, voyageai/voyage-3-lite est un modèle d’embedding dense qui convertit les textes en vecteurs de 512 dimensions. Cette représentation relativement compacte permet de limiter la taille des index par rapport à des embeddings de plus grande dimension.
Le modèle sert à indexer et rapprocher des contenus selon leur sens, notamment pour la recherche sémantique, la récupération de passages dans un système RAG, la mesure de similarité et le clustering. Les évaluations MTEB couvrent plusieurs langues et domaines spécialisés, dont le droit et la médecine.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Modèle d'embedding |
| Éditeur | Voyage AI |
| Poids | 🟢 Poids ouverts |
| Date de sortie | 18 septembre 2024 |
| Dimension du vecteur | 512 |
| Représentation | dense |
| Longueur de séquence max | 32 000 tokens |
| Modalités (entrée → sortie) | text → embedding |
Performances (benchmarks)
| Benchmark | Score | Rang | Source | Fiabilité |
|---|---|---|---|---|
| MTEB: Long-context Retrieval | 71,4 % | 17ᵉ / 170 | mteb | ✅ Mesuré |
| MTEB: RTEB Legal | 49,1 % | 44ᵉ / 208 | mteb | ✅ Mesuré |
| MTEB: Medical | 55,4 % | 36ᵉ / 158 | mteb | ✅ Mesuré |
| MTEB: Legal | 60,8 % | 11ᵉ / 157 | mteb | ✅ Mesuré |
| MTEB: RTEB French | 33,6 % | 84ᵉ / 218 | mteb | ✅ Mesuré |
| MTEB: RTEB German | 62,0 % | 38ᵉ / 209 | mteb | ✅ Mesuré |
| MTEB: Indic | 63,2 % | 19ᵉ / 119 | mteb | ✅ Mesuré |
| MTEB: Scandinavian | 58,4 % | 23ᵉ / 48 | mteb | ✅ Mesuré |
Scores issus de MTEB (Massive Text Embedding Benchmark), suite d'évaluation indépendante. Le rang situe le modèle parmi les modèles d'embedding évalués sur le même track.
Comment se situe-t-il ?
Le modèle (en orange) comparé aux meilleurs modèles sur chaque dimension évaluée, et à ses voisins de classement.
MTEB: Long-context Retrieval
MTEB: Indic
Notre analyse
Forces. voyageai/voyage-3-lite se distingue surtout en recherche documentaire juridique, avec une place dans le top 10 du track MTEB Legal. Il obtient aussi un classement solide en Long-context Retrieval, ce qui indique une bonne qualité de récupération sur des tâches synthétiques et réelles portant sur des contextes longs. Les résultats sur le track Indic montrent également une aptitude notable à représenter des textes dans plusieurs langues d’Inde, pour des tâches telles que la recherche de traductions et la classification. Ses vecteurs denses de 512 dimensions constituent un atout pratique pour créer des index relativement compacts.
Limites et points d’attention. Les performances sont moins distinctives sur RTEB German et Medical, où le modèle se situe derrière de nombreux concurrents. Le résultat Scandinavian le place près du milieu du classement, ce qui invite à valider la qualité sur les corpus danois, suédois et norvégiens concernés. Sorti il y a près de deux ans, voyageai/voyage-3-lite est ancien à l’échelle de l’IA et probablement dépassé par des modèles plus récents de sa catégorie. Usages pertinents : recherche juridique, recherche sémantique sur documents longs, RAG, similarité et clustering avec des index compacts.
Sources des données : MTEB — Massive Text Embedding Benchmark · LLM-Stats (llm-stats.com).