infly/inf-retriever-v1
Publié par infly le 24 décembre 2024, infly/inf-retriever-v1 est un modèle d’embedding dense de 7 milliards de paramètres, construit sur gte-Qwen2-7B-instruct. Il produit des vecteurs de 3 584 dimensions et accepte des entrées atteignant 32 768 tokens.
Publié par infly le 24 décembre 2024, infly/inf-retriever-v1 est un modèle d’embedding dense de 7 milliards de paramètres, construit sur gte-Qwen2-7B-instruct. Il produit des vecteurs de 3 584 dimensions et accepte des entrées atteignant 32 768 tokens.
Spécifiquement ajusté pour la recherche en chinois et en anglais, il sert à la recherche sémantique, au RAG, à la mesure de similarité et au clustering. Sa licence ouverte Apache 2.0 autorise l’auto-hébergement. L’intégration passe par Sentence Transformers ou Transformers, avec une instruction côté requête et aucune côté document.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Modèle d'embedding |
| Éditeur | infly |
| Poids | 🟢 Poids ouverts |
| Licence | Apache 2.0 |
| Date de sortie | 24 décembre 2024 |
| Dimension du vecteur | 3 584 |
| Représentation | dense |
| Paramètres | 7 milliards |
| Paramètres actifs | 7 milliards |
| Longueur de séquence max | 32 768 tokens |
| Modalités (entrée → sortie) | text → embedding |
Performances (benchmarks)
| Benchmark | Score | Rang | Source | Fiabilité |
|---|---|---|---|---|
| MTEB: BEIR | 61,7 % | 7ᵉ / 192 | mteb | ✅ Mesuré |
| MTEB: BEIR-NL | 54,5 % | 1ᵉ / 16 | mteb | ✅ Mesuré |
| MTEB: Long-context Retrieval | 73,2 % | 11ᵉ / 170 | mteb | ✅ Mesuré |
| MTEB: Reasoning Retrieval | 15,0 % | 16ᵉ / 29 | mteb | ✅ Mesuré |
| MTEB: Code Information Retrieval | 67,6 % | 27ᵉ / 49 | mteb | ✅ Mesuré |
| MTEB: Code | 69,7 % | 21ᵉ / 43 | mteb | ✅ Mesuré |
| MTEB: RTEB Legal | 53,0 % | 34ᵉ / 208 | mteb | ✅ Mesuré |
| MTEB: Legal | 63,7 % | 6ᵉ / 157 | mteb | ✅ Mesuré |
| MTEB: RTEB French | 53,7 % | 28ᵉ / 218 | mteb | ✅ Mesuré |
| MTEB: RTEB German | 63,2 % | 35ᵉ / 209 | mteb | ✅ Mesuré |
| MTEB: Instruction Following | 2,6 % | 21ᵉ / 196 | mteb | ✅ Mesuré |
Scores issus de MTEB (Massive Text Embedding Benchmark), suite d'évaluation indépendante. Le rang situe le modèle parmi les modèles d'embedding évalués sur le même track.
Comment se situe-t-il ?
Le modèle (en orange) comparé aux meilleurs modèles sur chaque dimension évaluée, et à ses voisins de classement.
MTEB: BEIR
MTEB: BEIR-NL
Notre analyse
Forces. infly/inf-retriever-v1 se distingue surtout en recherche généraliste et sans entraînement propre au domaine, avec un classement dans le top 10 de BEIR. Il figure également dans le top 10 du track Legal, couvrant notamment jurisprudence, textes législatifs et questions-réponses juridiques. Son résultat en Long-context Retrieval le place parmi les modèles performants pour retrouver des informations dans des contenus étendus. La séquence maximale de 32 768 tokens facilite le traitement de documents longs, tandis que la licence Apache 2.0 permet un déploiement sur une infrastructure maîtrisée.
Limites et points d'attention. Le résultat sur RTEB German reste moins bien classé que ceux obtenus sur BEIR et Legal, ce qui concorde avec un ajustement principalement centré sur le chinois et l’anglais. Les 7 milliards de paramètres alourdissent l’exécution, et les vecteurs denses de 3 584 dimensions augmentent la taille des index ainsi que le coût de stockage et de recherche. Avec environ deux ans d’ancienneté, durée très longue à l’échelle de l’IA, cette génération est probablement dépassée par des modèles plus récents et peut ne plus figurer dans les catalogues actuels. Usages pertinents : RAG bilingue chinois-anglais, recherche juridique, exploration de documents longs et clustering sémantique auto-hébergé.
Sources des données : MTEB — Massive Text Embedding Benchmark · LLM-Stats (llm-stats.com).