Salesforce/SFR-Embedding-2_R
Salesforce/SFR-Embedding-2_R est un modèle dense de Salesforce Research, publié le 14 juin 2024. Ses 7 milliards de paramètres, tous actifs, produisent des vecteurs de 4 096 dimensions. Distribué sous licence ouverte CC-BY-NC 4.0, il reste réservé aux usages non commerciaux.
Salesforce/SFR-Embedding-2_R est un modèle dense de Salesforce Research, publié le 14 juin 2024. Ses 7 milliards de paramètres, tous actifs, produisent des vecteurs de 4 096 dimensions. Distribué sous licence ouverte CC-BY-NC 4.0, il reste réservé aux usages non commerciaux.
Ce modèle transforme les textes en représentations numériques destinées à la recherche sémantique, au retrieval pour le RAG, à la mesure de similarité et au clustering. Son entraînement suit plusieurs étapes. En recherche, les requêtes sont précédées d’une instruction en une phrase, tandis que les documents sont encodés sans instruction.
Caractéristiques
| Caractéristique | Valeur |
|---|---|
| Type | Modèle d'embedding |
| Éditeur | Salesforce |
| Poids | 🟢 Poids ouverts |
| Licence | CC-BY-NC 4.0 |
| Date de sortie | 14 juin 2024 |
| Dimension du vecteur | 4 096 |
| Représentation | dense |
| Paramètres | 7 milliards |
| Paramètres actifs | 7 milliards |
| Longueur de séquence max | 32 768 tokens |
| Modalités (entrée → sortie) | text → embedding |
Performances (benchmarks)
| Benchmark | Score | Rang | Source | Fiabilité |
|---|---|---|---|---|
| MTEB: BEIR | 59,8 % | 11ᵉ / 192 | mteb | ✅ Mesuré |
| MTEB: Long-context Retrieval | 45,9 % | 48ᵉ / 170 | mteb | ✅ Mesuré |
| MTEB: RTEB Legal | 47,9 % | 46ᵉ / 208 | mteb | ✅ Mesuré |
| MTEB: Medical | 64,3 % | 8ᵉ / 158 | mteb | ✅ Mesuré |
| MTEB: Legal | 55,8 % | 23ᵉ / 157 | mteb | ✅ Mesuré |
| MTEB: European | 62,3 % | 11ᵉ / 128 | mteb | ✅ Mesuré |
| MTEB: RTEB French | 50,8 % | 41ᵉ / 218 | mteb | ✅ Mesuré |
| MTEB: RTEB German | 44,2 % | 73ᵉ / 209 | mteb | ✅ Mesuré |
| MTEB: Korean | 68,2 % | 13ᵉ / 102 | mteb | ✅ Mesuré |
| MTEB: French | 67,8 % | 9ᵉ / 117 | mteb | ✅ Mesuré |
| MTEB: Scandinavian | 65,6 % | 5ᵉ / 48 | mteb | ✅ Mesuré |
| MTEB: Dutch | 63,5 % | 9ᵉ / 113 | mteb | ✅ Mesuré |
Scores issus de MTEB (Massive Text Embedding Benchmark), suite d'évaluation indépendante. Le rang situe le modèle parmi les modèles d'embedding évalués sur le même track.
Comment se situe-t-il ?
Le modèle (en orange) comparé aux meilleurs modèles sur chaque dimension évaluée, et à ses voisins de classement.
MTEB: BEIR
MTEB: Long-context Retrieval
Notre analyse
Forces. SFR-Embedding-2_R se classe parmi les dix meilleurs modèles évalués sur les tracks MTEB French, Scandinavian, Dutch et Medical. Il se distingue donc sur plusieurs langues européennes, pour des tâches de classification, de clustering et de comparaison de paires, ainsi que pour la recherche d’informations cliniques, biomédicales et de santé grand public. Ses résultats sur MTEB European et BEIR indiquent également une bonne aptitude au retrieval multilingue et à la recherche zero-shot dans des domaines hétérogènes. La licence CC-BY-NC 4.0 autorise l’auto-hébergement dans un cadre non commercial.
Limites et points d'attention. Avec 4 096 valeurs par représentation, les vecteurs occupent davantage d’espace dans un index et rendent la recherche plus coûteuse que des embeddings de dimension inférieure. Les 7 milliards de paramètres actifs impliquent aussi un modèle volumineux à exécuter. La restriction non commerciale de la licence limite son intégration dans des produits ou services marchands. Sorti en 2024, il appartient à une génération déjà ancienne à l’échelle de l’IA et peut être dépassé par des modèles plus récents. Usages pertinents : recherche sémantique multilingue, RAG non commercial, clustering documentaire et retrieval médical.
Sources des données : MTEB — Massive Text Embedding Benchmark · LLM-Stats (llm-stats.com).