sentence-transformers/sentence-t5-large

Publié par Sentence Transformers le 9 février 2022 sous licence ouverte Apache 2.0, sentence-transformers/sentence-t5-large est un modèle d’embedding de 336 millions de paramètres, tous actifs. Il reprend uniquement l’encodeur de T5-large et produit une représentation dense de 768 dimensions.

Le modèle transforme des phrases et des paragraphes en vecteurs numériques, sans générer de texte. Ces représentations servent principalement à mesurer la similarité entre phrases, mais peuvent aussi alimenter le clustering, la recherche sémantique ou la sélection de passages pour un système RAG. Ses poids FP16 ont été convertis de TensorFlow vers PyTorch.

Caractéristiques

Performances (benchmarks)

Scores issus de MTEB (Massive Text Embedding Benchmark), suite d'évaluation indépendante. Le rang situe le modèle parmi les modèles d'embedding évalués sur le même track.

Comment se situe-t-il ?

Le modèle (en orange) comparé aux meilleurs modèles sur chaque dimension évaluée, et à ses voisins de classement.

Notre analyse

Forces. sentence-transformers/sentence-t5-large est spécifiquement orienté vers la similarité de phrases, sa fonction la plus directement adaptée. Sa représentation dense de 768 dimensions convient à la comparaison vectorielle et au regroupement de contenus proches. La licence Apache 2.0 autorise l’auto-hébergement et l’intégration dans des applications commerciales. Le stockage des poids en FP16 réduit leur empreinte par rapport à une représentation en pleine précision. Deux sources de données concordantes étayent les caractéristiques recensées.

Limites et points d'attention. Son résultat sur MTEB Dutch le place dans la seconde moitié du classement évalué, sans avantage marqué sur ce volet couvrant notamment classification, clustering et pair classification. Le modèle est par ailleurs indiqué comme moins performant pour la recherche sémantique que pour la similarité de phrases, ce qui invite à comparer des solutions plus récentes avant un déploiement en retrieval ou en RAG. Sorti il y a environ quatre ans, il appartient à une génération ancienne à l’échelle de l’IA et peut être dépassé ou retiré des catalogues actuels. Son exécution nécessite sentence-transformers 2.2.0 ou une version ultérieure. Usages pertinents : similarité de phrases, clustering et prototypes de recherche vectorielle auto-hébergés.

Sources des données : MTEB — Massive Text Embedding Benchmark · LLM-Stats (llm-stats.com).