microsoft/harrier-oss-v1-27b

Publié par Microsoft le 27 mars 2026 sous licence ouverte MIT, microsoft/harrier-oss-v1-27b est un modèle d’embeddings textuels multilingue de 27 milliards de paramètres, tous actifs. Son architecture decoder-only produit des vecteurs denses de 5 376 dimensions, avec pooling sur le dernier token et normalisation L2.

Sa longueur maximale de 32 768 tokens permet de traiter des textes étendus. Le modèle transforme les contenus en représentations numériques destinées notamment à la recherche sémantique, au RAG, au clustering, à la similarité, à la classification, au bitext mining et au reranking.

Caractéristiques

Performances (benchmarks)

Scores issus de MTEB (Massive Text Embedding Benchmark), suite d'évaluation indépendante. Le rang situe le modèle parmi les modèles d'embedding évalués sur le même track.

Comment se situe-t-il ?

Le modèle (en orange) comparé aux meilleurs modèles sur chaque dimension évaluée, et à ses voisins de classement.

Notre analyse

Forces. microsoft/harrier-oss-v1-27b se classe dans le top 10 du track MTEB Instruction Following, consacré à la capacité de retrieval à respecter une consigne décrivant la tâche. Ce positionnement correspond à son fonctionnement, les requêtes étant précédées d’une instruction en une phrase, tandis que les documents indexés n’en ont pas besoin. Sa prise en charge multilingue facilite la création d’un même espace vectoriel pour plusieurs langues. La séquence maximale de 32 768 tokens convient aux documents longs, et la normalisation L2 simplifie les comparaisons de similarité. La licence MIT autorise l’auto-hébergement et l’adaptation dans des systèmes commerciaux.

Limites et points d'attention. Les 27 milliards de paramètres actifs impliquent une infrastructure d’inférence conséquente. Les vecteurs denses de 5 376 dimensions produisent aussi des index plus volumineux et rendent la recherche plus coûteuse que des représentations de dimension inférieure. Le format imposé aux requêtes nécessite enfin une préparation cohérente des instructions afin de préserver la qualité du retrieval. Usages pertinents : recherche sémantique multilingue guidée par instruction, RAG sur documents longs, clustering, détection de similarité, classification, bitext mining et reranking.

Sources des données : MTEB — Massive Text Embedding Benchmark · LLM-Stats (llm-stats.com).