Cohere/Cohere-embed-v4.0 (output_dtype=int8)

Publié par Cohere le 1er décembre 2024, Cohere/Cohere-embed-v4.0 (output_dtype=int8) est un modèle d’embedding dense qui représente chaque texte par un vecteur de 1 536 dimensions, encodé ici en int8. Cette représentation numérique sert à comparer et à classer des contenus selon leur proximité sémantique.

Le modèle couvre plusieurs langues, comme l’attestent ses évaluations en allemand et en français. Il peut alimenter la recherche sémantique, la sélection de passages pour un système RAG, le calcul de similarité et le clustering de documents, notamment dans des corpus spécialisés.

Caractéristiques

Performances (benchmarks)

Scores issus de MTEB (Massive Text Embedding Benchmark), suite d'évaluation indépendante. Le rang situe le modèle parmi les modèles d'embedding évalués sur le même track.

Comment se situe-t-il ?

Le modèle (en orange) comparé aux meilleurs modèles sur chaque dimension évaluée, et à ses voisins de classement.

Notre analyse

Forces. Les résultats RTEB montrent une aptitude marquée au retrieval multilingue. Le modèle se distingue particulièrement en allemand, où il figure dans le top 10 sur des corpus juridiques, médicaux et professionnels. La recherche financière constitue également un point fort, avec une qualité élevée sur des benchmarks mêlant documents spécialisés et questions-réponses. Les performances en santé restent solides, ce qui soutient l’indexation et la récupération de contenus médicaux. La sortie int8 réduit l’empreinte de stockage des vecteurs par rapport à une représentation numérique de précision supérieure, un atout pratique pour les index volumineux.

Limites et points d’attention. Les évaluations en français et dans le domaine juridique sont moins convaincantes, avec des classements plus éloignés des meilleurs systèmes. Les 1 536 dimensions produisent par ailleurs des index relativement volumineux et peuvent alourdir les calculs de similarité, même si l’encodage int8 atténue cet impact. Avec environ deux ans d’ancienneté, une durée très longue à l’échelle de l’IA, le modèle se situe derrière des générations plus récentes et peut avoir été dépassé ou retiré de certains catalogues. Usages pertinents : retrieval multilingue, recherche financière ou médicale, RAG documentaire, similarité et clustering.

Sources des données : MTEB — Massive Text Embedding Benchmark · LLM-Stats (llm-stats.com).