LCO-Embedding/LCO-Embedding-Omni-7B

LCO-Embedding/LCO-Embedding-Omni-7B est un modèle d’embedding omnimodal de LCO-Embedding, publié sous licence ouverte MIT. Ses 9 milliards de paramètres, tous actifs, produisent une représentation dense à vecteur unique de 3 584 dimensions. Son architecture centrée sur le langage reprend uniquement le composant « thinker » de Qwen2.5 Omni.

Le modèle transforme le texte, les images, l’audio, la vidéo et leurs combinaisons en vecteurs comparables. Il peut ainsi servir à la recherche sémantique ou intermodale, au RAG, à la mesure de similarité et au clustering, avec Sentence Transformers ou par extraction du dernier état caché du dernier jeton dans Transformers.

Caractéristiques

Performances (benchmarks)

Scores issus de MTEB (Massive Text Embedding Benchmark), suite d'évaluation indépendante. Le rang situe le modèle parmi les modèles d'embedding évalués sur le même track.

Comment se situe-t-il ?

Le modèle (en orange) comparé aux meilleurs modèles sur chaque dimension évaluée, et à ses voisins de classement.

Notre analyse

Forces. LCO-Embedding/LCO-Embedding-Omni-7B se classe en tête sur MTEB Image-Text, Lite et sur les évaluations globales MVEB et MAEB. Ces résultats signalent une forte aptitude à rapprocher plusieurs modalités, notamment pour la recherche image-texte, la recherche audiovisuelle, la classification et le clustering de contenus audio ou vidéo. Les classements obtenus sur MVEB Video-Only, MVEB Video-Text et MAEB Audio-Only le placent également parmi les meilleurs modèles évalués sur ces catégories. La licence MIT facilite l’auto-hébergement, l’intégration et l’adaptation à des environnements propriétaires.

Limites et points d'attention. Les résultats relatifs sont moins élevés sur MAEB Audio-Only et MVEB Video-Text que sur Image-Text, Lite, même si les rangs restent dans le top 10. La représentation de 3 584 dimensions implique des index plus volumineux et davantage de calcul pour les recherches de similarité que des embeddings de dimension inférieure. Avec 9 milliards de paramètres actifs, l’inférence demande aussi des ressources adaptées au déploiement. Usages pertinents : recherche sémantique et intermodale, RAG multimodal, détection de similarité, classification et clustering de corpus mêlant texte, image, audio et vidéo.

Sources des données : MTEB — Massive Text Embedding Benchmark · LLM-Stats (llm-stats.com).