Publié par GritLM le 15 février 2024, GritLM/GritLM-7B est un modèle d’embedding de 7 milliards de paramètres, tous actifs. Issu de Mistral 7B et affiné avec GRIT, il produit des vecteurs de 4 096 dimensions pour représenter numériquement des textes.

Publié par GritLM le 15 février 2024 sous licence ouverte Apache 2.0, GritLM/GritLM-8x7B est un modèle d'embedding dense fondé sur Mixtral 8x7B et affiné avec la méthode GRIT. Il compte 58 milliards de paramètres, dont 13 milliards actifs.