Publié par sergeyzh le 10 mars 2025, sergeyzh/BERTA est un modèle d’embedding dense de 128 millions de paramètres sous licence ouverte MIT. Il transforme des textes russes et anglais en vecteurs de 768 dimensions, avec une longueur de séquence maximale de 512 tokens.

Publié par sergeyzh le 2 mars 2025 sous licence ouverte MIT, sergeyzh/rubert-mini-frida est un modèle d’embedding russe et anglais de 32 millions de paramètres. Distillé à partir des embeddings de FRIDA dans rubert-mini-sts, il repose sur 7 couches et recommande des séquences ne…

Publié par sergeyzh le 27 juin 2024 sous licence ouverte MIT, sergeyzh/LaBSE-ru-turbo est un modèle BERT de 129 millions de paramètres destiné aux embeddings de phrases en russe. Fondé sur cointegrated/LaBSE-en-ru, il accepte des séquences de 512 tokens et produit des vecteurs denses de…

Publié par sergeyzh le 21 juin 2024 sous licence ouverte MIT, sergeyzh/rubert-tiny-turbo est un modèle BERT dense de 29 millions de paramètres, fondé sur cointegrated/rubert-tiny2. Principalement destiné au russe, il accepte des séquences atteignant 2 048 tokens et produit des vecteurs…