sergeyzh/rubert-mini-uncased-query

Модель BERT для задач симметричного сравнения запросов (query). Получена дистилляцией эмбеддингов русских и английских текстов с учётом префикса Qwen/Qwen3-Embedding-8B. Модель принадлежит к виду uncased - не различает при обработке текста буквы, написанные в верхнем и нижнем регистре.

Модель может использоваться для кэшировании и фильтрации запросов к LLM, Q2Q RAG.

Основные характеристики модели:

• размер ембеддинга - 384,
• длина контекста - 512,
• слоёв - 7,
• префиксы - не требуются.

Использование

from sentence_transformers import SentenceTransformer

model = SentenceTransformer('sergeyzh/rubert-mini-uncased-query')

sentences = ["восстановление доступа", "как сбросить пароль"]
embeddings = model.encode(sentences)
print(model.similarity(embeddings, embeddings))

Метрики

Оценка качества модели для русского языка выполнена на сравнении близости пар поисковых запросов датасета ai-forever/rubq-retrieval с ответами референсной модели Qwen/Qwen3-Embedding-8B: