Dostrojony Bielik 1.5B v3 Instruct.
Pełne dostrajanie na pół miliona konwersacji single-turn, w tym około sto tysięcy z rozumowaniem (po polsku!).
Strata kalkulowana na każdym tokenie, nadaje się idealnie do magpie na skalę przemysłową. Osiągnąłem już przepustowość 5x większą niż z Muse Glimmer 30B przy generowaniu instrukcji, tzn 100 instrukcji wygenerowanych na sekundę zamiast 20 instrukcji na sekundę Muse Glimmer, a jestem pewien że da się te numery wciąż znacznie poprawić poprzez optymalizację batchowania. Dodatkowo, model powinien móc wygenerować cały trace w pojedynczym requescie, więc będzie mógł wygenerować instrukcję, rozumowanie i odpowiedź w jednym requeście /completions
Limitacje: Wydajność multi-turn jest słaba. To przez to, że był trenowany na zbiorze danych single-turn.