Poziomka Instruct 2026-10-07 to model instruct wspierający tryb rozumowania oraz błyskawicznej odpowiedzi. Nie jest to finalna wersja modelu, jeszcze długa droga przede mną.
Wyselekcjonowany przykład generacji z włączonym rozumowaniem
Zalecam używać modelu w SGLang.
Zalecane samplery
błyskawiczna odpowiedź: temperature 0.6, top_p 0.9, min_p 0.05, frequency_penalty 0.15 rozumowanie: temperature 0.3, top_p 0.9, frequency_penalty 0.05.
Dodatkowo, zmiana RoPE theta na 84000 może pomóc podczas rozumowania.
Wspiera kontekst do 16384 tokenów, jednak większość pretreningu odbyła się z długością kontekstu 8192 tokenów.
Jest to model wytrenowany od zera przeze mnie na około 90 miliardach tokenów, w tym 8 miliardach tokenów zbioru danych Instruct, duża część treningu odbyła się na lokalnym sprzęcie i pomagała ogrzać moje mieszkanie.
Oficjalny skrypt do konsumowania modelu przez API wystawione lokalnie - https://github.com/adamo1139/Ling-V2/tree/main/chat