Poziomka Instruct 2026-10-10 to model instruct wspierający tryb rozumowania oraz błyskawicznej odpowiedzi. Nie jest to finalna wersja modelu, jeszcze długa droga przede mną.
Zalecam używać modelu w SGLang.
python3 -m sglang.launch_server --model-path cpral/poziomka-instruct-2026-10-10 --trust-remote-code --port 2300 --host 0.0.0.0 --reasoning-parser qwen3 --grammar-backend none
Zalecane samplery
błyskawiczna odpowiedź: temperature 0.6, top_p 0.9, min_p 0.05, frequency_penalty 0.15 rozumowanie: temperature 0.3, top_p 0.9, frequency_penalty 0.05.
Dodatkowo, zmiana RoPE theta na 84000 może pomóc podczas rozumowania.
Wspiera kontekst do 16384 tokenów, jednak większość pretreningu odbyła się z długością kontekstu 8192 tokenów.
Jest to model wytrenowany od zera przeze mnie na około 90 miliardach tokenów, w tym 8 miliardach tokenów zbioru danych Instruct, duża część treningu odbyła się na lokalnym sprzęcie i pomagała ogrzać moje mieszkanie.
Oficjalny skrypt do konsumowania modelu przez API wystawione lokalnie - https://github.com/adamo1139/Ling-V2/tree/main/chat