Poziomka Instruct 2026-10-20 GGUF
Pliki GGUF modelu cpral/Poziomka-Instruct-2026-10-20. Działają w standardowym LM Studio i oficjalnym, prekompilowanym llama.cpp (wydanie b12020 lub nowsze), bez dodatkowych flag.
| Plik | Rozmiar |
|---|---|
| Poziomka-Instruct-2026-10-20-BF16.gguf | 8.2 GB |
| Poziomka-Instruct-2026-10-20-Q8_0.gguf | 4.4 GB |
| Poziomka-Instruct-2026-10-20-Q6_K.gguf | 3.7 GB |
| Poziomka-Instruct-2026-10-20-Q5_K_M.gguf | 3.1 GB |
| Poziomka-Instruct-2026-10-20-Q4_K_M.gguf | 2.7 GB |
Model obsługuje tylko tryb błyskawicznej odpowiedzi. Szablon czatu w plikach zawsze wyłącza myślenie (<think></think>).
Zalecane samplery: temperature 0.6, top_p 0.9, min_p 0.05, frequency_penalty 0.15
Wymagany jest llama.cpp z marca 2026 lub nowszy. Starsze wersje nie uruchomią tego modelu.
Kod do tworzenia tych plików oraz opis zastosowanych poprawek (tokenizer, limit grafu przy 32 aktywnych ekspertach, szablon czatu): https://github.com/adamo1139/poziomka-gguf