Kataguru Titan v3.2 GGUF (IQ3_XXS, IQ4_XS & IQ4_NL)
Virallinen Työpöytä- ja Reunalaitelippulaiva – 63.13 % GPQA Diamond, 85.61 % IFEval, 93.86 % GSM8K
1. Mitä Kataguru muutti? (Yhteenveto)
Katagurun virallinen tuotantotason GGUF-julkaisu laivastolippulaivasta Kataguru Titan-v3.2 (Checkpoint-125). Soveltuu paikalliseen ja tehokkaaseen ajoon (LM Studio, llama.cpp, Ollama).
| Kenttä | Kuvaus / Arvo |
|---|---|
| Lähtöpohja (Foundation Base) | kataguru/Qwen3.8-27B-Titan-v3.0-CP4000-BF16 + Checkpoint-125 (jatkokoulutus) |
| Katagurun jatkokoulutus | Autonominen agenttisuus, MiniCPM-5 / Qwen3 XML -työkalukutsut, syvä ihmisymmärrys ja somatiikka (32 282 auditoitua näytettä) |
| Kvantisointistandardi | Virallinen imatrix-optimoitu sarja: IQ3_XXS, IQ4_XS ja IQ4_NL |
| Visio / Multimodaalisuus | mmproj-Qwen3.8-27B-Titan-v3.2-f16.gguf (889 Mt) tukee täyttä kuva-analyysiä |
| Kontekstin pituus | Natiivi 262 144 tokenia (262k) |
| Episteeminen rehellisyys | SOMA/ARA -aktivointiortogonalisoitu, nolla teeskentelyä (0.00 % kieltäytymisiä oikeille tehtäville) |
| Suositeltu ajotapa | LM Studio 0.3+, llama.cpp b11064+, Ollama |
2. Viralliset GGUF-Kvantit & Laitteistosuositukset
Tästä mallista julkaistaan kuratoidut huippukvantit:
| Tiedosto | Kvantti | Koko | VRAM-suositus | Kuvaus & Käyttökohde |
|---|---|---|---|---|
Qwen3.8-27B-Titan-v3.2-IQ3_XXS.gguf |
IQ3_XXS |
~11.0 Gt | 12 Gt / 16 Gt GPU | Kevyt ja nopea: Mahtuu 12 Gt kortille rajatulla kontekstilla tai 16 Gt kortille laajalla kontekstilla. |
Qwen3.8-27B-Titan-v3.2-IQ4_XS.gguf |
IQ4_XS |
~15.2 Gt | 16 Gt / 24 Gt+ GPU | Standardi i-kvantti: Tasapainoinen laatu ja tehokas suorituskyky 16 Gt kuluttajakortin ylärajaan tai 24 Gt näytönohjaimelle. |
Qwen3.8-27B-Titan-v3.2-IQ4_NL.gguf |
IQ4_NL |
~15.1 Gt | 16 Gt / 24 Gt+ GPU | Huippulaadun epälineaarinen i-kvantti: Non-linear kvantisointitaulukot ja imatrix-optimointi tarjoavat maksimaalisen laadun (lähes häviötön FP16-taso, Q5_K_M-laatuluokkaa). |
mmproj-Qwen3.8-27B-Titan-v3.2-f16.gguf |
F16 |
889 Mt | - | Visioprojektori: Lataa tämä tiedosto LM Studioon / llama-clihin kuva-analyysiä varten. |
3. Empiirinen 13 Tehtävän Benchmark-Vertailu
Kaikki mittaustulokset on ajettu standardoidulla lm-evaluation-harness -kehyksellä tuotantoasetuksilla:
| # | Tehtävä (Task ID) | Kognitiivinen Alue | Metriikka | 1. Qwen 3.8 27B Base | 2. Titan v3.0 CP4000 | 3. Titan v3.2 (CP125) | Delta vs CP4000 | Delta vs Base |
|---|---|---|---|---|---|---|---|---|
| 1 | gsm8k |
Matemaattinen CoT-päättely | exact_match (strict) |
73.10 % | 94.54 % | 93.86 % | -0.68 % | +20.76 % |
| 2 | gpqa_diamond |
Tohtoritason STEM (Fysiikka, Kemia, Bio) | Exact Match (Choice) | 44.60 % | 60.10 % | 63.13 % 🏆 | +3.03 % | +18.53 % |
| 3 | ifeval |
Ohjelmallinen ohjeiden noudattaminen | Prompt / Inst Strict | 35.0 % / 45.0 % | 73.94 % / 80.82 % | 80.78 % / 85.61 % 🏆 | +6.84 % / +4.79 % | +45.78 % |
| 4 | boolq |
Luonnollisen kielen totuuslogiikka | acc |
89.20 % | 91.41 % | 91.07 % | -0.34 % | +1.87 % |
| 5 | truthfulqa_mc2 |
Episteeminen totuustodennäköisyys | acc (multi-true) |
51.10 % | 55.03 % | 54.93 % | -0.10 % | +3.83 % |
| 6 | truthfulqa_mc1 |
Faktatarkkuus | acc (single-true) |
34.60 % | 36.72 % | 36.96 % 🏆 | +0.24 % | +2.36 % |
| 7 | medqa_4options |
Kliininen syvälääketiede (USMLE) | acc_norm |
82.64 % | 84.37 % | 83.97 % | -0.40 % | +1.33 % |
| 8 | arc_challenge |
Vaativa STEM-kausaalipäättely | acc_norm |
66.50 % | 65.44 % | 65.27 % | -0.17 % | -1.23 % |
| 9 | arc_easy |
Luonnontieteiden perussivistys | acc |
85.40 % | 86.20 % | 86.07 % | -0.13 % | +0.67 % |
| 10 | winogrande |
Kontekstuaalinen arkitieto & päättely | acc |
77.30 % | 77.35 % | 77.11 % | -0.24 % | -0.19 % |
| 11 | hellaswag |
Kielellinen koherenssi & lausejatkuvuus | acc_norm |
83.90 % | 82.98 % | 82.92 % | -0.06 % | -0.98 % |
| 12 | openbookqa |
Tieteellisen tiedon soveltaminen | acc_norm |
45.10 % | 46.20 % | 46.60 % 🏆 | +0.40 % | +1.50 % |
| 13 | piqa |
Fysikaalisen maailman intuitio | acc_norm |
81.80 % | 82.32 % | 82.21 % | -0.11 % | +0.41 % |
| --- | --- | --- | --- | --- | --- | --- | --- | --- |
| 📊 | KESKIARVO (13 tehtävää, Prompt Strict) | Koko kognitiivinen kapasiteetti | Aritmeettinen KA | 65.40 % | 72.05 % | 72.68 % 🏆 | +0.64 pp | +7.28 pp |
| 📊 | KESKIARVO (13 tehtävää, Inst Strict) | Koko kognitiivinen kapasiteetti | Aritmeettinen KA | 66.17 % | 72.58 % | 73.05 % 🏆 | +0.48 pp | +6.89 pp |
4. 🌳 Model Tree & Lineage (Kehityspuu)
Qwen/Qwen2.5-Coder-32B / Qwen3.8-27B Base
│
└── DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU
│
└── DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored
│
├── kataguru/Qwen3.8-27B-Finnish-Titan-Uncensored (Titan 1.0)
│
├── kataguru/Qwen3.8-27B-Finnish-Titan-v2.0-Uncensored (Titan v2.0)
│
├── kataguru/Qwen3.8-27B-Titan-v3.0-Uncensored (Titan v3.0, Master MLP Transfer)
│ │
│ └── Checkpoint-4000 (Titan v3.1, 94.54 % GSM8K, 84.37 % MedQA)
│ │
│ └── Checkpoint-125 (Titan-v3.2, Agentic Tools & Human Understanding Continuation)
│ │
│ ├── kataguru/Qwen3.8-27B-Titan-v3.2-W4A16-AWQ [vLLM Lippulaiva]
│ └── kataguru/Qwen3.8-27B-Titan-v3.2-GGUF [★ TÄMÄ MALLI - GGUF DUAL-QUANT]
│
└── kataguru/Qwen3.8-27B-Titan-v3.0-1M-W4A16-AWQ (1M Context YaRN Variant)
5. Käyttöohjeet (LM Studio & llama.cpp)
LM Studio:
- Hae mallia nimellä
kataguru/Qwen3.8-27B-Titan-v3.2-GGUF. - Valitse näytönohjaimellesi sopiva kvantti:
- 16 Gt / 24 Gt GPU: Valitse
IQ4_NL(korkein laatu) taiIQ4_XS. - 12 Gt GPU: Valitse
IQ3_XXS.
- 16 Gt / 24 Gt GPU: Valitse
- Jos haluat käyttää visiota (kuvia), lataa oheen
mmproj-Qwen3.8-27B-Titan-v3.2-f16.gguf.
llama.cpp CLI (Esimerkkikomento):
llama-cli -m Qwen3.8-27B-Titan-v3.2-IQ4_XS.gguf --mmproj mmproj-Qwen3.8-27B-Titan-v3.2-f16.gguf -c 16384 -ngl 99 -p "<|im_start|>user\nKuvaile tämä koodi suomeksi.<|im_end|>\n<|im_start|>assistant\n"