NeoHorse-1-9B-Math-SFT-GGUF（非公式）

Takenoko12345678/NeoHorse-1-9B-Math-SFT の GGUF 版です（llama.cpp・LM Studio などで使えます）。元は TokenRhythm/NeoHorse-1-9B に追加学習した非公式の派生モデルで、TokenRhythm とは関係ありません。学習の内容・評価・既知の問題は、元のリポジトリの説明を見てください。

正式版です。 beta 版として公開したファイルを、そのまま正式版にしました（中身は beta 版と同じです）。

2026-10-09 修正：LM Studio など新しい llama.cpp で「MTP block missing nextn.eh_proj」と出て読み込めなかった問題を直しました（GGUF の設定に、中身のない MTP の層が書かれていたため。重みは同じです）。10月9日より前にダウンロードした場合は、ダウンロードし直してください。

ファイル

• 変換：llama.cpp の convert_hf_to_gguf.py で f16 に変換し、llama-quantize で量子化しました
• 評価の数字（AIME 2026・MMLU-Pro 理科・HumanEval）は、量子化する前のモデルを vLLM で測ったものです

使い方

llama-server -m NeoHorse-1-9B-Math-SFT-Q4_K_M.gguf --jinja -c 40960

• 思考ありで使うモデルです（チャットテンプレートの既定）。考える部分が長くなることがあるので、文脈の長さ（-c）と生成の上限は大きめにしてください
• 推奨の生成設定：temperature=1.0, top_p=0.95, top_k=20, min_p=0, presence_penalty=1.5（元のモデルと同じ）

ライセンス

Apache License 2.0。元のモデルと学習データのライセンス・帰属表示は Takenoko12345678/NeoHorse-1-9B-Math-SFT を参照してください。