lmstudio-community/Qwen3.8-27B-GGUF の
Qwen3.8-27B-Q4_K_M.gguf を、llama.cpp の llama-gguf-split で 1ファイルあたり最大2GB に分割して
再アップロードしたものです。量子化のやり直しはしておらず、テンソルデータは元ファイルとビット単位で同一です
(分割はロスレスで、精度は一切変わりません)。
b10430)llama-gguf-split --split --split-max-size 2G (llama.cpp b10408)| ファイル | 内容 |
|---|---|
Qwen3.8-27B-Q4_K_M-00001-of-00009.gguf … |
Q4_K_M 本体(分割シャード) |
mmproj-Qwen3.8-27B-BF16.gguf |
画像入力用プロジェクタ(分割なし・元ファイルそのまま) |
先頭シャードだけを指定すれば、残りは自動的に読み込まれます(結合作業は不要)。
huggingface-cli download yukimakura/Qwen3.8-27B-Q4_K_M-GGUF-2GB-split --local-dir ./Qwen3.8-27B-Q4_K_M
llama-cli -m ./Qwen3.8-27B-Q4_K_M/Qwen3.8-27B-Q4_K_M-00001-of-00009.gguf \
--mmproj ./Qwen3.8-27B-Q4_K_M/mmproj-Qwen3.8-27B-BF16.gguf
llama-gguf-split --merge \
Qwen3.8-27B-Q4_K_M-00001-of-00009.gguf \
Qwen3.8-27B-Q4_K_M.gguf
結合後のテンソルデータは元の Qwen3.8-27B-Q4_K_M.gguf とビット単位で同一です
(全 16,799,719,424 バイトを実際に比較して確認済み)。
なお llama-gguf-split --merge は split.no / split.count / split.tensors.count の
メタデータを残す仕様のため、結合後のファイル全体のサイズは元より64バイト大きくなります
(推論結果には影響しません)。
Apache-2.0(元モデル Qwen/Qwen3.8-27B に従います)。
Qwen3.8-27B-Q4_K_M-00001-of-00009.gguf 2.0 GBQwen3.8-27B-Q4_K_M-00008-of-00009.gguf 2.0 GBQwen3.8-27B-Q4_K_M-00005-of-00009.gguf 2.0 GBQwen3.8-27B-Q4_K_M-00002-of-00009.gguf 2.0 GBQwen3.8-27B-Q4_K_M-00006-of-00009.gguf 2.0 GBQwen3.8-27B-Q4_K_M-00004-of-00009.gguf 2.0 GBQwen3.8-27B-Q4_K_M-00003-of-00009.gguf 2.0 GBQwen3.8-27B-Q4_K_M-00007-of-00009.gguf 2.0 GBQwen3.8-27B-Q4_K_M-00009-of-00009.gguf 984 MBHave the files? Submit a torrent.
Submit a torrentHave the complete files and permission to share them? Replace the example folder path. The script checks the files, makes a torrent and submits its magnet and checksums. Keep your torrent client seeding. Get your community key from your settings, and read the script before running it.
curl -fsSL https://pirateface.co/package.sh | bash -s -- --repo yukimakura/Qwen3.8-27B-Q4_K_M-GGUF-2GB-split ./model-folderQwen/Qwen3.8-27B