Q4_K quantized version of FLUX.2-klein-4B using stable-diffusion.cpp
sd-cli --mode convert --model "flux-2-klein-4b.safetensors" --output "flux-2-klein-4b-Q4_K.gguf" --tensor-type-rules "^.*(_mlp\.(0|2)|_attn\.(proj|qkv)|\.linear(1|2))\.weight=q4_K"
在你的模型文件夹旁边运行它。它会制作种子、将文件与 Hugging Face 比对,然后提交。你只需开始做种,并粘贴你账户中的密钥。它只读取你的文件,绝不修改。如果愿意,可以先阅读脚本。
curl -fsSL https://pirateface.co/package.sh | bash -s -- --repo n-Arno/FLUX.2-klein-4B-gguf ./model-folderQ4_K quantized version of FLUX.2-klein-4B using stable-diffusion.cpp
sd-cli --mode convert --model "flux-2-klein-4b.safetensors" --output "flux-2-klein-4b-Q4_K.gguf" --tensor-type-rules "^.*(_mlp\.(0|2)|_attn\.(proj|qkv)|\.linear(1|2))\.weight=q4_K"