此修订版本在 Hugging Face 上没有发布 README。
model-00001-of-00026.safetensors 4.0 GBmodel-00006-of-00026.safetensors 4.0 GBmodel-00016-of-00026.safetensors 3.9 GBmodel-00008-of-00026.safetensors 3.9 GBmodel-00010-of-00026.safetensors 3.9 GBmodel-00018-of-00026.safetensors 3.9 GBmodel-00025-of-00026.safetensors 3.8 GBmodel-00014-of-00026.safetensors 3.4 GBmodel-00012-of-00026.safetensors 3.4 GBmodel-00020-of-00026.safetensors 3.4 GBmodel-00022-of-00026.safetensors 3.4 GBmodel-00024-of-00026.safetensors 3.4 GBmodel-00004-of-00026.safetensors 3.4 GBmodel-00023-of-00026.safetensors 3.4 GBmodel-00003-of-00026.safetensors 3.4 GBmodel-00005-of-00026.safetensors 3.4 GBmodel-00026-of-00026.safetensors 2.2 GBmodel-00015-of-00026.safetensors 1.6 GBmodel-00021-of-00026.safetensors 1.6 GBmodel-00013-of-00026.safetensors 1.6 GBmodel-00002-of-00026.safetensors 1.3 GBmodel-00007-of-00026.safetensors 1.1 GBmodel-00009-of-00026.safetensors 1.1 GBmodel-00019-of-00026.safetensors 1.1 GBmodel-00011-of-00026.safetensors 1.1 GBmodel-00017-of-00026.safetensors 1.1 GB有文件?提交种子。
提交种子llama-bench -m Tess-4-35B-A3B-Q4_K_M.gguf -p 32768 -n 128 -ngl 999 -fa on -ctk f16 -ctv f16 -fitt 1024 -r 5在 LocalMaxxing 上查看测试
来自 LocalMaxxing 的 12 次社区测试(1 种配置)的中位数。
自己运行:配置指南