weareapexcreators/MiniCPM5-2B-LocalAI

来源：🤗🏴‍☠️ 救援者：Alogotronapache-2.0激活 2B2.7 GBGGUF✓ 2 个校验和59 天前更新

磁力链接 2

此修订版本在 Hugging Face 上没有发布 README。

加载中…

评论分享想法，塑造主权 AI 的未来。

@weareapexcreators 尚未认领使用同名 Hugging Face 账户或组织成员账户登录，以验证此用户名。认领 @weareapexcreators

文件与来源

来源可在 🤗 获取

校验和已记录 2 个

种子已收录磁力链接

节点群报告 2 个做种者

来源修订版本: 1ad3708232c7…
记录时间: 2026年10月14日 09:15 UTC
节点群检查时间: 2026年11月15日 20:01 UTC
权重文件: 2
模型大小: 2.7 GB
下载量 · 上个月: 18,901
发布者: 未认领

真实硬件上的速度

LocalMaxxing

单个请求的输出速度，由在自己机器上运行此模型的用户实测。

2× RTX 3090llama.cpp · Q8_0 · 1 次测试229 tok/s

LD_LIBRARY_PATH=/home/beta1/qwen38-release/tools/llama-b10442-cuda /home/beta1/qwen38-release/tools/llama-b10442-cuda/llama-bench -m /mnt/pf/pf-deep2/MiniCPM5-2B-LocalAI/MiniCPM5-2B-Q8_0.gguf -p 512 -n 128 -ngl 99 -fa 1

在 LocalMaxxing 上查看测试

来自 LocalMaxxing 的 1 次社区测试（1 种配置）的中位数。

自己运行：配置指南

查看来源记录第 30028 条