Qwen3-4B-SafeRL-MNN
原始模型 · Hugging Face · ModelScope · MNN
Qwen3-4B 的安全对齐版本,使用 Qwen3Guard-Gen 提供的奖励信号进行强化学习。本仓库提供其 MNN 量化版本。
模型信息
| 项目 | 配置 |
|---|---|
| 输入 / 输出 | 文本 / 文本 |
| 语言层数 / 隐藏维度 | 36 / 2560 |
| 语言权重 | HQQ 4-bit,分组 64 |
| 输出头 | HQQ 8-bit,分组 64 |
| 量化尺度 | FP16(语言线性层与输出头) |
| 词嵌入 | 与输出头共享 8-bit 权重 |
| 默认运行配置 | CPU,4 线程,precision=low,memory=low |
模型文件包括 llm.mnn / llm.mnn.weight(模型图与权重)、tokenizer.mtok(分词器)、config.json / llm_config.json(运行与模型配置)。下载时保留完整目录。
下载
Hugging Face:
hf download taobao-mnn/Qwen3-4B-SafeRL-MNN --local-dir ./Qwen3-4B-SafeRL-MNN
ModelScope:
modelscope download --model MNN/Qwen3-4B-SafeRL-MNN --local_dir ./Qwen3-4B-SafeRL-MNN
运行
以下命令使用本次导出验证的 MNN 3.6.2 提交。
git clone https://github.com/alibaba/MNN.git
git -C MNN checkout b0239771b07b317a258fbc384683bbd540741406
(cd MNN && ./schema/generate.sh)
cmake -S MNN -B MNN/build -DCMAKE_BUILD_TYPE=Release \
-DMNN_BUILD_LLM=ON -DMNN_LOW_MEMORY=ON -DMNN_SUPPORT_TRANSFORMER_FUSE=ON
cmake --build MNN/build --target llm_demo -j4
printf '%s\n' '你好,请介绍一下自己。' > prompt.txt
./MNN/build/llm_demo ./Qwen3-4B-SafeRL-MNN/config.json prompt.txt
采样参数在 config.json 中调整。应用集成见 MNN-LLM 文档。
验证与导出
2026-11-12,x64 CPU:FP32 映射对齐、问候、算术与翻译用例及默认配置冒烟测试通过。
导出参数见 export_args.json,测试记录与文件哈希见 refresh_metadata.json。
许可证
采用上游 Apache License 2.0。