TCM Qwen3-8B GGUF(GGUF 量化版)
将《中药学(新世纪第四版 · 钟赣生 主编)》蒸馏训练得到的 Qwen3-8B LoRA 合并后,用 llama.cpp 转换并量化得到的 GGUF 文件。 适用于 llama.cpp / LocalAI / Ollama 等本地推理。
文件(量化等级)
| 文件 | 大小 | 说明 |
|---|---|---|
tcm-qwen3-8b-q8_0.gguf |
~8.2 GB | 高精度 |
tcm-qwen3-8b-q5_k_m.gguf |
~5.5 GB | 推荐平衡 |
tcm-qwen3-8b-q4_k_m.gguf |
~4.7 GB | 轻量 |
能力
- 中药知识问答:性味归经、功效、主治应用、用法用量、使用注意、现代研究、鉴别用药
- 中西药结合用药:中药 + 西药(阿司匹林、氯吡格雷、呋塞米、二甲双胍、华法林等)联用、相互作用、监测与宜忌
- 审核官/幻觉审查:判定大模型中药回答是否正确、是否存在错误/幻觉、风险等级、是否建议重新 RAG
在 llama.cpp 中使用
llama-cli -m tcm-qwen3-8b-q4_k_m.gguf \
-p "<|im_start|>user\n你问的问题<|im_end|>\n<|im_start|>assistant\n" \
-n 128 -st
训练简述
- 来源:
chenhaodev/tcm-qwen3-8b-lora(LoRA 版,含 RAGrag/与全部 scripts) - 数据:~13,312 条(train 12,647 / eval 665),原子知识点 4,172 条,覆盖 410 味中药 + 总论 + 病证用药 + 中西药结合 + 审核官数据
- SFT:Qwen3-8B LoRA(r32, 4bit, bf16, 3 epochs, 2373 steps)
免责声明
中医药知识参考,不能替代执业中医师/药师面诊处方;中西药联用存在相互作用风险,须遵医嘱并核对权威资料。
版权说明
仅发布 LoRA 合并后的模型权重与量化文件、训练脚本、RAG 索引与模型卡;不发布源自原版教材的原始正文数据,尊重原教材版权。