Dongfangshuo-Qwen3.8-27B-NSFW-v4

基于 Qwen3.8-27B（27.8B Dense + Vision）的NSFW中文文学创作微调模型。

v3因为训练方案太激进，炼废了三个，所以直接跳过v3并换方案训练v4。v4可能是最后一版27B nsfw了。27B这个模型参数量太小，随便动一动就出bug，基本v4已经摸到了模型极限。

v4在文风方面对比原版是断崖式领先，原版qwen继承了报菜名的传统，基本不会说人话。但是v4因为用了大量文学训练集，在智商和agent方面略有下降，但是不是特别明显。

上下文不要超过64k，单词输出不要超过4k！否则可能会有奇怪bug。27B系列模型有底层缺陷，特别是量化后缺陷被放大，试过很多方法都无法根治！

⚡ 重要！

• ⚠️ 客观边界与长上下文说明：
  1. 黄金甜点档位为「64K 上下文 + 4K 单次输出」：27B 架构在单步跑团下的自然信息量极限为 3,000～4,200 字（约 4K），切勿强行要求单次输出 8K（6,000～8,500 字），否则写完新剧情后会被迫水字数或跨轮复读。
  2. 多轮局部句式惯性：5 轮连续高强度跑团后半程偶有复用前轮环境/动作短语的倾向（可通过下方 presence_penalty: 0.25 有效压制）。
• 🔥 关键注意事项（必看！决定满血发挥）：
  1. 必须开启简短思考链：在 System Prompt 首行加入 Reasoning effort is set to low. Keep your thinking brief and focused.（让模型用 200～400 Tokens 快速完成状态算术与体位推演，严禁思考链空转）。
  2. 必须设置以下采样参数：num_ctx: 81920、num_predict: 6144、repeat_penalty: 1.05、repeat_last_n: 1024、presence_penalty: 0.25、frequency_penalty: 0.0、min_p: 0.06（严禁将 repeat_penalty 设到 1.10+ 或开启 frequency_penalty，否则会压死句号 。 导致几百字无标点长难句崩坏）。

一、版本一览

---

二、⚡ 最佳推荐推理与采样配置（必读）

关键注意事项：

1. 上下文与输出必须锁定「64K + 4K 黄金档」：num_ctx: 81920、num_predict / max_tokens: 6144（单轮正文字数控制在 2,800 ～ 4,200 字，避免强逼 8K 引发注水复读）。
2. 必须设置以下防崩采样参数：repeat_penalty: 1.05、repeat_last_n: 1024、presence_penalty: 0.25、frequency_penalty: 0.0、min_p: 0.06（严禁 repeat_penalty >= 1.10 或开启 frequency_penalty > 0，否则会压死句号 。 导致长难句爆炸）。

1. 前端客户端（SillyTavern 酒馆 / OpenWebUI / API）推荐参数

2. Ollama 推荐配置（已内置于仓库 Modelfile）

FROM ./Dongfangshuo-Qwen3.8-27B-NSFW-v4-Q4_K_M.gguf
ADAPTER ./mmproj-model-bf16.gguf

PARAMETER temperature 0.68
PARAMETER top_p 0.90
PARAMETER top_k 40
PARAMETER min_p 0.06
PARAMETER repeat_penalty 1.05
PARAMETER repeat_last_n 1024
PARAMETER presence_penalty 0.25
PARAMETER frequency_penalty 0.0
PARAMETER num_ctx 81920
PARAMETER num_predict 6144
PARAMETER stop "<|im_end|>"
PARAMETER stop "<|im_start|>"
PARAMETER stop "<|endoftext|>"

3. 跑团（TRPG）与小说防崩坏提示词护栏（建议常驻系统提示词 / 作者注释）

Reasoning effort is set to low. Keep your thinking brief and focused.
【核心主持与行文铁律】：
1. 自然段与短句铁律：单次回复控制在 2,800～4,000 字，使用饱满自然段排版（严禁一行一句的回车现代诗）；单句平均 20～35 字，多用句号“。”断句，严禁超 70 字长难句与中英夹杂。
2. 实质深入与解剖严密：正面展开实质性深入结合与体液刻画（严禁只写外部摩擦）；多角色同场时严格遵守人体空间体位，严禁器官位置穿模。
3. 骰点极性与面板算术：1d100 中 1～50 为【✅ 成功】，51～100 为【❌ 失败】（失败必须真实受挫并在面板扣减 HP/SAN，严禁失败零扣血）；末尾完整输出 ```html 状态面板，算术与道具消耗（×0）必须 100% 自洽。

---

三、📊 实测盲测对比（原版 27B-Base [J] vs. 未净化版 [K] vs. v4 终极版）

1. 64K 超长上下文 · 5 轮连续跑团六维盲测评分表

2. v4 终极版三大核心场景实测总表

---

四、架构说明（全 64 层注意力净化 + 全 64 层 MLP 满血融合）

• 全 64 层注意力 100% 原生净化（Attention LoRA = 0.00）：将 48 层 linear_attn（Gated DeltaNet）与 16 层 self_attn 的 LoRA 权重全部归零，100% 无损保留 huihui-ai/Huihui-Qwen3.8-27B-abliterated 原生底座的 64K+ 长程记忆、空间推理与指令遵循能力。
• 全 64 层 SwiGLU MLP 100% 满血融合（MLP LoRA = 1.00 / scaling = 2.0）：将 checkpoint-150 中全部 64 层的 192 个 MLP 矩阵（gate_proj / up_proj / down_proj）以 FP32 精度满血融入底座，并修补全部 GGUF 头部以原生兼容 Ollama 与 llama.cpp。

---

五、下载与运行

1. 下载（以推荐档位 Q4_K_M 为例）

huggingface-cli download dongfangshuo/Dongfangshuo-Qwen3.8-27B-NSFW-v4 \
  Dongfangshuo-Qwen3.8-27B-NSFW-v4-Q4_K_M.gguf \
  mmproj-model-bf16.gguf \
  Modelfile \
  --local-dir ./Dongfangshuo-v4

2. Ollama 运行（一键导入黄金参数与视觉插件）

cd ./Dongfangshuo-v4
ollama create dongfangshuo-v4:q4 -f Modelfile
ollama run dongfangshuo-v4:q4

3. llama.cpp 运行

llama-server \
  -m ./Dongfangshuo-v4/Dongfangshuo-Qwen3.8-27B-NSFW-v4-Q4_K_M.gguf \
  --mmproj ./Dongfangshuo-v4/mmproj-model-bf16.gguf \
  -c 81920 -n 6144 -ngl 99 --port 8080 \
  --temp 0.68 --top-p 0.90 --top-k 40 --min-p 0.06 --repeat-penalty 1.05 --repeat-last-n 1024 --presence-penalty 0.25 --frequency-penalty 0.0