JEVnovel 3 · 4B（FP8）

给 AIGC 小说改稿用的句子检查模型：指出一句话里哪一小片写得差，以及这一片该删还是该改。一次前向传播出结果，不做自回归生成。本仓库是 FP8 量化版（显存约为 BF16 版一半，精度几乎不变），原精度权重见同系列 jev-novel-3-4b-bf16。

仓库内附《JEVnovel3技术报告.md》：方法、数据与评测的完整细节。

它做什么

输入一句话，输出两样东西：

• 观感曲线：把句子按标点切成小片，每读完一片给一个「到这里为止写得有多差」的分数——曲线从哪一片开始抬升，问题就出在哪一片；
• 信息密度：给每片一个 0~1 的分数，回答「这一片有没有内容」。

两者合起来直接给出改稿动作：判烂 + 密度低 → 删（纯装饰，删掉无损）；判烂 + 密度高 → 改（有内容，重写不删）；没判烂 → 不动。

效果示例

示例 1 里三处判烂、密度都低，全投「删」——整段都是可以删掉的装饰性写法；示例 2 只判烂一处、密度 57%，投「改」——那一片要重写，不能删。

怎么做的

1. 语料：社区标注站收集的人类偏好数据，2.4 万句。
2. 观感曲线 ← 27B 教师逐前缀打分。用同系列的 27B 教师模型（jev-novel-3-27b-bf16，另行发布）：把句子切成小片后，让教师读每一段前缀、按整句打一次五档分（烂完了 / 小改 / 平庸 / 还可以 / 优秀）。学生学的是整条曲线的形状——不只是「这句烂」，还有「从哪一片开始烂」。
3. 信息密度 ← StartLux-Decision-27B 裁判。「烂不烂」和「有没有内容」是两回事：写得烂但承载着情节的片段该改，写得烂、只是装饰的片段才该删——一个头答不了两个问题，所以分开。裁判对每一小片回答一个改稿向的问题：「这句话若要润色，这一片应该整片删掉，还是保留、改写？」题面参照人类总结的 AI 八股分类设计（哪些写法属于删掉不心疼的装饰、哪些属于删了句子会断的内容），并用人工整理的八股案例核对过。裁判的答案作为片级密度标签。
4. 训练：Qwen3.5-4B 基座 + LoRA，两个头各是一个线性层；本仓库权重再经 FP8 量化。更完整的细节见仓库内的《JEVnovel3技术报告.md》。

评测

评测采用系列统一协议：判定阈值只在验证集上确定并冻结，再应用到主集（538 条人类共识最高的句子），指标为 Macro-F1。

本版与 BF16 版在同一阈值（0.040）下对照（全量 4254 条）：Macro-F1 0.589 → 0.586，逐句分数平均偏差 0.004，主集判定翻转 8/538——量化基本无损。

逐片头与教师/裁判的一致性（验证集）：观感曲线相关 0.79，信息密度相关 0.92。

模型规格

用法

⚠️ 自定义结构，不能用 AutoModel 直接加载，请使用本仓库的 infer.py。

安装

需要 Linux、Python 3.10+、支持 BF16 的 NVIDIA GPU。

python -m pip install torch==2.13.0 --index-url https://download.pytorch.org/whl/cu130
python -m pip install --no-build-isolation -r requirements.txt

推理

# 单句
python infer.py --text "她抽了张纸巾，慢慢擦手，从指尖擦到指根，一根一根地擦。"

# 批量（JSONL）
python infer.py --input input.jsonl --output pred.jsonl

输入：JSONL 每行包含 sentence（可选 id）。

输出：

下载后可用 sha256sum -c SHA256SUMS 校验文件完整性。

许可

以 Apache-2.0 发布，承继基座模型（Qwen3.5）的许可证，见 LICENSE。