public-sft-qwen9b-v8 · Qwen3.5-9B × kanhatakeyama/multiturn-conv-from-aozora-bunko（日文合成多轮对话）LoRA 适配器（实验产物）

English TL;DR. A LoRA adapter (r=32, alpha=64) for Qwen/Qwen3.5-9B, trained with QLoRA for 3 epochs / 192 optimizer steps on a 1,024-example subset of kanhatakeyama/multiturn-conv-from-aozora-bunko (apache-2.0, revision 6c962d36c88fa1d16c6fc5a7c0221e43a3287954, https://huggingface.co/datasets/kanhatakeyama/multiturn-conv-from-aozora-bunko). The training data is synthetic: per the upstream card, multi-turn Japanese dialogues were auto-generated by cyberagent/calm3-22b-chat (apache-2.0) from random excerpts of Aozora Bunko texts (globis-university/aozorabunko-clean, cc-by-4.0, a cleaned version of Japanese public-domain literature); it is not human-written dialogue. Training only: no evaluation of any kind was run, so no claim is made about Japanese ability (or any other ability). The adapter weights are released under apache-2.0; the dataset's own license is not changed by this release. This is a lab experiment, not a product.

本仓库是一个 LoRA 适配器：在 Qwen/Qwen3.5-9B 上，用公开数据集 kanhatakeyama/multiturn-conv-from-aozora-bunko（日文多轮对话；以青空文库文本为种子、由 CALM3-22B-chat 自动生成的合成数据）随机抽取的 1024 条做了一轮指令微调（SFT）。 只做了训练，没有做任何评测。 本卡所有数字都取自这一轮训练的实际产物（训练记录、训练元数据、适配器文件本身）以及对数据筛选的复算；没有估算值。

⚠ 请先读这两条

训练数据是合成数据，不是人工撰写。 上游数据集卡原文："青空文庫からランダムに抜粋したテキストをもとに､Calm3-22B-chatで自動生成のマルチンターンデータを生成しました｡" 即：从 globis-university/aozorabunko-clean（青空文库 = 日本公有领域文学的清洗版，许可 cc-by-4.0）随机摘取文本作种子，由 cyberagent/calm3-22b-chat（许可 apache-2.0）自动生成多轮对话。对话内容是模型生成的，其中的事实错误、文体偏好与偏差会原样进入训练；本轮没有对内容做任何人工核对或质量过滤。
不声称任何日文能力。 训练数据虽然是日文，但本轮没有做任何评测（没有基准、没有验证集、没有人工抽检生成结果），因此无法说明本适配器在日文或任何其他方面比基座更好、更差或没有变化。

Provenance 一览

项	内容
基座模型 Base model	`Qwen/Qwen3.5-9B`，HF 快照 commit `c202236235762e1c871ad0ccb60c8ee5ba337b9a`（训练机本地缓存中唯一的快照，`refs/main` 指向它；`adapter_config.json` 的 `revision` 字段为 `null`，PEFT 未记录快照号）。基座自身许可为 apache-2.0
数据集 Dataset	`kanhatakeyama/multiturn-conv-from-aozora-bunko`（日文多轮对话合成数据集）：https://huggingface.co/datasets/kanhatakeyama/multiturn-conv-from-aozora-bunko
数据快照 Revision	commit `6c962d36c88fa1d16c6fc5a7c0221e43a3287954`；用其中的 `data/train-00000-of-00001.parquet`（单个 parquet 分片，25,635 行）
合成来源 Synthetic origin	种子文本：`globis-university/aozorabunko-clean`（许可 cc-by-4.0；青空文库 = 日本公有领域文学的清洗版）；生成模型：`cyberagent/calm3-22b-chat`（许可 apache-2.0）自动生成多轮对话（上游数据集卡原文）
数据许可 Data license	apache-2.0（上游数据集卡 YAML 头逐字 `license: apache-2.0`）。原数据集许可不因本发布而改变。
子集 / 筛选	parquet 全量 25,635 行 → 扫描 25,635 → 去坏结构 3,061 / 空 0 / 特殊 token 0 / 去重 0 → 可用 22,574 → 丢弃经 chat template 渲染后 >1024 token 的 787 条 → fit 21,787 → seed=42 洗牌后取 1,024 条
权重许可 Weights license	apache-2.0（仅指本仓库的 LoRA 适配器权重）
训练配置 Training	QLoRA（基座以 4-bit NF4 加载）· LoRA r32 / α64 / dropout 0.05 / targets auto · seq 1024 · batch 4 × grad_accum 4（有效 16）· lr 1e-4（cosine）· warmup 0.03 · 3 epoch = 192 步（steps） · seed 42 · bf16 + Liger kernel · 单卡
已知局限 Limitations	只训 3 epoch / 192 步 / 1,024 条；合成数据；未做任何评测；单一 seed；交付 LoRA 未合并；不是产品。详见下文「已知局限」

文件 Files

文件	说明
`adapter_model.safetensors`	LoRA 适配器权重，fp32，496 个张量 / 86,556,672 个参数，346,302,176 字节，sha256 `dc58f45be7c0bf7bb7280b0959bf278173fefb151911721b18ae6a407c4fa1fa`（= 第 192 步，也就是最终 checkpoint）
`adapter_config.json`	PEFT 配置（由 peft 0.20.0 写出）
`tokenizer.json` / `tokenizer_config.json` / `chat_template.jinja`	训练时实际使用的 tokenizer 与对话模板，由 transformers 5.15.0 随适配器一起保存（见下文「tokenizer 说明」）

不包含：合并后的完整权重、中间 checkpoint（第 100 步）、优化器状态、训练语料或其副本。训练数据请从上游获取。

数据 Data

数据集：kanhatakeyama/multiturn-conv-from-aozora-bunko。来源 URL：https://huggingface.co/datasets/kanhatakeyama/multiturn-conv-from-aozora-bunko
快照：revision 6c962d36c88fa1d16c6fc5a7c0221e43a3287954，取其中的 data/train-00000-of-00001.parquet（25,635 行）。
合成来源：上游数据集卡原文写明，从青空文库（globis-university/aozorabunko-clean，许可 cc-by-4.0，日本公有领域文学的清洗版）随机摘取文本，再以其为种子由 cyberagent/calm3-22b-chat（许可 apache-2.0）自动生成多轮对话；生成与轻度清洗代码见上游卡所链 KanHatakeyama/2024ChatBotDevLog。训练数据全部是模型生成的合成对话（青空文库原文只作为生成时的种子）。
许可：上游数据集卡 YAML 头逐字为 license: apache-2.0。Apache-2.0 允许再分发与商用。原数据集许可不因本发布而改变。 种子文本数据集与生成模型各自的许可 / 使用条款，请以其上游为准。
筛选（CPU 复算，口径与训练读取一致，脚本 convert_aozora.py，统计 convert_report.json）：
- parquet 全量 25,635 行 → 扫描 25,635
- → 结构要求：可有一条开头的 system 指示，其后 user/assistant 严格交替、以 user 开头、以 assistant 结尾：不合格 3,061 条；内容为空 0；含 chat-template 特殊 token 0；完全重复 0 → 可用 22,574
- → 用 Qwen3.5-9B chat template（apply_chat_template(..., add_generation_prompt=False)）实测 token 长度，丢弃 >1024 的 787 条
- → fit 21,787 → random.Random(42).shuffle 后取前 1,024 条写入训练文件（system 指示与多轮对话保留）
训练文件：train.jsonl 1,024 行，sha256 9cdd0f1b8ea592bb9327631196b1b56e04c945dd644c33a31a4e257765507736，逐行 json.loads 全通过。
子集长度（token，含 chat template）：p50 304 / p90 562 / max 1017，均值 340.1，合计 348,234 token/epoch。
子集结构：1,024 条全部以一条 system 指示开头（共 10 种，均为「〜な会話の返答文を生成しなさい｡セリフのみを出力し、それ以外は何も出力しないでください｡」一类的生成指示），其后 user/assistant 1~6 对：1 对 2 条 / 2 对 1 条 / 3 对 10 条 / 4 对 393 条 / 5 对 13 条 / 6 对 605 条。
映射：{"messages":[{role,content}...]}；system 指示保留在对话开头。
loss 只算在 assistant 回复 token 上（all_tokens_loss=false）；system / user 部分与模板标记不计入。

训练配置 Training

参数	值
方法	QLoRA：基座经 bitsandbytes 以 4-bit NF4（double quant）加载，计算 dtype bf16；训练 `bf16=True`
LoRA	r=32，lora_alpha=64，lora_dropout=0.05，bias=none，task_type=CAUSAL_LM
target_modules	`auto`；`exclude_modules` 排除 vision/audio/visual/mtp（只覆盖文本解码器）
可训练参数	86,556,672（496 个 fp32 张量）
max_seq_len	1024
batch	每卡 4 × grad_accum 4 = 有效 batch 16
optimizer	paged_adamw_8bit
lr / schedule	1e-4，cosine
warmup	warmup_ratio 0.03
epochs / steps	3 epoch；1,024 条 / 有效 batch 16 = 64 步/epoch，共 192 步
seed	42
loss 范围	只算 assistant 回复 token（`all_tokens_loss=false`）
kernels	Liger kernel；attention sdpa；开启 gradient checkpointing
硬件 / 显存峰值	单卡；显存峰值 11.88 GiB
时长 / 吞吐	2,976 秒（约 0.83 小时），351.1 tok/s；每 epoch 348,234 token
软件	transformers 5.15.0、peft 0.20.0
训练日期	2026-10-19

训练集 loss：第 5 步 1.765，第 190 步（最后一个记录点）0.833。这只是训练集上的 loss，不是验证或评测指标；本轮没有验证集。对合成数据，训练集 loss 下降只说明模型更贴合生成模型的回复风格，不说明回答质量。

怎么用 Usage

import torch
from transformers import AutoModelForImageTextToText, AutoTokenizer
from peft import PeftModel

base_id = "Qwen/Qwen3.5-9B"
adapter_id = "alfaplus/public-sft-qwen9b-v8"

tok = AutoTokenizer.from_pretrained(adapter_id)
# 用 AutoModelForImageTextToText 加载基座(与训练时一致)。Qwen3.5 的 checkpoint 是 *ForConditionalGeneration,
# 用 AutoModelForCausalLM 加载可能静默漏掉文本解码器权重(只打警告),LoRA 也就挂不对地方。
base = AutoModelForImageTextToText.from_pretrained(
    base_id, revision="c202236235762e1c871ad0ccb60c8ee5ba337b9a",
    dtype=torch.bfloat16, device_map="auto")
model = PeftModel.from_pretrained(base, adapter_id)

msgs = [{"role": "system", "content": "日常会話の返答文を生成しなさい｡セリフのみを出力し、それ以外は何も出力しないでください｡"},
        {"role": "user", "content": "最近、何か面白い本を読みましたか？"}]
inputs = tok.apply_chat_template(msgs, add_generation_prompt=True, enable_thinking=False,
                                 return_tensors="pt", return_dict=True).to(model.device)
out = model.generate(**inputs, max_new_tokens=256)
print(tok.decode(out[0, inputs["input_ids"].shape[1]:], skip_special_tokens=True))

这段示例代码没有在本发布流程中实际运行过（准备发布时不占用 GPU）。加载方式（AutoModelForImageTextToText + PEFT）与训练脚本一致，但请自行验证。
训练样本采用 enable_thinking=False 的格式（空思考块）；思考模式下的行为没有评测。
训练样本都带 system 指示；不带 system 指示时的行为没有评测。
训练时基座是 4-bit NF4 加载的；挂到 bf16 基座上的差异没有测过。

tokenizer 说明（对本仓库实测）

本仓库附带的 tokenizer.json 不是基座 tokenizer.json 的逐字节副本（chat_template.jinja 则与基座逐字节相同）。本仓库这份的预切分（pre-tokenizer）正则是 (?i:'s|'t|'re|'ve|'m|'ll|'d)|[^\r\n\p{L}\p{N}]?\p{L}+|\p{N}|…——其中 \p{L} 一处不含组合附加符类 \p{M}，而基座文件写的是 [^\r\n\p{L}\p{N}]?[\p{L}\p{M}]+。这是 transformers 5.15.0 保存 Qwen3.5 tokenizer 时的已知行为。也就是说，训练时实际使用的切分就是本仓库附带的这份 tokenizer；如果推理栈不经过 transformers、直接读取基座的 tokenizer 文件，含组合附加符的文本会被切得和训练时不同。

已知局限 Limitations

训练量小：只训了 3 epoch / 192 步，只用了 1,024 条样例（取自 21,787 条满足长度限制的随机子集，不代表全量 25,635 行的分布）。
合成数据：训练数据全部是模型生成的（CALM3-22B-chat 以青空文库摘录为种子自动生成），没有人工撰写或人工核对；生成模型的事实错误、偏差和文体习惯会被学进去。上游数据集卡自述的局限同样适用。
没有任何评测：只跑了训练，没有做任何基准评测，没有留出验证集，也没有人工检查生成结果。上面的 loss 只是训练集 loss，不能说明泛化能力或与基座的优劣。不声称任何日文能力。
单一 seed，未做超参搜索：只有 seed 42 这一次运行，结果的稳定性未知。
交付形态：交付 LoRA 适配器本体，未合并权重；合并 / 低比特量化（如 GGUF）之后的效果未验证，低比特量化可能削弱适配器的作用。
训练与推理条件：训练时基座 4-bit NF4；其他精度 / 思考模式未测。
多轮对话的行为未评测：训练数据以 4~6 对的多轮对话为主（均带 system 指示），但本轮未对多轮 / 单轮分别做评测。
没有任何保证：未做安全评测或红队测试。这是实验室的实验产物，不是产品。

许可 License

适配器权重：apache-2.0。 本仓库 YAML 中的 license: apache-2.0 指适配器权重与本卡。
训练数据：apache-2.0（上游数据集卡 YAML 头逐字 license: apache-2.0）。原数据集许可不因本发布而改变。 本仓库不包含 multiturn-conv-from-aozora-bunko 数据或其衍生副本；如需使用数据，请从上游按其许可获取。种子文本 globis-university/aozorabunko-clean 为 cc-by-4.0，生成模型 cyberagent/calm3-22b-chat 为 apache-2.0，均以其上游为准。
基座模型：Qwen/Qwen3.5-9B 按其自身许可（apache-2.0，https://huggingface.co/Qwen/Qwen3.5-9B/blob/main/LICENSE）发布；使用本适配器需另行获取基座并遵守其条款。

引用 / 出处 Citation

数据集：kanhatakeyama/multiturn-conv-from-aozora-bunko，https://huggingface.co/datasets/kanhatakeyama/multiturn-conv-from-aozora-bunko 。种子文本：globis-university/aozorabunko-clean，https://huggingface.co/datasets/globis-university/aozorabunko-clean 。生成模型：cyberagent/calm3-22b-chat，https://huggingface.co/cyberagent/calm3-22b-chat 。

基座模型：https://huggingface.co/Qwen/Qwen3.5-9B

alfaplus/public-sft-qwen9b-v8