這個倉庫是 InternScience/Sage-A1.5 的 Heretic 消融(abliteration)無審查版本。
權重以 Sage-A1.5 為底,使用 Heretic 做方向性消融(directional ablation),削弱原模型的安全拒答對齊。沒有再做額外微調。架構、分詞器、對話模板、上下文長度與多模態設定都沿用原版。
Heretic 由 Philipp Emanuel Weidmann 開發。它把 Arditi 等人(2024)的 abliteration,和 Optuna 的 TPE 參數搜尋合在一起:同時壓低拒答次數,以及相對原模型的 KL 散度,盡量保留原模型能力。工具說明見 Heretic README。
| 項目 | 狀態 |
|---|---|
| 基底權重 | InternScience/Sage-A1.5 |
| 修改方式 | Heretic 方向性消融,無額外微調 |
| 目的 | 降低安全對齊帶來的拒答,作為無審查(uncensored)權重發布 |
| 架構 / 詞表 / 對話模板 | 與 Sage-A1.5 相同 |
| 原生上下文 | 262,144 tokens(256K) |
| 精度 | BF16,15 個 safetensors 分片 |
消融只改拒絕方向所對應的權重。對話模板裡的工具呼叫格式,以及 verification: true 觸發的 Verification Mode(在 system 內容末尾附加 Verification protocol: enabled),都還在。
這個倉庫沒有附上該次 Heretic 搜尋的拒答次數或 KL 散度。能力數字請以原版技術報告為參考,消融後的表現可能與原版有差距。
Sage-A1.5 是上海人工智慧實驗室的約 35B Mixture-of-Experts 智能體模型,底座為 Qwen3.6-35B-A3B,並在 Agents-A1 上繼續發展。每個 token 只啟動約 3B 參數。它主打三件事:
原版報告與模型卡:
數值來自本倉庫的 config.json 與 tokenizer_config.json。
| 項目 | 值 |
|---|---|
| 架構 | Qwen3_5MoeForConditionalGeneration(qwen3_5_moe) |
| 參數量級 | 約 35B 總參數,每 token 啟動 8 / 256 個專家(約 3B) |
| 層數 | 40(線性注意力與全注意力交錯,每 4 層一次全注意力) |
| 隱藏維度 | 2048 |
| 專家 | 256 個路由專家,每 token 8 個;共享專家中間維度 512 |
| 注意力頭 | 16 個 query head,2 個 KV head,head dim 256 |
| 詞表 | 248,320 |
| 上下文 | 262,144 |
| 權重精度 | bfloat16 |
| 視覺編碼器 | 27 層,hidden size 1152,patch size 16 |
| MTP | config.json 為 1 層;這 15 個分片不含 mtp.* 權重 |
| 對話模板 | Qwen 風格 ChatML,工具呼叫為 qwen3_coder 格式 |
Repo:sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored
服務方式與原版相同。--model-path 用這個 repo id,或用本機已下載的目錄。
vllm serve sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored \
--port 8000 \
--max-model-len 262144 \
--reasoning-parser qwen3 \
--enable-auto-tool-choice \
--tool-call-parser qwen3_coder
只要文字、想把視覺編碼器的顯存讓給 KV cache 時,加上 --language-model-only。
python -m sglang.launch_server \
--model-path sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored \
--port 8000 \
--mem-fraction-static 0.8 \
--context-length 262144 \
--reasoning-parser qwen3 \
--tool-call-parser qwen3_coder
視覺編碼器權重在這 15 個分片裡。preprocessor_config.json、processor_config.json、video_preprocessor_config.json 沒有一起上傳。純文字依上面的指令即可。要送影像或影片時,從 InternScience/Sage-A1.5 取這三個檔,放到模型目錄。
需要一則非空的 system 訊息,並傳 JSON 布林值 true:
curl http://localhost:8000/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{
"model": "sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored",
"messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Check this result and revise it if the evidence does not hold."}
],
"chat_template_kwargs": {"verification": true}
}'
子智能體編排與 512K YaRN 延伸的啟動參數,見原版模型卡的 Usage。把模型路徑換成這個 repo id 即可。
MTP 不要只換路徑就開。config.json 仍是 mtp_num_hidden_layers: 1,但這次上傳沒有 mtp.* 權重,也沒有 model-mtp.safetensors。要做 MTP 投機解碼時,另外取得原版的 model-mtp.safetensors。
沿用 Sage-A1.5 模型卡的建議,作為起點:
temperature: 1.0top_p: 0.95top_k: 20min_p: 0.0presence_penalty: 1.5repetition_penalty: 1.0權重繼承基底模型 InternScience/Sage-A1.5 的 Apache-2.0。Heretic 工具本身是 AGPL-3.0。
使用本權重時,請同時保留對 Sage-A1.5 團隊與 Heretic 的說明。
@misc{lou2026sagea15longhorizonexecutionscientific,
title={Sage-A1.5: From Long-Horizon Execution to Scientific Exploration with Capability Composition},
author={Sage-A1.5 Team},
year={2026},
eprint={2610.28578},
archivePrefix={arXiv},
primaryClass={cs.AI},
url={https://arxiv.org/abs/2610.28578}
}
@misc{weidmann2025heretic,
title={Heretic: Fully automatic censorship removal for language models},
author={Philipp Emanuel Weidmann},
year={2025},
url={https://github.com/p-e-w/heretic}
}
這是移除安全拒答對齊後的研究與本地部署權重。它比原版更少拒絕請求。輸出不代表原作者或本倉庫維護者的立場。使用者須自行遵守所在地法律,並為實際使用負責。
model-00006-of-00015.safetensors 5.0 GBmodel-00010-of-00015.safetensors 5.0 GBmodel-00013-of-00015.safetensors 5.0 GBmodel-00003-of-00015.safetensors 5.0 GBmodel-00005-of-00015.safetensors 5.0 GBmodel-00001-of-00015.safetensors 4.9 GBmodel-00014-of-00015.safetensors 4.6 GBmodel-00004-of-00015.safetensors 4.6 GBmodel-00007-of-00015.safetensors 4.6 GBmodel-00012-of-00015.safetensors 4.5 GBmodel-00009-of-00015.safetensors 4.5 GBmodel-00008-of-00015.safetensors 4.5 GBmodel-00002-of-00015.safetensors 4.5 GBmodel-00011-of-00015.safetensors 4.5 GBmodel-00015-of-00015.safetensors 4.2 GBInternScience/Sage-A1.5