Qwen3.8-27B at 0.55 bits per weight (NVG) — experimental CMF

Qwen3.8-27B compressed with NVG, a method by Oleg Kirichenko, and trained on 10.5 M tokens against the model's own q8_2f as the teacher. The layers take 0.55 bits per weight. The file is 4.89 GB, 5.6× smaller than q8_2f, and decodes at 71–76 tok/s on one RTX PRO 6000.

Experimental, not a working model. Short factual answers can be right, and code has the right form. Longer answers repeat and get facts and logic wrong. It is here for you to try, to train further, or to compare with.

English · Русский · 中文

Quick start

cargo install cortiq-cli          # or a prebuilt binary from the releases page
hf download infosave/Qwen3.8-27B-NVG-0.55bpw-Experimental-cmf qwen38-27b-nvg055-10m.cmf --local-dir .
cortiq run qwen38-27b-nvg055-10m.cmf --no-think --greedy -n 96 -p "What is the capital of France?"

Use cortiq 0.8.54 or later (releases). The measured speed is from one RTX PRO 6000 on Vulkan. A Mac has no Metal kernel for this format and runs it on the CPU; we have not measured that.

Greedy answers of this file:

Results

Perplexity on 512-token windows, lower is better. The chat test is q8_2f's own answers to 118 English and Russian prompts, which is why q8_2f scores so low on it.

"0.55 bits" is the compressed layers only. The whole file is 1.43 bits per weight:

Why NVG instead of LittleBit's start

LittleBit introduced the storage layout used here: ±1 factors with 16-bit row, column and rank scales. Its data-free start needs heavy quantization-aware training. NVG keeps the layout and builds it differently.

This compares the starting point and the cost, not finished models. LittleBit reports good results after its full training, down to 0.1 bits per weight, and we have not run that training on these models. This file is not a working model yet.

What is new

• Topology first. Signs are chosen in the metric of the layer's activations, scales are then solved exactly, and a sign flip stays only if the output error drops. The encoder takes no gradient step.
• GPU encoder. One 17408×5120 tensor takes 39.1 s against 2253.6 s for the CPU reference, at a held-out error of 0.3758 against 0.3759. Calibration streams layer by layer. The whole 27B took about 4 hours.
• Sign training on the device. Signs train as int16 latents with 4 bytes of state per sign, inside the reverse sweep. The 27B trains at 4.9 s per 4096-token step on one RTX PRO 6000.
• A real runtime. One CMF file, CPU and wgpu kernels, and the same cortiq run as any other model.
• Strict accounting. The file's provenance stores the bit counts, so the numbers above can be checked.

Convert your own model

cortiq convert --model ./hf-model --quant blr --bpw 0.55 --blr-method nvg --blr-device gpu \
  --calib calib.txt --blr-fit-tokens 32768 --blr-sel-tokens 4096 --output model-nvg055.cmf

• --calib is plain text. Never use your evaluation text here.
• --blr-fit-tokens must give a full-rank Gram of the widest input: 32,768 for the 27B. The default is 14,848.
• --bpw sets the budget, and --blr-plan FILE sets it per layer or per tensor.
• --blr-method dual-svid is LittleBit's initializer, for comparison.
• Always measure the result. The training-free file scores 148.6 on the 27B. On Qwen3-0.6B, a model without GatedDeltaNet layers, this encoder destroys the model: 14,163 at 1.0 bit against 28.33 for q8_2f.

The teacher

The teacher is a full-precision CMF of the same architecture and tokenizer. For this model it is qwen38-27b-q8_2f.cmf from Qwen3.8-27B-cmf. nvg-train runs it first, keeps its top-64 next-token distribution for every token, and frees it. The student then learns to match that distribution. Your text only supplies the contexts, so the target is always the teacher, whoever wrote the text.

To get text in the model's own voice, generate answers with teacher-data, locally or through an API:

cortiq teacher-data generate qwen38-27b-q8_2f.cmf prompts.jsonl my.tdata --no-think
OPENROUTER_API_KEY=… cortiq teacher-data generate openrouter:qwen/qwen3.8-27b prompts.jsonl my.tdata \
  --tokenizer qwen38-27b-q8_2f.cmf --no-think

Answers go to my.tdata.answers.jsonl. This turns them into chat-format text for --calib:

import json, sys
for line in open(sys.argv[1], encoding="utf-8"):
    r = json.loads(line)
    turns = "".join(f"<|im_start|>{m['role']}\n{m['content'].strip()}<|im_end|>\n" for m in r["messages"])
    print(f"{turns}<|im_start|>assistant\n<think>\n\n</think>\n\n{r['response'].strip()}<|im_end|>")

A local q8_2f teacher generates about 33 tok/s on an RTX PRO 6000, and several at once are slower. For bulk text, use ready answers: the data of the 14B page has 966 of them.

Continue the training

You need one GPU with at least 96 GB (about 85 GB in use), at least 120 GB of RAM and a fast local disk for the 59 GB state. A step of 4096 tokens takes 4.9 s, and the teacher pass runs at about 3000 tok/s.

1. Download the student, the teacher and the chat text.

hf download infosave/Qwen3.8-27B-NVG-0.55bpw-Experimental-cmf --local-dir .
hf download infosave/Qwen3.8-27B-cmf qwen38-27b-q8_2f.cmf --local-dir .

2. Prepare the text. data/chat4.txt is the chat text of the last run, and the model has already seen its first 3.1 M tokens or so, so prefer new text where you can. my_plain.txt below stands for your own plain text.

3. Train. A new run starts its own schedule.

export CMF_GPU_PROBE=0
cortiq nvg-train qwen38-27b-nvg055-10m.cmf --teacher qwen38-27b-q8_2f.cmf \
  --calib data/chat4.txt=0.6 --calib my_plain.txt=0.4 \
  --tokens 5242880 --window 512 --batch 8 --epochs 1 --lr 3e-4 --topk 64 \
  --eval-windows 32 --eval-every 32 --train-signs --sign-opt fact-mom --topk-cache topk.bin \
  --sign-state state --sign-state-every 256 --sign-state-replace --output my-nvg055.cmf

To stop early and export the best snapshot, set CMF_NVG_STOP_AFTER=N. To continue, run the same command with --resume state. On 0.8.54 preparing this much chat text takes about 30 minutes on every start; PR #81 brings it to about 10 s.

4. Measure. Score the dense expansion, then read the answers yourself.

cortiq requant my-nvg055.cmf --quant blr-q8_2f --output my-dense.cmf
export CMF_GPU_WGPU_GRAPH=0 CMF_NLL_CHUNK=512
cortiq ppl my-dense.cmf -f data/chat_test.txt --windows 19 --window-len 512
cortiq ppl my-dense.cmf -f wiki.test.raw --windows 12 --window-len 512

Results after each training stage

Bold rows are the ends of training schedules, and only those compare. The other rows were taken while the rates were still high: a new schedule first makes the numbers worse (see 6 M). Held-out KL uses each run's own text, so compare it only inside a run.

The text changed between runs. The first 1 M was plain text and code. The next 4 M were 40 % chat format. The last 5 M were 60 % chat format, about 1.9 M tokens of it real Qwen3.8-27B answers, and they gave plain prose a smaller share. From 5 M to 10 M chat fell 21 %, docs 16 % and code 13 %, while C4 and WikiText-2 moved about 2 %.

Limitations

• One training chain with one seed, and the token count and the text mix changed together.
• Speed and quality were measured on one RTX PRO 6000 only.
• We trained against an earlier q8_2f conversion of the same size. The public teacher file has a different hash, so a continuation will not reproduce these numbers to the last digit.
• The method is untested outside the Qwen3.5 family, apart from the Qwen3-0.6B failure above. MoE experts are not covered.

Files and verification

sha256sum -c qwen38-27b-nvg055-10m.cmf.sha256

License. cortiq is Apache-2.0 (see PATENTS.md). The weights inherit Qwen3.8-27B's Apache-2.0 license. OpenAssistant oasst1 is Apache-2.0.

---

Документация на русском

Qwen3.8-27B, сжатая методом NVG Олега Кириченко и обученная на 10,5 млн токенов с собственной q8_2f в роли учителя. Слои занимают 0,55 бита на вес. Файл весит 4,89 ГБ, в 5,6 раза меньше q8_2f, и декодирует 71–76 ток/с на одной RTX PRO 6000.

Экспериментальный файл, ещё не рабочая модель. Короткие ответы на факты бывают верными, код правильно оформлен. Длинные ответы повторяются и ошибаются в фактах и логике. Файл выложен, чтобы его можно было попробовать, дообучить или сравнить.

Быстрый старт

cargo install cortiq-cli          # или готовый бинарник со страницы релизов
hf download infosave/Qwen3.8-27B-NVG-0.55bpw-Experimental-cmf qwen38-27b-nvg055-10m.cmf --local-dir .
cortiq run qwen38-27b-nvg055-10m.cmf --no-think --greedy -n 96 -p "Какая столица России?"

Нужен cortiq 0.8.54 или новее (релизы). Скорость измерена на одной RTX PRO 6000 через Vulkan. На Mac нет ядра Metal для этого формата, файл работает на CPU; эту скорость мы не мерили.

Жадные ответы этого файла:

Результаты

Перплексия на окнах по 512 токенов, меньше значит лучше. Чат-тест состоит из ответов самой q8_2f на 118 английских и русских запросов, поэтому у неё там такое низкое значение.

«0,55 бита» относится только к сжатым слоям. По всему файлу выходит 1,43 бита на вес:

Почему NVG, а не старт LittleBit

LittleBit предложил формат хранения, который используется здесь: множители ±1 с 16-битными масштабами строк, столбцов и ранга. Его старт без данных требует тяжёлого обучения. NVG сохраняет формат, но строит его иначе.

Это сравнение стартовой точки и цены, а не готовых моделей. LittleBit сообщает о хороших результатах после полного обучения, вплоть до 0,1 бита на вес, а мы такое обучение на этих моделях не запускали. Этот файл пока не рабочая модель.

Что нового

• Сначала топология. Знаки выбираются в метрике активаций слоя, затем масштабы решаются точно, а смена знака остаётся, только если ошибка на выходе падает. Кодировщик не делает ни одного градиентного шага.
• Кодировщик на GPU. Один тензор 17408×5120 занимает 39,1 с против 2253,6 с у эталона на CPU при ошибке 0,3758 против 0,3759. Калибровка идёт послойно. Вся 27B заняла около 4 часов.
• Обучение знаков на устройстве. Знаки обучаются как int16-латенты, 4 байта состояния на знак, прямо в обратном проходе. Шаг на 4096 токенов на 27B занимает 4,9 с на одной RTX PRO 6000.
• Настоящий рантайм. Один файл CMF, ядра для CPU и wgpu, тот же cortiq run, что и для других моделей.
• Строгий подсчёт бит. Счётчики бит записаны в сам файл, поэтому числа выше можно проверить.

Как сконвертировать свою модель

cortiq convert --model ./hf-model --quant blr --bpw 0.55 --blr-method nvg --blr-device gpu \
  --calib calib.txt --blr-fit-tokens 32768 --blr-sel-tokens 4096 --output model-nvg055.cmf

• --calib это обычный текст. Текст для оценки сюда не подавайте.
• --blr-fit-tokens должен давать полноранговую матрицу Грама самого широкого входа: 32 768 для 27B. По умолчанию 14 848.
• --bpw задаёт бюджет, --blr-plan FILE задаёт его по слоям или тензорам.
• --blr-method dual-svid это инициализатор LittleBit, для сравнения.
• Всегда измеряйте результат. Файл без обучения даёт на 27B значение 148,6. На Qwen3-0.6B, модели без слоёв GatedDeltaNet, кодировщик разрушает модель: 14 163 при 1,0 бита против 28,33 у q8_2f.

Учитель

Учитель это файл CMF полной точности с той же архитектурой и токенизатором. Для этой модели это qwen38-27b-q8_2f.cmf из Qwen3.8-27B-cmf. nvg-train сначала запускает его, сохраняет топ-64 следующих токенов для каждого токена и освобождает память. Затем ученик учится повторять это распределение. Ваш текст задаёт только контексты: целью всегда остаётся учитель, кто бы ни написал текст.

Чтобы получить текст в стиле самой модели, сгенерируйте ответы через teacher-data, локально или через API:

cortiq teacher-data generate qwen38-27b-q8_2f.cmf prompts.jsonl my.tdata --no-think
OPENROUTER_API_KEY=… cortiq teacher-data generate openrouter:qwen/qwen3.8-27b prompts.jsonl my.tdata \
  --tokenizer qwen38-27b-q8_2f.cmf --no-think

Ответы попадают в my.tdata.answers.jsonl. Этот код превращает их в текст в формате чата для --calib:

import json, sys
for line in open(sys.argv[1], encoding="utf-8"):
    r = json.loads(line)
    turns = "".join(f"<|im_start|>{m['role']}\n{m['content'].strip()}<|im_end|>\n" for m in r["messages"])
    print(f"{turns}<|im_start|>assistant\n<think>\n\n</think>\n\n{r['response'].strip()}<|im_end|>")

Локальный учитель q8_2f генерирует около 33 ток/с на RTX PRO 6000, а несколько одновременно работают медленнее. Для больших объёмов берите готовые ответы: в данных страницы 14B их 966.

Как дообучить

Нужны одна видеокарта от 96 ГБ (занято около 85 ГБ), от 120 ГБ ОЗУ и быстрый локальный диск для состояния на 59 ГБ. Шаг на 4096 токенов занимает 4,9 с, проход учителя идёт примерно на 3000 ток/с.

1. Скачайте ученика, учителя и текст чатов.

hf download infosave/Qwen3.8-27B-NVG-0.55bpw-Experimental-cmf --local-dir .
hf download infosave/Qwen3.8-27B-cmf qwen38-27b-q8_2f.cmf --local-dir .

2. Подготовьте текст. data/chat4.txt это текст чатов из последнего прогона, модель уже видела примерно первые 3,1 млн его токенов, поэтому по возможности берите новый текст. my_plain.txt ниже это ваш обычный текст.

3. Обучите. Новый прогон начинает собственное расписание.

export CMF_GPU_PROBE=0
cortiq nvg-train qwen38-27b-nvg055-10m.cmf --teacher qwen38-27b-q8_2f.cmf \
  --calib data/chat4.txt=0.6 --calib my_plain.txt=0.4 \
  --tokens 5242880 --window 512 --batch 8 --epochs 1 --lr 3e-4 --topk 64 \
  --eval-windows 32 --eval-every 32 --train-signs --sign-opt fact-mom --topk-cache topk.bin \
  --sign-state state --sign-state-every 256 --sign-state-replace --output my-nvg055.cmf

Чтобы остановиться раньше и выгрузить лучший снимок, задайте CMF_NVG_STOP_AFTER=N. Чтобы продолжить, запустите ту же команду с --resume state. В 0.8.54 подготовка такого объёма текста чатов занимает около 30 минут при каждом запуске; PR #81 сокращает её примерно до 10 с.

4. Измерьте. Оцените плотную копию, а затем сами прочитайте ответы.

cortiq requant my-nvg055.cmf --quant blr-q8_2f --output my-dense.cmf
export CMF_GPU_WGPU_GRAPH=0 CMF_NLL_CHUNK=512
cortiq ppl my-dense.cmf -f data/chat_test.txt --windows 19 --window-len 512
cortiq ppl my-dense.cmf -f wiki.test.raw --windows 12 --window-len 512

Результаты после каждого этапа обучения

Жирные строки это концы расписаний, сравнивать можно только их. Остальные взяты, пока скорости были высокими: новое расписание сначала ухудшает числа (см. 6 M). Отложенный KL считается на тексте своего прогона, поэтому сравнивайте его только внутри прогона.

Текст менялся от прогона к прогону. Первый 1 M состоял из обычного текста и кода. Следующие 4 M содержали 40 % формата чата. Последние 5 M содержали 60 % формата чата, из них около 1,9 млн токенов это настоящие ответы Qwen3.8-27B, а доля обычной прозы стала меньше. От 5 M до 10 M чат упал на 21 %, документация на 16 %, код на 13 %, а C4 и WikiText-2 сдвинулись примерно на 2 %.

Ограничения

• Одна цепочка обучения с одним seed, а число токенов и состав текста менялись одновременно.
• Скорость и качество измерены только на одной RTX PRO 6000.
• Мы обучали на более ранней конвертации q8_2f того же размера. У публичного файла учителя другой хеш, поэтому продолжение не повторит эти числа до последней цифры.
• Вне семейства Qwen3.5 метод не проверен, не считая провала на Qwen3-0.6B. Эксперты MoE не поддерживаются.

Файлы и проверка

sha256sum -c qwen38-27b-nvg055-10m.cmf.sha256

Лицензия. cortiq распространяется под Apache-2.0 (см. PATENTS.md). Веса наследуют лицензию Apache-2.0 от Qwen3.8-27B. OpenAssistant oasst1 распространяется под Apache-2.0.

---

中文说明

Qwen3.8-27B 使用 Oleg Kirichenko 的 NVG 方法压缩,并以模型自身的 q8_2f 为教师, 在 1050 万个词元上训练。各层占用每权重 0.55 比特。文件大小为 4.89 GB,比 q8_2f 小 5.6 倍,在一块 RTX PRO 6000 上解码速度为 71–76 tok/s。

实验性文件,还不是可用的模型。 简短的事实问答可能正确,代码形式也正确。较长的回答会重复,并在事实和逻辑上出错。发布它是为了 让你试用、继续训练或进行比较。

快速开始

cargo install cortiq-cli          # 或从发布页下载预编译二进制文件
hf download infosave/Qwen3.8-27B-NVG-0.55bpw-Experimental-cmf qwen38-27b-nvg055-10m.cmf --local-dir .
cortiq run qwen38-27b-nvg055-10m.cmf --no-think --greedy -n 96 -p "What is the capital of France?"

需要 cortiq 0.8.54 或更新版本(发布页)。速度在一块 RTX PRO 6000 上通过 Vulkan 测得。Mac 没有此格式的 Metal 内核,会在 CPU 上运行,我们没有测量该速度。

此文件的贪心解码回答:

结果

512 词元窗口上的困惑度,越低越好。聊天测试由 q8_2f 自己对 118 个英文和俄文提示的回答组成,因此它在该项上得分很低。

"0.55 比特"只指压缩后的层。按整个文件计算为每权重 1.43 比特:

为什么用 NVG 而不是 LittleBit 的起点

LittleBit 提出了这里使用的存储布局:±1 因子加 16 位的行、列和秩缩放。它的无数据起点需要大量的 量化感知训练。NVG 保留这一布局,但用不同的方式构建。

这里比较的是起点和成本,而不是最终模型。LittleBit 报告了完整训练后的良好结果,最低到每权重 0.1 比特,而我们没有在这些模型上运行过 该训练。本文件目前还不是可用的模型。

新特性

• 拓扑优先。 在该层激活的度量下选择符号,再精确求解缩放,只有输出误差下降时才保留符号翻转。编码器不做任何梯度步骤。
• GPU 编码器。 一个 17408×5120 张量耗时 39.1 秒,CPU 参考实现为 2253.6 秒,留出误差为 0.3758 对 0.3759。校准逐层流式进行。 整个 27B 用时约 4 小时。
• 在设备上训练符号。 符号以 int16 潜变量训练,每个符号 4 字节状态,在反向传播过程中更新。在一块 RTX PRO 6000 上,27B 每 4096 词元一步耗时 4.9 秒。
• 真正的运行时。 单个 CMF 文件,CPU 和 wgpu 内核,与其他模型相同的 cortiq run。
• 严格计数。 比特计数写入文件本身,因此以上数字可以核对。

转换你自己的模型

cortiq convert --model ./hf-model --quant blr --bpw 0.55 --blr-method nvg --blr-device gpu \
  --calib calib.txt --blr-fit-tokens 32768 --blr-sel-tokens 4096 --output model-nvg055.cmf

• --calib 是纯文本。不要在这里使用评估文本。
• --blr-fit-tokens 必须让最宽输入的 Gram 矩阵满秩:27B 为 32,768,默认值为 14,848。
• --bpw 设置预算,--blr-plan FILE 按层或按张量设置。
• --blr-method dual-svid 是 LittleBit 的初始化器,用于比较。
• 务必测量结果。 无训练文件在 27B 上的得分为 148.6。在 Qwen3-0.6B(没有 GatedDeltaNet 层的模型)上,该编码器会破坏模型: 1.0 比特时为 14,163,而 q8_2f 为 28.33。

教师

教师是架构和分词器相同的全精度 CMF。此模型的教师是 Qwen3.8-27B-cmf 中的 qwen38-27b-q8_2f.cmf。nvg-train 先运行它,为每个词元保留前 64 个下一词元的分布,然后释放它。之后学生学习匹配该分布。你的文本只提供 上下文,无论文本由谁写成,目标始终是教师。

要获得模型自身风格的文本,可用 teacher-data 在本地或通过 API 生成回答:

cortiq teacher-data generate qwen38-27b-q8_2f.cmf prompts.jsonl my.tdata --no-think
OPENROUTER_API_KEY=… cortiq teacher-data generate openrouter:qwen/qwen3.8-27b prompts.jsonl my.tdata \
  --tokenizer qwen38-27b-q8_2f.cmf --no-think

回答写入 my.tdata.answers.jsonl。下面的代码把它们转换成 --calib 使用的聊天格式文本:

import json, sys
for line in open(sys.argv[1], encoding="utf-8"):
    r = json.loads(line)
    turns = "".join(f"<|im_start|>{m['role']}\n{m['content'].strip()}<|im_end|>\n" for m in r["messages"])
    print(f"{turns}<|im_start|>assistant\n<think>\n\n</think>\n\n{r['response'].strip()}<|im_end|>")

本地 q8_2f 教师在 RTX PRO 6000 上约生成 33 tok/s,同时运行多个会更慢。大量文本请使用现成回答: 14B 页面的数据中有 966 条。

继续训练

需要一块至少 96 GB 的 GPU(约占用 85 GB)、至少 120 GB 内存,以及用于 59 GB 状态的快速本地磁盘。每步 4096 词元耗时 4.9 秒,教师 阶段约为 3000 tok/s。

1. 下载学生、教师和聊天文本。

hf download infosave/Qwen3.8-27B-NVG-0.55bpw-Experimental-cmf --local-dir .
hf download infosave/Qwen3.8-27B-cmf qwen38-27b-q8_2f.cmf --local-dir .

2. 准备文本。 data/chat4.txt 是上一次运行的聊天文本,模型已经见过其中大约前 310 万个词元,因此尽量使用新文本。下面的 my_plain.txt 代表你自己的普通文本。

3. 训练。 新的运行会开始自己的学习率计划。

export CMF_GPU_PROBE=0
cortiq nvg-train qwen38-27b-nvg055-10m.cmf --teacher qwen38-27b-q8_2f.cmf \
  --calib data/chat4.txt=0.6 --calib my_plain.txt=0.4 \
  --tokens 5242880 --window 512 --batch 8 --epochs 1 --lr 3e-4 --topk 64 \
  --eval-windows 32 --eval-every 32 --train-signs --sign-opt fact-mom --topk-cache topk.bin \
  --sign-state state --sign-state-every 256 --sign-state-replace --output my-nvg055.cmf

要提前停止并导出最佳快照,请设置 CMF_NVG_STOP_AFTER=N。要继续,请加上 --resume state 运行同一命令。在 0.8.54 中,每次启动准备这么多 聊天文本约需 30 分钟;PR #81 将其缩短到约 10 秒。

4. 测量。 对稠密副本打分,然后亲自阅读回答。

cortiq requant my-nvg055.cmf --quant blr-q8_2f --output my-dense.cmf
export CMF_GPU_WGPU_GRAPH=0 CMF_NLL_CHUNK=512
cortiq ppl my-dense.cmf -f data/chat_test.txt --windows 19 --window-len 512
cortiq ppl my-dense.cmf -f wiki.test.raw --windows 12 --window-len 512

各训练阶段后的结果

粗体行是学习率计划的终点,只有它们可以相互比较。其他行是在学习率仍然较高时取得的:新的计划一开始会让数字变差(见 6 M)。留出 KL 使用各次 运行自己的文本,因此只能在同一次运行内比较。

各次运行的文本不同。最初的 1 M 是普通文本和代码。接下来的 4 M 含 40 % 聊天格式。最后的 5 M 含 60 % 聊天格式,其中约 190 万词元是 Qwen3.8-27B 的真实回答,普通散文的比例更小。从 5 M 到 10 M,聊天下降 21 %,文档 16 %,代码 13 %,而 C4 和 WikiText-2 约变化 2 %。

局限

• 只有一条训练链和一个种子,词元数和文本组成同时变化。
• 速度和质量只在一块 RTX PRO 6000 上测量。
• 我们使用的是相同大小的较早 q8_2f 转换。公开的教师文件哈希不同,因此继续训练无法精确复现这些数字。
• 除了上述 Qwen3-0.6B 的失败之外,该方法未在 Qwen3.5 系列之外测试。不支持 MoE 专家。

文件和校验

sha256sum -c qwen38-27b-nvg055-10m.cmf.sha256

许可证。 cortiq 使用 Apache-2.0(见 PATENTS.md)。权重沿用 Qwen3.8-27B 的 Apache-2.0 许可证。OpenAssistant oasst1 使用 Apache-2.0。