中文 | English

XTurnix-ZH Base（Qwen3 0.6B）

📄 Paper · 🎮 Demo

根据转录文本对话历史预测话轮：AI在倾听时继续听还是开始说，在说话时收到用户发言是继续说还是停下去听。

模型持有AI状态，每当收到用户输入进行话轮判断：

快速开始

Transformers

from transformers import pipeline

pipe = pipeline(
    model="xcczach/xturnix-zh-base",
    trust_remote_code=True,
    device=0,
    dtype="auto",
)

result = pipe(
    [
        {
            "role": "user",
            "content": "那空气净化器应该一直开着，还是睡觉前开两小时就够了",
        }
    ],
    state="listening",
)
print(result)

推理管线会自动移除最后一条用户消息末尾标点以保证模型生成效果

过长的对话历史会发生截断。system prompt 和最近的对话消息会被保留

输出示例：

{
    "action": "<|start|>",
    "scores": {
        "<|start|>": 0.97,
        "<|keep|>": 0.03,
    },
}

pipeline 也可以直接接收字符串：

result = pipe("那我们明天几点出发？", state="listening")

批量推理：

results = pipe(
    [
        {"messages": messages_a, "state": "listening"},
        {"messages": messages_b, "state": "speaking"},
    ]
)

vllm

启动服务：

vllm serve xcczach/xturnix-zh-base \
  --served-model-name xturnix \
  --host 0.0.0.0 \
  --port 8000 \
  --dtype auto \
  --max-model-len 2048 \
  --generation-config vllm

客户端调用参考仓库vllm_client.py。

完整部署

该模型已受X-Talk对话框架支持