只会随机吐一个数字的 GGUF 模型。 无论输入什么、上下文多长、怎么注入指令,它都只输出指定范围内的均匀随机数字,然后停止。
零训练:1 层 llama(该层全 0),权重手写;无数据集、无反向传播。全模型约 59 万参数,最小档仅 249 KB。
| 版本 | 取值 | 参数 | F16 | Q2_K |
|---|---|---|---|---|
random-binary |
0/1 | 591,616 | 1.16 MB | 249 KB |
random-digit |
0~9 | 591,616 | 1.16 MB | 249 KB |
random-num100 |
0~100 | 638,208 | 1.23 MB | 277 KB |
每版 6 档量化:F16 / Q8_0 / Q4_K_M(推荐)/ Q4_K_S / Q3_K_M / Q2_K。根目录 random-binary.gguf / random-digit.gguf / random-num100.gguf 为一键版,等于 Q2_K。
“随机”来自均匀 softmax + 采样器随机性,不是学出来的。范围由结构钉死:只有 N 个数字 token 能拿正 logit,其余 token(含 EOS)在第一个位置都是 -1597.96,不会越界。推导见 docs/how-it-works.md。
ollama create random-digit -f Modelfiles/Modelfile.digit
ollama run random-digit "随便说点什么" # → 7
ollama run random-num100 "今天天气怎么样" # → 42
Modelfile:Modelfile.binary / Modelfile.digit / Modelfile.num100。换量化档改 FROM 行文件名。
拖入 .gguf 后必须改采样参数:
| 参数 | 必须值 | 原因 |
|---|---|---|
top_p |
1.0 | 小于 1 会砍尾部,某些数字永远抽不到 |
top_k |
≥ 取值个数(2/10/101) | 默认 40 会让 0~100 只剩约 36 个值可能中 |
temperature |
1.0 | 保持 N 个选项等高 |
repeat_penalty |
1.0 | 避免压低刚输出的数 |
presence/frequency_penalty |
0 | 同上 |
# 对话模式(推荐)
llama-cli -m gguf/random-digit-Q4_K_M.gguf -p "你好" -n 4 \
--temp 1.0 --top-p 1.0 --top-k 10 -st
# 纯补全模式:必须加 -no-cnv
llama-completion -m gguf/random-num100-Q2_K.gguf -p "任意" -n 1 \
--temp 1.0 --top-p 1.0 --top-k 101 -no-cnv -st
实测 random-num100-Q2_K:4 线程纯 CPU、ctx 8192,峰值内存 30.9 MB,约 240 tok/s。
注意:llama.cpp b11588 的 llama-completion 不加 -no-cnv 可能崩溃;llama-cli -st 不受影响。
top_p 必须 1.0:N 个选项等概率时,top_p<1 必然砍掉尾部。实测 Ollama 默认 top_p=0.9, top_k=40 下,random-digit 300 次里 0 一次没出现;random-num100 默认只露出约 37 个取值。改 top_p=1.0、top_k≥N 后通过均匀性检验。prompt="" 返回空字符串,与模型无关。给空格或任意字符即可。"5" 会输出空;补空格或换说法。对话模式不受影响,因为 GGUF chat template 是 {{ bos_token }},正文在模板层被丢弃。top_p/top_k 砍掉一部分,但不可能抽到范围外。random-digit 对中文、英文、emoji、300 字重复、指令注入、以数字结尾、纯空白等 9 类输入各 400 次:合计 3200/3200 合法单数字,分布通过;唯一已知限制是 Ollama 空 prompt 返回空。量化文件:
gguf/random-{binary,digit,num100}-{F16,Q8_0,Q4_K_M,Q4_K_S,Q3_K_M,Q2_K}.gguf
根目录一键版为对应 Q2_K。完整 SHA-256 见仓库文件清单。
生成器只依赖 numpy:
python tools/make_random_gguf.py out.gguf --family 09 # 0~9
python tools/make_random_gguf.py out.gguf --family 01 # 0/1
python tools/make_random_gguf.py out.gguf --family 0100 # 0~100
python tools/make_random_gguf.py dice.gguf --numbers "1,2,3,4,5,6"
python tools/make_random_gguf.py --inspect out.gguf
生成时自动自测:数字 token logit 是否严格相等、EOS 是否为第二状态 argmax、非数字 token 是否落入同一状态。
MIT。随便玩。