한국어 업무 요청 한 줄(+첨부 종류)을 받아, 프롬프트에 준 기능 목록 중 어느 기능의 일인지와 필요한 엔진·급함·후속 작업을 작은 JSON으로 내는 0.1B 판단 모델(GGUF). AI MAX 요청 판단용. 자원 운영의 판단 재료일 뿐 최종 결정은 하지 않는다.
더 큰 판: 새 기능·부적절 요청을 더 잘 고르는 0.6B 판 quantumaikr/aimax-router-qwen3-0.6b (같은 프롬프트 형식; 0.1B→0.6B 2단도 재 보았으나 0.6B 단독 권장 — 다른 작성자 봉인 세트에서 단독 83.6% vs 2단 80.3%, 이 0.1B 단독 71.2%).
주 파일(저장소 루트)이 최신판(v3)이다. 이전 주 파일은 v2b/에 그대로 있다(되돌리기용, sha256 같음). preview/는 더 이전 미리보기이며, preview/의 f16 GGUF는 긴 목록 프롬프트에서 출력이 깨지므로 쓰지 말 것.
router_post.v4_gate가 이런 경우의 상당수를 uncertain으로 돌린다(아래 표).| 파일 | 무엇 |
|---|---|
max-0.1b-aimax-router-Q4_K_M.gguf |
배포용(CPU 가능) |
max-0.1b-aimax-router-bf16.gguf |
고정밀(f16은 긴 프롬프트에서 깨져 올리지 않음) |
PROMPT.md |
정확한 프롬프트·기능 목록 줄 형식·권장 표준 목록·생성 설정·숫자 병합·게이트 |
standard_list.txt |
권장 표준 목록(현재 기능 10개 + ask·none), 그대로 쓰기 |
router_post.py |
목록 문자열, JSON 스키마/GBNF, units·seconds 병합(v3_merge), 게이트(v4_gate) |
schema_example.json, grammar_example.gbnf |
권장 표준 목록용 제약 예 |
scores.md |
점수표(v2b와 비교, 게이트별 채택률·정확도) |
TRAINING.md |
학습 설정 한 줄, 데이터 성격 |
v2b/ |
이전 주 파일(되돌리기용) |
v1/ |
기능 목록 없이 고정 12기능만 쓰는 이전 형식 |
SHA256SUMS |
system 턴: 기능 목록: 다음 줄마다 id|설명|needs(needs는 ,로, 없으면 -), 끝에 고정 두 줄 ask|…|-, none|…|-. user 턴: 요청 한 줄 + \n[첨부: …].
출력: {"action","needs","urgency","follow_up","batchable"} 5개 키. units·seconds는 규칙이 채우고, needs는 목록 값을 쓰며, 게이트를 권장한다. 자세한 것은 PROMPT.md.
| 세트 | action | units·seconds | 게이트 채택률 / 채택분 action |
|---|---|---|---|
| gold 48 (표준 목록) | 97.9 → 97.9 | 92.3 → 92.3 | 91.7 / 97.7 → 87.5 / 100.0 |
| 봉인 298 (표준 목록) | 90.3 → 93.6 | 78.8 → 87.5 | 64.8 / 99.0 → 66.1 / 99.5 |
| 봉인 298 (섞인 목록) | 82.9 → 88.9 | ||
| 처음 보는 기능: 목록에 넣음 | 0 → 3 | ||
| 처음 보는 기능: 목록에서 뺌(none) | 68 → 48 | v4_gate가 오답 52건 중 37건을 uncertain으로 돌림 |
|
JSON은 모든 세트에서 100%. units·seconds의 v3 값은 새 숫자 규칙(v3_merge), v2b 값은 이전 규칙 기준(같은 v3 출력에 이전 규칙을 쓰면 봉인 82.5). 게이트는 v4_gate. 자세한 표는 scores.md. |
기반 모델 quantumaikr/max-0.1b-v1 계열 SFT 체크포인트에서 전체 미세조정(출력 토큰에만 손실). 학습 데이터는 합성 문장 + 여러 말투로 쓴 문장, 업무 기능 약 680종의 요청 문장(기능 목록을 샘플마다 바꿈), 이전 판이 틀리던 유형을 보강한 문장. 회원의 실제 데이터는 쓰지 않았다. 라이선스 Apache-2.0.
A 0.1B Korean request router (GGUF). The system turn carries a function list (id|description|needs lines, fixed ask/none lines at the end); the model outputs
{"action","needs","urgency","follow_up","batchable"}. Tuned for the recommended standard list of 10 functions: sealed 298 requests action 93.6% (previous 90.3%).
Weaknesses: out-of-list requests are more often sent to a neighbouring listed function (use router_post.v4_gate), and new functions added only to the list are rarely picked — retraining is still needed. The previous main file is kept under v2b/.
Base: quantumaikr/max-0.1b-v1. License: Apache-2.0. No member data used.
quantumaikr/max-0.1b-v1