Gemma-3-TAIDE-12b-Chat-GGUF
云碩科技 · xCloudinfo · 系列:社群量化 · Community GGUF
taide/Gemma-3-TAIDE-12b-Chat 的 GGUF(llama.cpp / Ollama) 量化版本,方便在地端與一般機器上跑台灣繁中對話。
各量化等級(Q4/Q5/Q6/Q8 等)見 Files 分頁。
用法
llama-server -m Gemma-3-TAIDE-12b-Chat-<quant>.gguf -c 4096 -ngl 99
授權與來源聲明
- 基底:
taide/Gemma-3-TAIDE-12b-Chat(TAIDE,國家實驗研究院)。 - 授權 Gemma 條款 + TAIDE 模型授權條款;使用、重製、散布須遵守並保留本聲明。
- 不得用於軍事或非法用途;不得聲稱代表 TAIDE 或國家實驗研究院;須遵守中華民國法律。
由 云碩科技 xCloudinfo 重新量化、散布;模型本體與能力屬原作者 TAIDE。