xCloudinfo/Gemma-3-TAIDE-12b-Chat-GGUF

来源:🤗text-generationgemma激活 12B34 GBGGUF✓ 3 个校验和128 天前更新
帮助这个模型通过 Pirate Face 分发

模型卡、文件列表和校验和已在此收录。如果你持有文件并有权分享,可以提交种子,让其他人从节点下载。

获取来源文件需要 Hugging Face 批准。
为此模型做种

Gemma-3-TAIDE-12b-Chat-GGUF

云碩科技 · xCloudinfo · 系列:社群量化 · Community GGUF

taide/Gemma-3-TAIDE-12b-Chat 的 GGUF(llama.cpp / Ollama) 量化版本,方便在地端與一般機器上跑台灣繁中對話。

各量化等級(Q4/Q5/Q6/Q8 等)見 Files 分頁。

用法

llama-server -m Gemma-3-TAIDE-12b-Chat-<quant>.gguf -c 4096 -ngl 99

授權與來源聲明

  • 基底:taide/Gemma-3-TAIDE-12b-Chat(TAIDE,國家實驗研究院)。
  • 授權 Gemma 條款 + TAIDE 模型授權條款;使用、重製、散布須遵守並保留本聲明。
  • 不得用於軍事或非法用途;不得聲稱代表 TAIDE 或國家實驗研究院;須遵守中華民國法律。

由 云碩科技 xCloudinfo 重新量化、散布;模型本體與能力屬原作者 TAIDE。