patrickbdevaney/deepcoder-14b-awq

🤗 Hugging Face 来源mit14.8B 参数59 GBsafetensors✓ 4 个校验和今天更新

一条命令提交

在你的模型文件夹旁边运行它。它会制作种子、将文件与 Hugging Face 比对，然后提交。你只需开始做种，并粘贴你账户中的密钥。它只读取你的文件，绝不修改。如果愿意，可以先阅读脚本。

curl -fsSL https://pirateface.co/package.sh | bash -s -- --repo patrickbdevaney/deepcoder-14b-awq ./model-folder

awq version of agentica-org/DeepCoder-14B-Preview

quant_config = {
    "zero_point": True,
    "q_group_size": 128,
    "w_bit": 4,
    "version": "GEMM"
}