impactframes/molmo-7B-O-bnb-4bit

impactframes 已认证

🤗 Hugging Face 来源text-generationapache-2.07.9B 参数10 GBsafetensors✓ 2 个校验和今天更新

一条命令提交

在你的模型文件夹旁边运行它。它会制作种子、将文件与 Hugging Face 比对，然后提交。你只需开始做种，并粘贴你账户中的密钥。它只读取你的文件，绝不修改。如果愿意，可以先阅读脚本。

curl -fsSL https://pirateface.co/package.sh | bash -s -- --repo impactframes/molmo-7B-O-bnb-4bit ./model-folder

Molmo-7B-O BnB 4bit quant

30GB -> 7GB

approx. 12GB VRAM required

base model for more information:

example code:

performance metrics & benchmarks to compare with base will follow over the next week