yuchenj/gpt2_7.3B_100B_FinewebEdu_hf

来源：🤗text-generationmit7.3B 参数15 GBsafetensors✓ 3 个校验和805 天前更新

This is a GPT-2 (7.3B) model trained in llm.c for 100B tokens with cosine LR on Fineweb-Edu.

A lot more detailed info and observations are here: https://x.com/Yuchenj_UW/status/1817223820589375752

评论分享想法，塑造主权 AI 的未来。

@yuchenj 尚未认领使用同名 Hugging Face 账户或组织成员账户登录，以验证此用户名。认领 @yuchenj

文件与来源

✓来源可在 Hugging Face 获取

2校验和3 个待记录

3种子未收录

4节点群未检查

公开校验和记录将在下次同步时生成

为此模型做种

有文件？提交种子。

或

>_用一条命令打包文件

已有完整文件并有权分享？请替换示例文件夹路径。脚本会校验文件、制作种子并提交磁力链接和校验和。请保持种子客户端做种。从设置页面获取社区密钥，运行前可先阅读脚本。

curl -fsSL https://pirateface.co/package.sh | bash -s -- --repo yuchenj/gpt2_7.3B_100B_FinewebEdu_hf ./model-folder