NanoMythos-1K
O NanoMythos-1K é o primeiro (e menor) modelo da série NanoMythos.
Ele usa arquitetura Transformer com um tokenizer char-level.
Como Usar
Use o script generate.py para rodar o NanoMythos-1K.
Benchmarks
ARC-Easy: 25.51% BLiMP: 50.17%
Créditos
O Dataset usado foi o Fineweb-Edu, da HUGGINGFACE.