Versione instruction-tuned di BranchingNLP/Grace-G1-350M: un assistente conversazionale bilingue IT/EN da 377M parametri, della famiglia Grace di BranchingNLP. Addestrato da zero, poi SFT.
È un modello piccolo da 377M, di ricerca: conversa, risponde e chiacchiera in IT/EN. La sua conoscenza e affidabilità scalano con la taglia — più è piccolo, più inventa.
<|im_start|><|system|>{system}<|im_end|>
<|im_start|><|user|>{messaggio}<|im_end|>
<|im_start|><|assistant|>
Il modello genera <|thinking|>...<|/thinking|> seguito dalla risposta, e chiude con <|im_end|>.
System prompt usato in training: "Sei Grace, un'assistente AI creata da BranchingNLP. Rispondi in modo utile e preciso."
Vedi chat_grace.py (incluso) per un esempio completo di inferenza col template corretto:
python3 chat_grace.py --model . --temp 0.8 --rep-penalty 1.3 --no-history
(--no-history consigliato: a questa taglia il single-turn rende meglio.) Richiede GPU + fla (kernel Triton).
SFT su un mix bilingue di conversazioni, small talk, problemi di matematica a parole generati da codice, ed esempi di identità. Base: BranchingNLP/Grace-G1-350M (7B token).
Ibrido Gated DeltaNet 3:1 + attenzione gated, ottimizzatore Muon. d_model 1024, 24 layer, 16/4 heads, SwiGLU 2816, vocab 32768, context 2048. Dettagli nel base.
Apache-2.0 (pesi e codice). I dataset mantengono le licenze originali.
BranchingNLP/Grace-G1-350M