Adaptador LoRA do Qwen2.5-1.5B-Instruct (aluno), destilado do Qwen2.5-7B-Instruct (professor) para responder perguntas sobre produção científica brasileira em segurança pública, justiça e cidadania a partir de trechos recuperados, citando o trecho usado e recusando quando a resposta não está neles.
É o D1 controlado da questão 4 (destilação de conhecimento) do Trabalho Final de Tópicos em Inteligência Artificial (PLN), UFPI, 2026.2: a destilação em caixa preta retreinada no mesmo servidor, com o mesmo código, semente, pares e configuração do D2, de modo que os dois diferem só no termo KL. O D1 original é o adaptador S2 das questões 2 e 3, treinado no Colab.
Destilação em caixa preta: o aluno aprende só o texto gerado pelo professor, com entropia cruzada nos tokens da resposta (sem a distribuição do professor).
2.705 pares instruction / input / output gerados pelo professor a partir do corpus
segjusticidadania-curated
(arquivo sft/sft_pares_local.jsonl em
segjusticidadania-experimentos):
1.844 perguntas ancoradas com cinco trechos e resposta terminada em [k], 600 recusas e 261
resumos. Validação: 10% dos documentos, separados por documento (283 pares). Nenhum documento
de origem de item de benchmark entra nos pares.
Benchmark de 100 itens (itens/bench_q4.jsonl no mesmo repositório de dados): 52 perguntas com
cinco trechos fixos e 48 itens de múltipla escolha sobre leis, súmulas e artigos, sem contexto.
| Modelo | Com contexto (52) | Cita o trecho certo | Recusas | Sem contexto (48) | Total (100) |
|---|---|---|---|---|---|
| Professor, Qwen2.5-7B-Instruct (nf4) | 40 | 20 | 4 | 38 | 78 |
| Aluno antes, Qwen2.5-1.5B-Instruct | 35 | 4 | 1 | 32 | 67 |
| D1, caixa preta | 25 | 35 | 9 | 32 | 57 |
| D2, caixa branca | 31 | 39 | 8 | 32 | 63 |
| D1 controlado, caixa preta (este modelo) | 23 | 33 | 13 | 32 | 55 |
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
base = "Qwen/Qwen2.5-1.5B-Instruct"
tok = AutoTokenizer.from_pretrained(base)
mod = AutoModelForCausalLM.from_pretrained(base, dtype="auto", device_map="auto")
mod = PeftModel.from_pretrained(mod, "gutoportelaa/qwen2.5-1.5b-segjusticidadania-destilado-d1-local")
sistema = ("Você responde perguntas sobre produção científica brasileira em segurança pública, "
"justiça e cidadania. Responda em português, de forma direta.")
instrucao = ("Responda à pergunta usando somente os trechos fornecidos. Cite entre colchetes o número "
"do trecho usado. Se a resposta não estiver nos trechos, responda exatamente "
"\"Não encontrado nos documentos.\"")
trechos = "[1] ...\n\n[2] ..."
msgs = [{"role": "system", "content": sistema},
{"role": "user", "content": f"{instrucao}\n\n{trechos}\n\nPergunta: ..."}]
enc = tok.apply_chat_template(msgs, add_generation_prompt=True, return_tensors="pt").to(mod.device)
out = mod.generate(enc, max_new_tokens=160, do_sample=False)
print(tok.decode(out[0][enc.shape[1]:], skip_special_tokens=True))
treino.json traz a configuração e o histórico de perdas do treino.
Qwen/Qwen2.5-1.5B-Instruct