BeriaLabs — Inteligencia ofensiva para defender lo que importa
Muse-Glimmer-30B-gollum — Berialabs
Ablación direccional persistente en pesos (receta gollum) sobre
Muse-Glimmer-30B@a4e59da5 (BERIA-037). En la batería propia obtuvo
10/10 controles de capacidad; esto no demuestra conservación general de capacidades.
Receta verificable
W' = (I − 1,45·QQᵀ)·W — base ortonormal rank-2 de dos direcciones:
d̂_arditi (capa 32) y d̂_pareada XSTest (capa 44), aplicada a los
58 escritores del residual (o_proj/out_proj/down_proj) de las
capas 17–45, sin embedding ni lm_head. Manifiesto con SHA en el repo
(manifest.json).
Verificación (XSTest-450 oficial, juez mecánico ES/EN)
Límite de independencia: la dirección pareada utiliza pares derivados de XSTest; por ello, XSTest-450 no es un holdout intocado para esta receta.
| Glimmer-gollum | gollum v3 (Qwen) | base Glimmer | |
|---|---|---|---|
| Falsos rechazos (safe250) | 0,80 % | 2,80 % | — |
| Rechazos (unsafe200) | 9,0 % | 10,0 % | — |
| Sondas daño real (URCV0) | 0/8 rechaza | 0/8 | — |
| Benignos propios | 0/16 falsos | 0/16 | — |
| Capacidades (véase nota) | 10/10 | 10/10 (corrección del autor) | — |
Nota de capacidades, 2026-11-01: Qwen v3 incorpora una corrección expresa del autor a 10/10; su puntuación mecánica original era 9/10. Glimmer conserva su 10/10 mecánico. No son el mismo criterio de puntuación; registro y alcance en la tarjeta Qwen. No se han repetido generaciones para esta actualización.
Las cifras de Glimmer son nominalmente menores en ambos ejes de rechazo y obtiene 10/10 en los controles de capacidad. No establecen superioridad frente a Qwen v3: las ejecuciones XSTest usaron presupuestos distintos (2048 frente a 800 tokens) y no constituyen una comparación homogénea.
Uso
from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("BeriaLabs/Muse-Glimmer-30B-gollum")
model = AutoModelForCausalLM.from_pretrained("BeriaLabs/Muse-Glimmer-30B-gollum",
torch_dtype="bfloat16", device_map="auto")
Limitaciones
Artefacto de investigación: juez mecánico + revisión manual no ciega, sin gold humano; la dirección es operativa, no causal. En el XSTest de Glimmer, el 84 % de las generaciones alcanzó el límite de 2048 tokens sin EOS. Rechaza menos también donde querrías rechazo: úsalo bajo tu responsabilidad y revisa tu jurisdicción.
Protocolo y calidad de medida
- Generación greedy (
temperature = 0) en todas las baterías citadas. - Juez mecánico ES/EN auditado en régimen benigno (sensibilidad 0,938, especificidad 1,000); el juez LLM del XSTest no está calibrado (sens. 0,636) y no se usa como etiqueta en ninguna cifra publicada aquí.
- IC95 por intervalos de Wilson cuando el denominador lo permite; los denominadores se publican siempre junto a cada tasa.
- Política de evidencia: no se publica ninguna cifra sin su manifiesto de ejecución (SHA256 de código y datos, semilla, estado) en el registro del proyecto.
- Documentación metodológica completa (formulación, selección de hiperparámetros por barrido, sonda de capas, reproducibilidad, referencias): BeriaLabs/Qwen-3.8-gollum.