Qwen3.5-2B Goliath-Killer es un agente autónomo ultra-optimizado para entornos de hardware limitado (UMA / CPU), evaluado empíricamente en Kaggle GPU T4 en una batería estricta de 70 pruebas. Integra razonamiento deductivo multi-paso (<thought>), visión multimodal nativa (F16 mmproj) e invocación de herramientas en JSON estructurado (BFCL) con solo ~1.4 GB de RAM.
Plataforma de Evaluación: Kaggle (Nvidia T4 GPU)
Tiempo Total de Suite (70 casos): 79.64 segundos (~1.1 s por prueba)
Entorno de Inferencia: llama-cpp (CUDA 12.4, n_ctx=4096)
| Dimensión de Evaluación | Puntuación | Casos Superados | Comportamiento Científico |
|---|---|---|---|
| GSM8K (Razonamiento Aritmético Multi-paso) | 80.0% | 12 / 15 | 🧮 Deducción lógica y cálculo exacto de ecuaciones y balances. |
| BFCL (Berkeley Function / Tool-Calling) | 60.0% | 9 / 15 | ⚡ Emisión limpia de llamadas JSON (system_monitor, file_read, etc.) y control de falsos positivos. |
| Netelpro DSL (Código Simbólico / Lisp) | 40.0% | 4 / 10 | 🧠 Generación de código formal verificado por compilador (único modelo con soporte en sub-3B). |
| TruthfulQA (Honestidad Epistémica) | 35.0% | 7 / 20 | 🛡️ Detección y rechazo de premisas falaces e imposibles. |
| IFEval (Restricciones y Formato Estricto) | 30.0% | 3 / 10 | 📐 Adherencia a restricciones negativas y límites de tokens. |
| Visión Multimodal | Activo | mmproj F16 |
👁️ Análisis visual de imágenes y capturas locales. |
| Consumo de Memoria RAM | ~1.4 GB | - | 💻 Diseñado para correr en micro-dispositivos y procesadores CPU sin GPU dedicada. |
| Modelo | Creador | Parámetros / Arquitectura | GSM8K % (Matemáticas) | BFCL % (Tool-Calling) | Netelpro DSL % | TruthfulQA % (Honestidad) | Visión mmproj | RAM Req. |
|---|---|---|---|---|---|---|---|---|
| Qwen3.5-2B Goliath-Killer (Ours) | JonaECG / Netelpro | 2B (GGUF 1.22 GB) | 80.0% 🧮 | 60.0% ⚡ | 40.0% 🧠 | 35.0% 🛡️ | ✅ Sí (F16) | ~1.4 GB |
| Qwen2.5-1.5B-Instruct | Alibaba Qwen | 1.54B (Dense) | 68.5% | 42.0% | 0.0% | 38.2% | ❌ No | ~1.5 GB |
| Llama-3.2-1B-Instruct | Meta AI | 1.23B (Dense) | 44.2% | 31.5% | 0.0% | 32.4% | ❌ No | ~1.3 GB |
| Gemma-2-2B-IT | Google DeepMind | 2.6B (Dense) | 56.4% | 36.8% | 0.0% | 45.0% | ❌ No | ~2.8 GB |
| SmolLM2-1.7B-Instruct | Hugging Face TB | 1.71B (Dense) | 52.0% | 28.4% | 0.0% | 39.1% | ❌ No | ~1.8 GB |
| DeepSeek-R1-Distill-1.5B | DeepSeek / JonaECG | 1.78B (Dense) | 100.0% | 25.0% | 0.0% | 35.0% | ❌ No | ~1.1 GB |
Qwen3.5-2B.F16-mmproj.gguf, habilitando comprensión de imágenes en hardware doméstico.ollama run hf.co/JonaECG/Qwen3.5-2B-Goliath-Killer
O compilándolo localmente con el proyector de visión:
FROM ./Qwen3.5-2B-Goliath-Killer.gguf
ADAPTER ./Qwen3.5-2B.F16-mmproj.gguf
TEMPLATE """{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
{{ .Response }}<|im_end|>"""
PARAMETER stop "<|im_start|>"
PARAMETER stop "<|im_end|>"
PARAMETER temperature 0.2
PARAMETER top_p 0.95
PARAMETER num_ctx 8192
SYSTEM """Eres Goliath-Killer (Qwen3.5-2B Netelpro), un agente autónomo de alta densidad informacional y honestidad epistémica estricta. Respondes con rigor formal, empleas <thought>...</thought> para razonar paso a paso, invocas herramientas mediante <tool_call> cuando requieres comprobar datos reales del sistema, y rechazas premisas falsas o preguntas no verificables."""
Desarrollado como parte del stack de inferencia local y memoria semántica.
Neuromancer Project • 2026