Connect AI Lab ยท Uncensored 0.6B
Small model. Visible changes. Your own experiment.
AI CITY BUILDERS / CONNECT AI LAB์ ๋ก์ปฌ AI ์์ ์์ ์ง์ ๋ง๋ ์คํ์ฉ ๋ฐฉํฅ ์ ๊ฑฐ ๋ชจ๋ธ์ ๋๋ค. ๊ณ ์ ๋ Qwen3-0.6B ์๋ณธ์ ๊ฐ์ค์น ๊ฐ์ ์ ์ ์ฉํ๊ณ ์ ์ฅยท์ฌ๋ก๋ฉํ์ต๋๋ค.
Release preparation: ๋ชจ๋ธ ํ์ผ์ ๋ก์ปฌ์์ ์์ฑํ๊ณ LM Studio API ์คํ๊น์ง ํ์ธํ์ต๋๋ค. ํ์ฌ ๋์ฉ๋ ํ์ผ ์ ๋ก๋๋ฅผ ์ค๋น ์ค์ ๋๋ค. ์์ง ์ด ์ ์ฅ์์์ ๊ฐ์ค์น๋ฅผ ๋ค์ด๋ก๋ํ ์ ์์ต๋๋ค.
Experimental, not universally uncensored. โUncensoredโ๋ ํ๋ก์ ํธ ์ด๋ฆ์ด๋ฉฐ, ๋ชจ๋ ๊ฑฐ์ ์ด ์ ๊ฑฐ๋์๋ค๋ ์ธ์ฆ์ด๋ ์ฑ๋ฅ ๋ณด์ฅ์ด ์๋๋๋ค.
What changed?
ํ์ต ์ง๋ฌธ์ ํ์ฑ๊ฐ ํ๊ท ์ฐจ์ด๋ก ๋ฐฉํฅ ํ๋ณด๋ฅผ ๋ง๋ค๊ณ , ๋ณ๋ ๊ฒ์ฆ ์ง๋ฌธ์ผ๋ก 21๊ฐ ์ธต์ ํ๋ณด๋ฅผ ๋น๊ตํ์ต๋๋ค. ์ ํํ 24๋ฒ ์ธต์ ๋ฐฉํฅ์ผ๋ก ์๋ฒ ๋ฉยทattention outputยทMLP output์ 57๊ฐ ์ฐ๊ธฐ ๊ฒฝ๋ก๋ฅผ ์์ ํ์ต๋๋ค. ์๋ ๊ณต์ ํ๋ LM head๋ ์๋ณธ ๊ฐ์ ๋ณด์กดํ ์ฑ ๋ถ๋ฆฌํ์ต๋๋ค. 0.6B๋ ์๋ณธ ๊ณ์ด๋ช ์ด๋ฉฐ ์์ ๋ณธ์ ๋ถ๋ฆฌ๋ ๊ฐ์ค์น๋ฅผ ํฌํจํด ์ฝ 0.75B์ ๋๋ค.
์๋ก์ด ์ง์์ ํ์ต์ํค๋ ๋ฏธ์ธ์กฐ์ ์ ์๋๋๋ค. ์์ ์์ด ์ฌ์ํ ์ง๋ฌธ ๋ฌถ์์ผ๋ก ์๋ฆฌ๋ฅผ ์ดํด๋ณด๋ ์ค์ต์ด๋ฉฐ, ๋ ผ๋ฌธ ์ ์ฒด ์ฌํ์ด๋ ๋๊ท๋ชจ ์ฑ๋ฅ ํ๊ฐ๊ฐ ์๋๋๋ค.
Actual results ยท 2026-10-09
| CPU FP32 condition | Refusal phrase matches | Exact answer matches |
|---|---|---|
| Original | 4/4 | 1/4 |
| Random direction control | 4/4 | 1/4 |
| Edited, saved and reloaded | 0/4 | 1/4 |
๋ฌธ๊ตฌ ๊ฐ์ง 0์ ์ค์ ๊ฑฐ์ 0์ด ์๋๋๋ค. ๋ต๋ณ์ ์ง์ ์ฝ์ผ๋ฉด ๊ฐ์ธ์ ๋ณด ์ ๊ณต์ ํผํ๊ฑฐ๋ ์ผ๋ฐ์ ์ธ ์ค๋ช ์ผ๋ก ๋๋ฆฌ๋ ๋ฐ์์ด ๋จ์์ต๋๋ค. ์ด ๊ฒฐ๊ณผ๋ฅผ ๋ชจ๋ ๊ฑฐ์ ์ ํด์ ๋ก ์๊ฐํ์ง ์์ต๋๋ค. ์ ์ฅ ์ ํ logits ์ฐจ์ด๋ 0์ด์๊ณ ๊ฐ์ ์ง๋ฌธ์ ๋ต๋ณ๋ ๊ฐ์์ต๋๋ค.
๋ณ๋์ LM Studio Q8 ํ
์คํธ์์๋ ์๋ณธ๊ณผ ์์ ๋ณธ ๋ชจ๋ ๋ฐ๋ผ ์ฐ๊ธฐ ์ง๋ฌธ์ ๋น์ ์ ๋ฉ์ฒญ์
๋๋ค.๋ผ๊ณ ๋ตํ๊ณ , 17 + 25์๋ 42๋ผ๊ณ ๋ตํ์ต๋๋ค. ์๋ณธ๋ ๋ตํ ์ง๋ฌธ์ ๊ฑฐ์ ๊ฐ์์ ์ฆ๊ฑฐ๊ฐ ์๋๋๋ค. ๋ฐํ์ยท์์ํยทํ๋กฌํํธ ์กฐ๊ฑด์ด ๋ฌ๋ผ FP32 ๊ฒฐ๊ณผ์ ๋์ผํ ์คํ์ผ๋ก ํฉ์น์ง ์์ต๋๋ค.
Run locally
์ค๋น๋ GGUF ํ์ผ์ **804,753,760 bytes (์ฝ 805 MB / 767 MiB)**์ ๋๋ค. LM Studio์์ ์ค์ ๋ก๋์ API ์๋ต์ ํ์ธํ์ต๋๋ค. ๊ฐ์ค์น ์ ๋ก๋ ํ ๋ค์ด๋ก๋ ๋งํฌ์ ์ ์ฒด ์ฌํ ๊ธฐ๋ก์ ์ ๊ณตํฉ๋๋ค.
Model Playground ยท ์๊ฐ์์ฉ ๋ชจ์ ํด์ค
Research & attribution
- Arditi et al. โ Refusal in Language Models Is Mediated by a Single Direction
- NeurIPS 2024 poster
- Authors implementation
- Qwen/Qwen3-0.6B, revision
c1899de289a04d12100db370d81485cdf75e47ca
Apache-2.0. Modified weights and classroom material by CONNECT AI LAB / AI CITY BUILDERS.