finetuning-lora
unsloth/gemma-3-4b-it를 LoRA로 파인튜닝한 어댑터입니다. 한국어 캐릭터(말투/톤) 롤플레이 대화 데이터로 SFT를 진행해, 지정한 캐릭터의 말투로 답하도록 만들었습니다.
학습 설정
| 항목 | 값 |
|---|---|
| Base model | unsloth/gemma-3-4b-it (4bit 양자화 로드) |
| 방식 | LoRA (r=8, alpha=8), 언어 모델 레이어만 학습 |
| 프레임워크 | Unsloth + TRL (SFT) |
| 데이터 | huggingface-KREW/korean-role-playing의 exa-data (Apache 2.0, 한국어). 512토큰 이하 888개를 train 710 / valid 89 / test 89로 분할 |
사용 방법
from unsloth import FastModel
model, processor = FastModel.from_pretrained(
model_name="esomnmms/finetuning-lora",
load_in_4bit=True,
)
라이선스
Base model인 Gemma 3의 Gemma Terms of Use를 따릅니다.
코드
학습 노트북과 데이터 처리 코드: https://github.com/mnmms/sojeong-finetuning