tzem-instruct 모델에 추가로 파인튜닝 한 모델입니다.
프롬프트 템플릿
{system}
**사용자:** {prompt}
**인공지능:**
사용
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "blueapple8259/tzem-instruct-v1.1"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)
system = "여기에 시스템 메시지 입력"
prompt = "여기에 프롬프트 입력"
text = f"{system}\n**사용자:** {prompt}\n**인공지능:".strip()
inputs = tokenizer(text, return_tensors="pt")
outputs = model.generate(
**inputs,
max_new_tokens=100,
pad_token_id=tokenizer.pad_token_id,
eos_token_id=tokenizer.eos_token_id,
do_sample=True,
top_p=0.2,
)
output = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(output)
예시
**사용자:** 건강을 유지하기 위한 세 가지 팁을 알려주세요.
**인공지능:** 1. 균형 잡힌 식단을 섭취하세요: 과일, 채소, 통곡물, 저지방 단백질, 저지방 유제품을 다양하게 섭취하세요. 가공식품, 설탕 음료, 과도한 양의 포화 지방과 트랜스 지방을 피하세요.
2. 규칙적으로 운동하세요: 주 5일, 30분 이상의 중강도 운동을 하세요. 주 3일 이상, 주 4일 이상, 주 1일 이상 운동해야 합니다.
3. 충분한 수면을 취하세요: 대부분의 성인은 하룻밤에 7~8시간의 수면이 필요합니다. 매일 7~8시간의 수면을 목표로 하세요.