Loading…
Loading…
Qwen/Qwen2.5-0.5B-InstructQwen 0.5B · Hafez LoRA · CPU-trained · Standalone GGUF
مدلی آزمایشی برای تولید شعر فارسی با درخواست طبیعی و چندخطی، بر پایهٔ Qwen2.5-0.5B-Instruct. هدف، سازگار کردن یک مدل کوچک با اشعار حافظ و درخواستهای شامل موضوع و واژههای الزامی است.
خروجی انتشار یک فایل مستقل GGUF F16 است. آداپتر LoRA در وزنهای مدل ادغام میشود؛ هنگام اجرا نیازی به مدل پایه یا آداپتر جداگانه نیست.
| فایل | توضیح |
|---|---|
output/hafez-f16.gguf |
مدل مستقل برای llama.cpp، ۹۹۴٬۱۵۶٬۵۴۴ بایت؛ حدود ۹۴۸٫۱ MiB |
output/metrics.json |
نتایج ثبتشدهٔ آموزش، اعتبارسنجی و تست |
LICENSE |
مجوز Apache 2.0 مدل پایه |
آموزش اجرا و فایل GGUF با موفقیت صادر شده است. اعداد این مدلکارت از لاگ همین اجرا و گزارش ارزیابی استخراج شدهاند.
پس از دانلود GGUF، با نسخهٔ جدید llama.cpp:
REQUEST=$(cat <<'PROMPT'
دربارهٔ انتظار و بازگشت یک شعر عاشقانه بنویس.
حالوهوا: آرام و امیدوار
واژههای الزامی: باران، پنجره، بازگشت
طول پیشنهادی: چهار بیت
فقط متن شعر را بنویس.
PROMPT
)
llama-cli \
-m output/hafez-f16.gguf \
-t 8 -c 2048 -n 256 \
--single-turn \
-sys 'تو شاعر فارسیزبان هستی. موضوع، حالوهوا، سبک، طول و واژههای الزامی درخواست را رعایت کن. فقط شعر را بنویس.' \
-p "$REQUEST"
قالب چت در GGUF ذخیره شده است. درخواست میتواند موضوع، حالوهوا، قالب، طول و واژههای دلخواه را مشخص کند؛ رعایت همهٔ این موارد تضمین نمیشود.
منبع محلی شامل ۶۳۱ شعر یکتای منتسب به حافظ است که از یک CSV چندشاعری استخراج شدهاند. مشخصات و نشانی منبع اولیه در پروژه ثبت نشده و انتساب همهٔ اشعار مستقلاً تأیید نشده است. دیتاست همراه وزنها منتشر نمیشود.
| تنظیم این اجرا | مقدار |
|---|---|
| دادهٔ انتخابی | ۵۰۰ شعر؛ seed=42 |
| تفکیک | ۴۰۰ آموزش، ۵۰ اعتبارسنجی، ۵۰ تست |
| روش | LoRA روی لایههای خطی؛ rank=8، alpha=16، dropout=0.05 |
| دستورها | موضوع تخمینی و واژههای استخراجشده از پاسخ مرجع |
| طول نمونه | حداکثر ۵۱۲ توکن؛ تقسیم متنهای بلند |
| محاسبهٔ loss | فقط پاسخ دستیار؛ ماسک دستور و padding |
| نرخ یادگیری | 1e-4؛ ۱۰ گام warmup |
| batch مؤثر | ۴؛ batch=1 و accumulation=4 |
| توقف | سقف زمانی ۴۵ دقیقه؛ پایان در گام ۱۹۳ از حداکثر ۶۰۰ گام |
| پیشرفت واقعی | حدود ۱٫۰۴ دور روی دادهٔ آموزش |
| زمان آموزش | ۲۷۰۷٫۳۱ ثانیه؛ ۴۵ دقیقه و ۷ ثانیه |
| آموزش و ارزیابی، پیش از تبدیل | ۴۸٫۵۷ دقیقه؛ بدون آمادهسازی اولیه و تبدیل |
| سختافزار هدف | Intel Core i7-11700K، CPU، هشت ترد |
تفکیک در سطح شعر و قبل از ساخت قطعهها انجام شد تا قطعههای یک شعر میان بخشها پخش نشوند. پس از آمادهسازی، ۷۴۳ نمونهٔ آموزش، ۹۱ نمونهٔ اعتبارسنجی و ۹۹ نمونهٔ تست ساخته شد. موضوعها با قواعد واژگانی تخمین زده شدند. سقف زمان پس از پایان هر گام بررسی میشود؛ به همین دلیل آموزش اندکی از ۴۵ دقیقه عبور کرد.
میانگین loss ثبتشده در طول آموزش ۳٫۱۲۰۸ بود. میانگین loss در بازههای دهگامی از ۳٫۶۱۷۲ در اولین بازه به ۲٫۹۳۲۰ در بازهٔ منتهی به گام ۱۹۰ رسید. این کاهش در دادهٔ آموزش بهتنهایی نشاندهندهٔ بهبود کیفیت شعر یا برتری نسبت به مدل پایه نیست.
نتایج زیر پس از آموزش، روی متن پاسخ مرجع و با ماسک کردن دستور و padding محاسبه شدند:
| بخش | نمونههای ارزیابیشده | Loss ↓ | Perplexity ↓ | دقت توکنی ↑ |
|---|---|---|---|---|
| آموزش، زیرمجموعه | ۵۰ از ۷۴۳ | ۲٫۸۲۷۰ | ۱۶٫۸۹ | ۳۵٫۵۹٪ |
| اعتبارسنجی، کامل | ۹۱ | ۲٫۹۲۹۶ | ۱۸٫۷۲ | ۳۳٫۸۵٪ |
| تست، کامل | ۹۹ | ۲٫۹۵۸۷ | ۱۹٫۲۷ | ۳۲٫۹۴٪ |
تفسیر: دقت توکنی تست یعنی مدل در حدود ۳۲٫۹۴٪ موقعیتهای پاسخ، توکن بعدی شعر مرجع را با انتخاب اول خود درست پیشبینی کرده است. این عدد «درصد کیفیت شعر» نیست. در تولید خلاق، چندین پاسخ متفاوت میتوانند مناسب باشند.
مدل پایه توسط Qwen Team تحت Apache 2.0 منتشر شده است. این پروژه وابستگی رسمی به Qwen Team ندارد. شرایط استفاده و انتشار در فایل LICENSE و مستندات مدل پایه آمده است.