Hafez Poet — شعر فارسی با الهام از حافظ
Qwen 0.5B · Hafez LoRA · CPU-trained · Standalone GGUF
مدلی آزمایشی برای تولید شعر فارسی با درخواست طبیعی و چندخطی، بر پایهٔ Qwen2.5-0.5B-Instruct. هدف، سازگار کردن یک مدل کوچک با اشعار حافظ و درخواست‌های شامل موضوع و واژه‌های الزامی است.
خروجی انتشار یک فایل مستقل GGUF F16 است. آداپتر LoRA در وزن‌های مدل ادغام می‌شود؛ هنگام اجرا نیازی به مدل پایه یا آداپتر جداگانه نیست.
فایل‌ها
| فایل | توضیح |
|---|---|
output/hafez-f16.gguf |
مدل مستقل برای llama.cpp، ۹۹۴٬۱۵۶٬۵۴۴ بایت؛ حدود ۹۴۸٫۱ MiB |
output/metrics.json |
نتایج ثبت‌شدهٔ آموزش، اعتبارسنجی و تست |
LICENSE |
مجوز Apache 2.0 مدل پایه |
آموزش اجرا و فایل GGUF با موفقیت صادر شده است. اعداد این مدل‌کارت از لاگ همین اجرا و گزارش ارزیابی استخراج شده‌اند.
اجرا
پس از دانلود GGUF، با نسخهٔ جدید llama.cpp:
REQUEST=$(cat <<'PROMPT'
دربارهٔ انتظار و بازگشت یک شعر عاشقانه بنویس.
حال‌وهوا: آرام و امیدوار
واژه‌های الزامی: باران، پنجره، بازگشت
طول پیشنهادی: چهار بیت
فقط متن شعر را بنویس.
PROMPT
)
llama-cli \
-m output/hafez-f16.gguf \
-t 8 -c 2048 -n 256 \
--single-turn \
-sys 'تو شاعر فارسی‌زبان هستی. موضوع، حال‌وهوا، سبک، طول و واژه‌های الزامی درخواست را رعایت کن. فقط شعر را بنویس.' \
-p "$REQUEST"
قالب چت در GGUF ذخیره شده است. درخواست می‌تواند موضوع، حال‌وهوا، قالب، طول و واژه‌های دلخواه را مشخص کند؛ رعایت همهٔ این موارد تضمین نمی‌شود.
داده و آموزش
منبع محلی شامل ۶۳۱ شعر یکتای منتسب به حافظ است که از یک CSV چندشاعری استخراج شده‌اند. مشخصات و نشانی منبع اولیه در پروژه ثبت نشده و انتساب همهٔ اشعار مستقلاً تأیید نشده است. دیتاست همراه وزن‌ها منتشر نمی‌شود.
| تنظیم این اجرا | مقدار |
|---|---|
| دادهٔ انتخابی | ۵۰۰ شعر؛ seed=42 |
| تفکیک | ۴۰۰ آموزش، ۵۰ اعتبارسنجی، ۵۰ تست |
| روش | LoRA روی لایه‌های خطی؛ rank=8، alpha=16، dropout=0.05 |
| دستورها | موضوع تخمینی و واژه‌های استخراج‌شده از پاسخ مرجع |
| طول نمونه | حداکثر ۵۱۲ توکن؛ تقسیم متن‌های بلند |
| محاسبهٔ loss | فقط پاسخ دستیار؛ ماسک دستور و padding |
| نرخ یادگیری | 1e-4؛ ۱۰ گام warmup |
| batch مؤثر | ۴؛ batch=1 و accumulation=4 |
| توقف | سقف زمانی ۴۵ دقیقه؛ پایان در گام ۱۹۳ از حداکثر ۶۰۰ گام |
| پیشرفت واقعی | حدود ۱٫۰۴ دور روی دادهٔ آموزش |
| زمان آموزش | ۲۷۰۷٫۳۱ ثانیه؛ ۴۵ دقیقه و ۷ ثانیه |
| آموزش و ارزیابی، پیش از تبدیل | ۴۸٫۵۷ دقیقه؛ بدون آماده‌سازی اولیه و تبدیل |
| سخت‌افزار هدف | Intel Core i7-11700K، CPU، هشت ترد |
تفکیک در سطح شعر و قبل از ساخت قطعه‌ها انجام شد تا قطعه‌های یک شعر میان بخش‌ها پخش نشوند. پس از آماده‌سازی، ۷۴۳ نمونهٔ آموزش، ۹۱ نمونهٔ اعتبارسنجی و ۹۹ نمونهٔ تست ساخته شد. موضوع‌ها با قواعد واژگانی تخمین زده شدند. سقف زمان پس از پایان هر گام بررسی می‌شود؛ به همین دلیل آموزش اندکی از ۴۵ دقیقه عبور کرد.
میانگین loss ثبت‌شده در طول آموزش ۳٫۱۲۰۸ بود. میانگین loss در بازه‌های ده‌گامی از ۳٫۶۱۷۲ در اولین بازه به ۲٫۹۳۲۰ در بازهٔ منتهی به گام ۱۹۰ رسید. این کاهش در دادهٔ آموزش به‌تنهایی نشان‌دهندهٔ بهبود کیفیت شعر یا برتری نسبت به مدل پایه نیست.
ارزیابی
نتایج زیر پس از آموزش، روی متن پاسخ مرجع و با ماسک کردن دستور و padding محاسبه شدند:
| بخش | نمونه‌های ارزیابی‌شده | Loss ↓ | Perplexity ↓ | دقت توکنی ↑ |
|---|---|---|---|---|
| آموزش، زیرمجموعه | ۵۰ از ۷۴۳ | ۲٫۸۲۷۰ | ۱۶٫۸۹ | ۳۵٫۵۹٪ |
| اعتبارسنجی، کامل | ۹۱ | ۲٫۹۲۹۶ | ۱۸٫۷۲ | ۳۳٫۸۵٪ |
| تست، کامل | ۹۹ | ۲٫۹۵۸۷ | ۱۹٫۲۷ | ۳۲٫۹۴٪ |
تفسیر: دقت توکنی تست یعنی مدل در حدود ۳۲٫۹۴٪ موقعیت‌های پاسخ، توکن بعدی شعر مرجع را با انتخاب اول خود درست پیش‌بینی کرده است. این عدد «درصد کیفیت شعر» نیست. در تولید خلاق، چندین پاسخ متفاوت می‌توانند مناسب باشند.
- loss کمتر و perplexity کمتر نشان‌دهندهٔ پیش‌بینی بهتر متن مرجع هستند.
- ارزیابی آموزش تنها روی ۵۰ نمونهٔ نخست بخش آماده‌شده انجام شده است.
- معیارها مربوط به مدل LoRA پیش از تبدیل به F16/GGUF هستند؛ ارزیابی جداگانهٔ فایل GGUF انجام نشده است.
- مقایسهٔ عددی با مدل پایه و ارزیابی انسانیِ وزن، قافیه، رعایت موضوع و واژه‌های الزامی انجام نشده‌اند.
- هیچ نمونهٔ خروجی در این صفحه به‌عنوان شعر تأییدشده یا معیار عملکرد معرفی نمی‌شود.
محدودیت‌ها
- مدل کوچک و دادهٔ محدود ممکن است شعر ناموزون، تکراری یا نامنسجم تولید کنند.
- رعایت تعداد بیت، سبک، قافیه و تمام واژه‌های الزامی تضمین نمی‌شود.
- موضوع‌ها تقریبی و تنوع دستورهای آموزشی محدود است.
- امکان بازتولید بخش‌هایی از اشعار آموزشی وجود دارد؛ خروجی را پیش از انتشار بازبینی کنید.
- خروجی تولیدشده با هوش مصنوعی را نباید به حافظ نسبت داد.
مجوز و اعتبار
مدل پایه توسط Qwen Team تحت Apache 2.0 منتشر شده است. این پروژه وابستگی رسمی به Qwen Team ندارد. شرایط استفاده و انتشار در فایل LICENSE و مستندات مدل پایه آمده است.