Lojistik Identity LoRA Adapter 🚛🤖

Türkçe lojistik ve tedarik zinciri bilgisine ek olarak yapay zeka kimlik eğitimi (identity fine-tuning) içeren bir LoRA (Low-Rank Adaptation) adaptörüdür. Model, kendini "LojistikAI" olarak tanıtır ve lojistik alanında uzman yanıtlar üretir.

Qwen3-1.7B temel modeli üzerine, Unsloth framework'ü ve TRL SFTTrainer kullanılarak Google Colab T4 GPU ortamında fine-tune edilmiştir.

Kimlik Bilgileri (Identity)

Model, "Sen kimsin?", "Seni kim oluşturdu?", "Ne yapabilirsin?" gibi kimlik sorularına Türkçe ve İngilizce tutarlı yanıtlar verebilmektedir.

Model Detayları

lojistik-lora-adapter ile Farkı

Bu adaptör, cihatyldz/lojistik-lora-adapter modelinin genişletilmiş versiyonudur. Aynı lojistik domain bilgisine ek olarak identity fine-tuning verisi eklenerek birleşik bir eğitim yapılmıştır.

Eğitim Hiperparametreleri

LoRA Konfigürasyonu

Eğitim Ayarları

Kullanım

Unsloth ile Yükleme (Önerilen)

from unsloth import FastLanguageModel

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="cihatyldz/lojistik-identify-lora-adapter",
    max_seq_length=2048,
    dtype=None,
    load_in_4bit=True,
)
FastLanguageModel.for_inference(model)

# Kimlik testi
messages = [{"role": "user", "content": "Sen kimsin?"}]
inputs = tokenizer.apply_chat_template(
    messages, tokenize=True, add_generation_prompt=True, return_tensors="pt"
).to(model.device)
output = model.generate(input_ids=inputs, max_new_tokens=256, use_cache=True)
print(tokenizer.decode(output[0], skip_special_tokens=True))
# → "Ben LojistikAI, Cihat Yıldız tarafından geliştirilen ..."

# Lojistik bilgi testi
messages = [{"role": "user", "content": "OTIF metriği ne anlama gelir?"}]
inputs = tokenizer.apply_chat_template(
    messages, tokenize=True, add_generation_prompt=True, return_tensors="pt"
).to(model.device)
output = model.generate(input_ids=inputs, max_new_tokens=256, use_cache=True)
print(tokenizer.decode(output[0], skip_special_tokens=True))

PEFT ile Yükleme

from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer

base_model_id = "Qwen/Qwen3-1.7B"
adapter_id = "cihatyldz/lojistik-identify-lora-adapter"

tokenizer = AutoTokenizer.from_pretrained(base_model_id)
model = AutoModelForCausalLM.from_pretrained(base_model_id, device_map="auto")
model = PeftModel.from_pretrained(model, adapter_id)

Eğitim Süreci

1. Lojistik Veri Seti: 20 adet elle yazılmış örnek + Gemini API ile sentetik çoğaltma → 139 soru-cevap çifti.
2. Identity Veri Seti: Türkçe ve İngilizce kimlik soruları ("Sen kimsin?", "Seni kim oluşturdu?", "Ne yapabilirsin?", "Who are you?" vb.) oluşturuldu ve tekrarlanarak eğitim setine eklendi.
3. Birleşik Eğitim: Lojistik ve identity veri setleri concatenate_datasets ile birleştirilerek ShareGPT formatında (qwen-2.5 chat template) tek bir eğitim yapıldı.
4. Fine-Tuning: Unsloth framework'ü ile 4-bit quantized Qwen3-1.7B üzerine LoRA eğitimi.
5. Push: Eğitilen LoRA ağırlıkları HuggingFace Hub'a yüklendi.

Örnek Yanıtlar

İlişkili Kaynaklar

• Lojistik LoRA (identity'siz): cihatyldz/lojistik-lora-adapter
• Eğitim Veri Seti: cihatyldz/lojistik-soru-cevap
• BPE Tokenizer: cihatyldz/lojistik-bpe-tokenizer
• Temel Model: Qwen/Qwen3-1.7B
• Unsloth: unslothai/unsloth

Lisans

Bu model MIT Lisansı ile lisanslanmıştır. Temel model (Qwen3) kendi lisans koşullarına tabidir.

Yazar

Cihat Yıldız — Hugging Face · LinkedIn