AKIL 2.0 (107M) — GGUF
AKIL 2.0 için llama.cpp ve Ollama dosyaları. AKIL 2.0, Türkiye'de sıfırdan eğitilmiş 107 milyon parametrelik bir Türkçe sohbet modelidir. Ölçümler, yetenekler ve sınırlar için ana modelin kartına bakın.
Bu bir araştırma modelidir, asistan değildir: bilgi uydurur, hesapta hata yapar. Zararlı istekleri reddetme eğitimi almadı; ayrıntılar ana kartın "Güvenlik ve sorumlu kullanım" bölümünde.
| Dosya | Boyut | Not |
|---|---|---|
AKIL-2.0-107M-f16.gguf |
215 MB | transformers sürümüyle aynı cevapları verir (açgözlü üretimde 8 istemin 8'i) |
AKIL-2.0-107M-Q8_0.gguf |
115 MB | önerilen; 8 istemin 7'sinde aynı cevap |
Modelfile |
Ollama için ChatML şablonu ve örnekleme ayarları |
Belirteçleme SentencePiece, transformers ve llama.cpp arasında birebir aynıdır (308 metinde fark yok). Bağlam 2048 belirteçtir.
Kullanım
llama.cpp sunucusu (sohbet şablonu GGUF'un içinde):
llama-server -m AKIL-2.0-107M-Q8_0.gguf --host 127.0.0.1 --port 8080
Ollama:
ollama create akil-2.0 -f Modelfile
ollama run akil-2.0
Bilgi soruları için paragrafları sistem mesajında Bilgiler: başlığıyla [1] …, [2] … biçiminde verin. Model
bunlardan [n] atıflarıyla cevap yazar; kendi ezberi zayıftır. Araç biçimi (<arac>hesap: …</arac>) ve örnek araç
çalıştırıcısı ana model deposundadır.
Lisans
Apache Lisansı 2.0 (LICENSE); dağıtırken NOTICE dosyasını koruyun. Veri atıfları ATTRIBUTION.md'de.