qwen2vl-syscohada — GGUF
Conversion GGUF de khadimt660/qwen2vl-syscohada (fine-tuné SYSCOHADA, base Qwen2-VL).
Fichiers
| Fichier | Description |
|---|---|
qwen2vl-syscohada-F16.gguf |
Précision complète (F16) |
qwen2vl-syscohada-Q4_K_M.gguf |
Quantification Q4_K_M |
qwen2vl-syscohada-Q5_K_M.gguf |
Quantification Q5_K_M |
qwen2vl-syscohada-Q8_0.gguf |
Quantification Q8_0 |
mmproj-qwen2vl-syscohada-F16.gguf |
Projecteur visuel (obligatoire pour les images) |
Utilisation (llama.cpp)
llama-mtmd-cli -m qwen2vl-syscohada-Q4_K_M.gguf --mmproj mmproj-qwen2vl-syscohada-F16.gguf \
--image document.png -p "Extrais les écritures comptables SYSCOHADA."
Crédits
Modèle original : khadimt660/qwen2vl-syscohada. Conversion et quantification par Devsyril.