허깅페이스 ureca07 님께서 작업하신 korean-vicuna-7b-1.1의 ggml버전입니다.
허깅페이스 ureca07 님께서 작업하신 korean-vicuna-7b-1.1의 ggml버전입니다.
ggml-model-f32.bin 27 GBkorean-vicuna-7b-1.1-ggml-q8_0-ggjt_v2.bin 7.6 GBkorean-vicuna-7b-1.1-ggml-q8_0-ggjt_v3.bin 7.2 GBkorean-vicuna-7b-1.1-ggml-q4_1-ggjt_v2.bin 5.1 GBkorean-vicuna-7b-1.1-ggml-q5_1.bin 5.1 GBkorean-vicuna-7b-1.1-ggml-q5_0.bin 4.6 GBkorean-vicuna-7b-1.1-ggml-q4_0-ggjt_v2.bin 4.2 GBkorean-vicuna-7b-1.1-ggml-q4_1-ggjt_v3.bin 4.2 GBkorean-vicuna-7b-1.1-ggml-q4_0-ggjt_v3.bin 3.8 GB