KoAlpaca-Polyglot-12.8B-ggml

KoAlpaca-Polyglot-12.8B 모델을 ggml을 사용하여 f16과 q5_0으로 양자화한 모델입니다. 원본 모델은 여기서 확인하세요.

ggml 모듈이나 Ctransformers를 사용하여 로컬에서 실행할 수 있습니다.