mistral 7b와 beomi님의 ko llama2 베이스로 중복된 토크나이저를 제거한 이후 추가 vocab을 삽입해 한국어,기존 언어 최적화 토크나이저를 제작했습니다.
현재 파인튜닝은 진행하지 않은 상태입니다.
며칠 이내 한국어 파인튜닝을 진행할 예정입니다.
mistral 7b와 beomi님의 ko llama2 베이스로 중복된 토크나이저를 제거한 이후 추가 vocab을 삽입해 한국어,기존 언어 최적화 토크나이저를 제작했습니다.
현재 파인튜닝은 진행하지 않은 상태입니다.
며칠 이내 한국어 파인튜닝을 진행할 예정입니다.