llama-65b-4bit

作者 alsaiduq · 下载 0 · 点赞 0 · 更新 2023-11-02

65B LLaMA quantized to 4 bit on the old CUDA branch. No groupsize.