efficient_mlm_m0.10

作者 rzhai · 下载 0 · 点赞 0 · 更新 2023-11-02

Trained using https://github.com/princeton-nlp/DinkyTrain. Mask rate = 0.10.