#Pre-trained-Language-Model-For-Chinese-Patent

ZL-RoBERTa-wwm: MLM with Whole Word Masking

在中文发明专利上进行训练，MLM任务使用了wwm策略