摘要: 1、ERNIE 1.0 , XLNET, RoBERTa, ALBERT 分别基于 BERT 做了哪些改进? 答:1)ERNIE 1.0的改进:①通过实体和短语mask能够学习语法和句法信息的语言模型②在很多中文自然语言处理任务上达到SOTA训练数据集:中文维基百科、百度百科、百度贴吧、百度新闻可以 阅读全文
posted @ 2020-11-12 20:47 justDoIT& 阅读(1311) 评论(0) 推荐(0) 编辑