随笔分类 -  文本分类

摘要:Bert源码解读 一、速读Bert Bert预训练部分是在做自注意力。 分类器微调部分就是一层神经网络。 分离矩阵得到起始值和终止值得概率矩阵。 用run_classifier.py,50万样本量,微调阶段训练时间约为半小时。 二、注意的要点 1.官网源码中给出的是TPU estimator接口,需 阅读全文
posted @ 2021-05-25 21:12 白雪儿 阅读(240) 评论(0) 推荐(0)