我的随笔

NLP中的预训练语言模型（四）—— 小型化bert（DistillBert, ALBERT, TINYBERT）

微笑sun 2019-10-21 20:55 阅读:9669 评论:0 推荐:0

NLP中的预训练语言模型（三）—— XL-Net和Transformer-XL

微笑sun 2019-09-29 16:18 阅读:4685 评论:3 推荐:0

神经网络中的权值初始化方法

微笑sun 2019-09-24 15:17 阅读:4844 评论:0 推荐:0

NLP中的预训练语言模型（二）—— Facebook的SpanBERT和RoBERTa

微笑sun 2019-09-16 17:52 阅读:4797 评论:0 推荐:0

NLP中的预训练语言模型（一）—— ERNIE们和BERT-wwm

微笑sun 2019-09-12 18:38 阅读:11529 评论:0 推荐:1

bert模型参数简化

微笑sun 2019-08-28 11:24 阅读:4991 评论:0 推荐:0

小样本学习（few-shot learning）在文本分类中的应用

微笑sun 2019-08-13 17:38 阅读:20072 评论:2 推荐:3

孪生网络（Siamese Network）在句子语义相似度计算中的应用

微笑sun 2019-07-17 14:45 阅读:11928 评论:0 推荐:0

seq2seq模型详解及对比（CNN，RNN，Transformer）

微笑sun 2019-07-08 15:11 阅读:27708 评论:0 推荐:0

任务型对话（二）—— DST（对话状态追踪）

微笑sun 2019-04-30 18:35 阅读:12314 评论:1 推荐:0