2019年10月9日
Bert
摘要： 2019-10-09 19:55:26 问题描述：谈谈对Bert的理解。 问题求解： 2018年深度学习在NLP领域取得了比较大的突破，最大的新闻当属Google的BERT模型横扫各大比赛的排行榜。 NLP领域到目前为止有三次重大的突破：Word Embedding、Self-Attention机制 阅读全文
posted @ 2019-10-09 19:56 hyserendipity 阅读(655) 评论(0) 推荐(0)
Transformer
摘要： 2019-10-09 19:54:42 问题描述：谈谈对Transformer的理解。 问题求解： Transformer 整体架构 Transformer 是典型的Seq2Seq架构的模型，其核心的骨架依然是encoder-decoder两个模块，和传统的S2S问题不同的地方在于Transform 阅读全文
posted @ 2019-10-09 19:55 hyserendipity 阅读(376) 评论(0) 推荐(0)