摘要: 本篇博客重点关注Attention在推荐系统中的常见几类用法。Attention 这里就不多做介绍了,可以参考之前的博客。 为什么推荐系统需要Attention?Attention在推荐系统中怎么用呢? 纵观排序模型的发展历程,有两个主要的演进方向: 1、特征组合自动化; 2、用户行为序特征的挖掘。 阅读全文
posted @ 2021-03-01 19:55 一介珷玞 阅读(1416) 评论(0) 推荐(0)
摘要: RNN、CNN和Transformer是目前在NLP中最常用的三个特征抽取器,本篇博客将对它们三个做一下全面对比。 RNN 1、为何RNN能够成为解决NLP问题的主流特征抽取器 主要原因还是因为RNN的结构天然适配解决NLP的问题: (1)NLP的输入往往是个不定长的线性序列句子,而RNN本身结构就 阅读全文
posted @ 2021-03-01 17:12 一介珷玞 阅读(4990) 评论(1) 推荐(0)
摘要: 原文链接:https://jalammar.github.io/illustrated-transformer/ 从宏观角度看transformer 1、首先将这个模型看成是一个黑箱操作。在机器翻译中,就是输入一种语言,输出另一种语言。 2、第二步,拆开这个黑箱,可以看到它由编码组件、解码组件以及它 阅读全文
posted @ 2021-03-01 17:06 一介珷玞 阅读(264) 评论(0) 推荐(0)