摘要: 在这篇文章中将总结注意力机制在NLP问题中的应用。 参考论文:An Introductory Survey on Attention Mechanisms in NLP Problems https://arxiv.org/pdf/1811.05544.pdf 1.基础的注意力机制的形式 直观理解: 阅读全文
posted @ 2019-12-02 00:55 桑荼 阅读(1354) 评论(0) 推荐(1)
摘要: 1.tf-idf是基于词袋模型的想法(文本向量的长度与整个词典的长度相等)。 2.idf是指的是逆文档率,即表示该单词对于该句话的重要程度,或者说从文档中区分出该句话的特征。因为词频和rank往往是一个幂律,需要抑制那些稀有词的情况,所以需要对于该部分取对数。 3.tf-idf可以用作抽取关键词,但 阅读全文
posted @ 2019-11-18 11:05 桑荼 阅读(917) 评论(2) 推荐(1)
摘要: 1.KNN K近邻算法的工作机制就是给定测试样本,基于某种距离度量找出训练集中与其最靠近的k个训练样本,然后基于这k个“邻居”的信息来进行预测。 2.思维导图 3.代码 阅读全文
posted @ 2019-04-23 22:35 桑荼 阅读(207) 评论(0) 推荐(0)
摘要: 1.概述: 感知机是神经网络是神经网络和支持向量机的基础,本章介绍了感知机的模型、学习策略、损失函数、学习算法、以及对偶形式等。 2.思维导图: 3.代码 python实现 sklearn实现 ps:本文实对书《统计学习方法》的学习总结 阅读全文
posted @ 2019-04-20 15:51 桑荼 阅读(251) 评论(0) 推荐(0)