随笔分类 - NLP learning
摘要：https://github.com/MoyanZitto/keras-cn/blob/master/docs/legacy/blog/word_embedding.md 这个链接将带有embeding层的cnn实现及训练的过程讲的很清楚 构建好带有embedding层的textcnn模型后，mod
阅读全文
摘要：其实目前除了之前博客写到的一些关于自然语言处理用到的知识点之外，很多其他nlp技术只是会用但是不了解原理，先整体分个类，之后再仔细分析吧。 上图是https://www.sohu.com/a/138692749_657157 阿里的nlp业务框架。我主要是从第二层：nlp基础算法来总结原理。其中主题
阅读全文
摘要：主要是记录一些我认为比较有代表性的知识点~ 1.自然语言处理解决问题的方法经历了从规则（句法分析：主谓宾动名形容词）到统计的转变。 2.N元模型：P(s)=P(w1,w2,...wn)句子s出现的概率由其中的词出现的概率计算，基于马尔科夫假设（任意一个词wi出现的概率只同它前面的词Wi-1有关），该
阅读全文
摘要：先贴个看起来讲的不错的文章链接，后续详细看了再补充https://blog.csdn.net/leyounger/article/details/78206832 2018.10.28大概了解了下glove思想: 先构造文档中出现的共现矩阵，Xij的意义为：在整个语料库中，单词i和单词j共同出现在一
阅读全文
posted @ 2018-10-28 20:37
巴拉巴拉程序猿
摘要：之前写了对word2vec的一些简单理解，实践过程中需要对其参数有较深的了解： class gensim.models.word2vec.Word2Vec(sentences=None,size=100,alpha=0.025,window=5, min_count=5, max_vocab_siz
阅读全文
摘要：一直以来感觉好多地方都吧Word Embedding和word2vec混起来一起说，所以导致对这俩的区别不是很清楚。 其实简单说来就是word embedding包含了word2vec，word2vec是word embedding的一种，将词用向量表示。 1.最简单的word embedding是
阅读全文
摘要：了解主题模型，一般都会提到几种最基础的生成模型：Unigram model、Mixture of unigram，pLSA，接下来简单介绍一下他们之间的区别： 1.Unigram model 左图可知，一篇文档由词生成，每个词有其出现的概率，所有词概率的乘积即得到生成文档的概率。 2.Mixture
阅读全文
摘要：BTM的原理跟LDA很像，下面是该模型的概率图： 由该图可以看出来，与LDA的区别在于确定主题分布和词分布后相应地取两个词（而LDA只取一个，即类比常见的骰子说法：先投掷K面的骰子得到主题z，再根据相应的V面骰子，连续投掷两次，得到一对词汇），这俩词叫做biterm（就是在把一个文档分词之后，对这些
阅读全文
摘要：看到一段对主题模型的总结，感觉很精辟： 如何找到文本隐含的主题呢？常用的方法一般都是基于统计学的生成方法。即假设以一定的概率选择了一个主题，然后以一定的概率选择当前主题的词。最后这些词组成了我们当前的文本。所有词的统计概率分布可以从语料库获得，具体如何以“一定的概率选择”，这就是各种具体的主题模型算
阅读全文
摘要：虽然早就对NLP有一丢丢接触，但是最近真正对中文文本进行处理才深深感觉到自然语言处理的难度，主要是机器与人还是有很大差异的，毕竟人和人之间都是有差异的，要不然不会讲最难研究的人嘞 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~不华丽的分割线~~~~~~
阅读全文
浙公网安备 33010602011771号