摘要：快速梳理 LSTM（Long Short-Term Memory）长短期记忆人工神经网络是对RNN的一种改进，可以有效解决RNN存在的长期依赖问题。下图展示了LSTM的网络结构，我们可以看到其中有许多奇怪的部分，被称之为“门”。下面就具体介绍一下遗忘门，输入门和输出门以及重要的细胞状态（Cell）。 阅读全文

摘要：今天整理一下EM算法，当年在学校学这个的时候真是一脸懵逼啊，还好考的不难：） EM（Expectation-Maximization）算法，从名字中就可以知道他是有两部分构成的求期望和求极大似然，论文原文放在这里需要的自取。算法通过迭代的方式进行E步和M步，从而更新模型参数，直到收敛。 预备知识 已 阅读全文

摘要：曼哈顿距离 描述2点之间的绝对值距离，\(L = |x_1 - x_2| + |y_1 - y_2|\) 欧氏距离 描述2点之间的直线距离，\(L = \sqrt{(x_1-x_2)^2 + (y_1-y_2)^2}\) Pearson相关系数 Pearson 相关系数是用协方差除以两个变量的标准差 阅读全文

摘要：：》很早就想整理这个话题的，但是一直拖到现在，因为最近刚好有和别人聊到LDA相关的话题就下定决心整理一下。（当然主题词模型不只LDA这一种） ##主题以及主题词模型 在NLP领域，主题topic一般是通过关键词的形式描述的，一类主题就可以有一个关键词所组成的set来表示，例如体育相关的主题所对应的主 阅读全文