随笔分类 -  Natural Language Processing

摘要:之前的博文已经介绍了CNN的基本原理,本文将大概总结一下最近CNN在NLP中的句子建模(或者句子表示)方面的应用情况,主要阅读了以下的文献: Kim Y. Convolutional neural networks for sentence classification[J]. arXiv prep 阅读全文
posted @ 2018-02-27 17:30 笨兔勿应 阅读(3567) 评论(0) 推荐(0)
摘要:When we hear about Convolutional Neural Network (CNNs), we typically think of Computer Vision. CNNs were responsible for major breakthroughs in Image  阅读全文
posted @ 2018-02-19 23:23 笨兔勿应 阅读(976) 评论(2) 推荐(0)
摘要:语言模型 所谓的语言模型,即是指在得知前面的若干个单词的时候,下一个位置上出现的某个单词的概率。 最朴素的方法是N-gram语言模型,即当前位置只和前面N个位置的单词相关。如此,问题便是,N小了,语言模型的表达能力不够。N大了,遇到稀疏性问题,无法有效的表征上下文。 LSTM模型一般会将单词embe 阅读全文
posted @ 2018-02-19 21:39 笨兔勿应 阅读(2015) 评论(0) 推荐(0)
摘要:一. LSA 1. LSA原理 LSA(latent semantic analysis)潜在语义分析,也被称为 LSI(latent semantic index),是 Scott Deerwester, Susan T. Dumais 等人在 1990 年提出来的一种新的索引和检索方法。该方法和 阅读全文
posted @ 2016-12-25 17:24 笨兔勿应 阅读(20535) 评论(3) 推荐(1)