摘要：什么是有趣“大会”？它并不是一个和官方相关，真正的大会。它会是以趣味为导向的一系列文章，可以用放松、不太正式的心态去阅读它。 有趣大会都会有哪些内容，可以给我带来什么？ 会挑选会议中一些有奇奇妙妙的想法或者任务的工作，然后进行非常简短的介绍。定位在于奇妙的角度或者有趣的任务，所以不会出现对模型方法的 阅读全文

摘要：当第一次看到自然语言理解的时候，我是感到困惑的。因为自然语言处理的目的就是要去理解人类产生的文本信息，从这个角度讨论，那应该所有的自然语言处理任务，都应该自然语言理解的范围之内。 而当经过进一步调查之后，发现大家基本上是把特定的任务称呼为自然语言理解。这一系列中，会贴合大家已经形成的习惯用语，所以这 阅读全文

摘要：请在微信公众号文章链接阅读： https://mp.weixin.qq.com/s/EvD9OW115XMnrxOcC2BKDA 阅读全文

摘要：这篇笔记总结了这篇论文的主要思路，Few-Shot Text Classification with Distributional Signatures - ICLR 2020。 论文链接: https://arxiv.org/abs/1908.06039论文代码链接: https://github 阅读全文

摘要：【2020-04-03】微信公众号已经创建好了！会第一时间收到其他文章的更新！（二维码在末尾） 虽然网上的文章对BiLSTM-CRF模型介绍的文章有很多，但是一般对CRF层的解读比较少。 于是决定，写一系列专门用来解读BiLSTM-CRF模型中的CRF层的文章。 我是用英文写的，发表在了github 阅读全文

摘要：有了一个语言模型，就要判断这个模型的好坏。 现在假设： 我们有一些测试数据，test data.测试数据中有m个句子;s1,s2,s3…,sm 我们可以查看在某个模型下面的概率： 我们也知道，如果计算相乘是非常麻烦的，可以在此基础上，以另一种形式来计算模型的好坏程度。 在相乘的基础上，运用Log，来把乘法转换成加法来计算。 补充一下，在这里的p(Si)其实就等于我们前... 阅读全文

摘要：在本节中，我们会讨论序列的长度是变化的，也是一个变量 we would like the length of sequence,n,to alse be a random variable 一个简单的解决方案是，我们经常定义define Xn=STOP,STOP是一个特殊的标志（where STOP is a special symbol） 在了解了上述的定义之后，我们像上一节当中... 阅读全文

摘要：在0-1中提到了，当最终output的p=0时，这个时候模型无法正常使用，为了解决这个问题，在0-4中会有所提及。在本节中，其实，计算概率的时候，我们应该假设某一个位置的词与它前面的所有词都是相关的，但是，如果我们这样计算的话，可以计算出来，计算量是相当大的。例如在p(x1,x2,x3…xn)中，x是集合V中的一个单词，假设v的大小为|v|，也就是说（x1,x2…xn）就一共有|v|的n次方中可能。提出了马尔可夫过程来解决。在计算P的时候，实际上我们给出了一个独立性假设，这个独立性假设就是说所有的随机变量只于它前面的随机变量条件相关。其实不难理解：假设，有一串随机的变量X1,X2,…XN.(a 阅读全文

摘要：在对语言建模之前，先来说明一些基本的简单的概念。我们假设：有这样一个集合，在这个集合里面，是我们所有的涉及到的单词集,并且这个单词的集合是有限的（finite）。为了表示这个集合，用字母V来表示，例如V={the，a,man,telescopo,Beckham,two…}有了单词的集合，然后还需要有一个单词串的集合，为了更形象的解释，比如：the STOPa STOPthe fan STOPthe fan saw Beckham STOPthe fan saw saw STOPthe fan saw Beckham play for Real Madrid STOP…这个单词串的集合使用V+来 阅读全文

摘要：【根据公开课的讲义整理】 自然语言处理如这个图中所表示的。作为一台计算机，要理解我们人类的语言。也就是understanding(NLU)。当计算机懂的我们的语言之后，变回给我们回应，像与我们对话一样，再生成我们可以接受的语言。generation(NLG)。 在自然语言处理方面，有哪些例子？ 那么，在自然语言处理方面，有什么经典的例子呢？ 比如： 机器翻译，现在市场上见到的谷歌翻译... 阅读全文