行远自迩 登高自卑

摘要： 迁移学习的定义 如果用一种图来表示迁移学习的思想的话，那就是： Knowledge[Not supported by viewer]Learning System[Not supported by viewer] 一些基本的标签以及数据集之间的关系就不做过多的叙述了，我们用 $\mathcal{D} 阅读全文

摘要： 感觉大佬的代码写的就是好，在处理数据的方面，首先定义一个 提取特征的类， ，然后每一种方法对这个类进行重构，这个类主要结构就是： 接下来看如何具体的从统计的角度与 NLP 的角度处理数据 统计学的角度处理数据的方法 从统计学的角度考虑主要是单词的频率，数据的次数等等，这里考虑的问题很多，总结来说就是 阅读全文

摘要： 学期初提问博客 "传送门" 对当时的提问进行回答 结对编程 在结对编程的模式下，一对程序员肩并肩、平等地、互补地进行开发工作。他们并排地坐在一台电脑前，面对同一个显示器，使用过同一个键盘、同一个鼠标一起工作。 回答： 亲自体会了结对编程之后才会真实的体会到，沟通与交流的重要性，这其中主要的一点就是一 阅读全文

摘要： 概率论中的 Jensen 不等式 对于 Jensen 不等式，通常情况下是这样的：对于 $f^{\prime \prime}(x) \geq 0$ 也就是对于凸函数而言，这个可以用中值定理来证明，同时这个公式还可以用于证明多项式的均值不等式与调和不等式，这里就不给出证明了，在概率的条件下就是：实际上 阅读全文

摘要： 废话先不多说，直接上个图说明问题： R1R1R2R2R5R5R3R3R4R4IIUUI5I5Is1Is1Is2Is2Is3Is3 聪明的小伙伴当然选择直接查看网页源代码了 对就是网页源代码中，在博客园的 Markdown 格式的博客中，是可以解析一些 html 标签的，我用的就是简单的 \ 与 \ 阅读全文

摘要： Lambda 函数实现 简单的说，lambda 就是一个函数，但是这个函数没有名字，所以我们介绍一下这个函数的调用形式，参数与返回值的实现。 lambda 的格式如下： 那么这个函数怎么使用了，它常常不是单独使用，单独的使用的时候可以较为简单，实现的功能过于简单。所以通常被使用的情况是，某个函数的参 阅读全文

摘要： Seq2Seq模型 传统的机器翻译的方法往往是基于单词与短语的统计，以及复杂的语法结构来完成的。基于序列的方式，可以看成两步，分别是 Encoder 与 Decoder ，Encoder 阶段就是将输入的单词序列(单词向量)变成上下文向量，然后 decoder根据这个向量来预测翻译的结果。 enco 阅读全文

摘要： 语言模型 对于一个文本中出现的单词 $w_i$ 的概率，他更多的依靠的是前 $n$ 个单词，而不是这句话中前面所有的单词。 $$ P\left(w_{1}, \ldots, w_{m}\right)=\prod_{i=1}^{i=m} P\left(w_{i} | w_{1}, \ldots, w_ 阅读全文

摘要： 句子的依赖结构表现在哪些单词依赖哪些单词。单词之间的这种关系及可以表示为优先级之间的关系等。 Dependency Parsing 通常情况下，对于一个输入句子：$S=w_{0} w_{1} \dots w_{n}$。 我们用 $w_{0}$ 来表示 ROOT，我们将这个句子转换成一个图 G。 依赖 阅读全文

摘要： 前向传播模型 一般我们使用的公式是： $$ a=\frac{1}{1+\exp \left( \left(w^{T} x+b\right)\right)} = \frac{1}{1+\exp \left( \left[w^{T} \quad b\right] \cdot[x \quad 1]\rig 阅读全文