江南

摘要： .dimshuffle 改变输入维度的顺序，返回原始变量的一个view. 输入是一个包含 $[0,1,...,ndim 1]$ 和任意数目的 $'x'$ 的组合： 例如： $('x')$：将标量变成 $1$ 维数组 $(0, 1)$：与原始的 $2$ 维数组相同 $(1, 0)$：交换 $2$ 维数 阅读全文

摘要： Notes from one sample: $$x_i \to [y_i^0,\cdots,y_{i}^{k}]$$ where $y_i^0$ are true labeled words , and $y_i^1,\cdots,y_i^{k}$ are noise samples word i 阅读全文

摘要： the inner product Givens two vectors $x,y\in \mathbb{R}^n$, the quantity $x^\top y$, sometimes called the inner product or dot product of the vectors, 阅读全文

摘要： Traditional Language Model通常用于回答下述问题： How likely is a string of English words good English ? $p_{LM}($the house is small$)\ge p_{LM}($ small the is ho 阅读全文

摘要： Back propagation in a nerual network with a Softmax classifier, which uses the Softmax function: $$\hat y_i=\frac{\exp(o_i)}{\sum_j \exp(o_j)}$$ This 阅读全文

摘要： Evaluating a Language Model: Perplexity We have a serial of $m$ sentences: $$s_1,s_2,\cdots,s_m$$ We could look at the probability under our model $\p 阅读全文

摘要： 在ubuntu上面安装了GPU版本的tensorflow后，很容易碰到 的问题，无法正常关闭tensorflow的线程，用 可以看到 表明这个python 的程序已经成为了 了，如果要杀死该进程，必须要kill 其parent 的进程。 然而，不信的是我们发现 ， 这个是系统默认的INIT进程，是不 阅读全文

摘要： waiting for updating.... 阅读全文

摘要： Problem Theano: CNMeM is disabled, CuDNN not available Solution cnmem package: https://github.com/NVIDIA/cnmem link with cnmem The source folder conta 阅读全文

摘要： Problem Slove : 用来传递人一个无名字的参数，这些参数会以一个Tuple的形式来访问. : 用来传递人一个有名字的参数，这些参数用dict来访问. Example 阅读全文