摘要： Network As Generator（网络作为生成器） 把Network当成生成使用；输入另加一个参数z，这个z为某个Distribution（分布）中抽取得来，不固定； z一般要简单，由于z不同，所以x的输出就由单一的输出变成一个复杂的Distribution（分布） 例如：x、z都为向量：输 阅读全文

摘要： Sequence To Sequence（序列对序列） 输入一个序列，输出一个序列 输出序列的长度由机器自己决定，例如：语音辨识、机器翻译、语音翻译 Sequence To Sequence一般分成两部分： Encoder:传入一个序列，由Encoder处理后传给Decoder Decoder:决定 阅读全文

摘要： self attention（自注意机制） 输入：以往神经网络的输入都是一个向量；如果现在输入的是一排向量，并且数量不唯一，应该如何处理： 例一：一句英文 One-hot Encoding：开一个长度为世界上全部词汇数的向量表示一个词汇（缺点：词汇间没关系） Word Embedding：给每个词汇 阅读全文

摘要： Convolutional Neural Network(CNN卷积神经网络) 解释一 应用于Image classification(图像分类) 一张图片如何作为一个模型的输入：一张图片可以当成三维的Tensor(维度大于等于2的矩阵)，三维分别代表图片：宽、高、channels(宽高代表像素，c 阅读全文