摘要：
经典卷积神经网络的结构一般满足如下表达式：输出层 -> （卷积层+ -> 池化层？）+ -> 全连接层+。上述公式中，“+”表示一个或者多个，“？”表示一个或者零个，如“卷积层+”表示一个或者多个卷积层，“池化层？”表示一个或者零个池化层。“->”表示 forward 方向。本文将分别介绍 LeNet-5、AlexNet 和 VGG-16 结构。 阅读全文
摘要：
为什么使用序列模型（sequence model）？标准的全连接神经网络（fully connected neural network）处理序列会有两个问题：1）全连接神经网络输入层和输出层长度固定，而不同序列的输入、输出可能有不同的长度，选择最大长度并对短序列进行填充（pad）不是一种很好的方式；2）全连接神经网络同一层的节点之间是无连接的，当需要用到序列之前时刻的信息时，全连接神经网络无法办到，一个序列的不同位置之间无法共享特征。而循环神经网络（Recurrent Neural Network，RNN）可以很好地解决问题。本文介绍了RNN的结构，对RNN前向传播过程进行了剖析。此外对GRU和LSTM也进行了简单介绍。 阅读全文
摘要：
tf.add 和 tf.nn.bias_add 的区别：1）tf.nn.bias_add 是 tf.add 中的一个特例，tf.nn.bias_add 中 bias 一定是 1 维的张量；2）tf.nn.bias_add 中 value 最后一维长度和 bias 的长度一定得一样。 阅读全文
摘要：
全连接神经网络（Fully connected neural network）处理图像最大的问题在于全连接层的参数太多。参数增多除了导致计算速度减慢，还很容易导致过拟合问题。所以需要一个更合理的神经网络结构来有效地减少神经网络中参数的数目。而卷积神经网络（Convolutional Neural Network，CNN）可以做到。CNN最重要的两个特征：1）局部连接；2）参数共享。 阅读全文
摘要：
对滑动平均的直观理解，以及滑动平均在tensorflow中的使用。 阅读全文
摘要：
使用国内清华的镜像加速pip安装python库的过程 阅读全文
摘要：
安装pip时报错：pkg_resources.DistributionNotFound: The 'pip==9.0.1' distribution was not found and is required by the application 阅读全文
摘要：
Linux 常用的压缩与解压文件类型：.tar，.gz、.tar.gz，.bz2、.tar.bz2，.Z、.tar.Z，.zip，.rar等。
Linux 常用的压缩与解压缩命令有：tar，gzip、gunzip，bzip2、bunzip2，compress 、uncompress， zip、 unzip，rar、unrar 等。 阅读全文