摘要： 1、为什么用CNN DNN参数太多，需要更简单的模型。 只看一小块区域。 鸟嘴出现在图片的不同位置，但可以共用同一组参数。 做subsampling对影像辨识没有太大影响，可以这样减少参数。 2、CNN结构 前两点通过卷积来处理，第三点通过池化来处理。 3、卷积 每一个filter里的参数都是被学出 阅读全文

摘要： 一、深度学习 1、简介 不同的连接方法 2、全连接前馈网络 1*1+(-1)*(-2)+1=4 >sigmoid >0.98 相当于一个函数，输入一个向量，输出一个向量。如果w和b未知，神经网络就是一个比较大的function set。 全连接、前馈。输入层只有data，输出层是最后一层，中间都称为 阅读全文

摘要： 一、classification 1、应用与问题定义 如果作为regression来处理，为了照顾较远的点会得到紫色的线。因此简单地把归为一个数是不合理的。 比如有3类，分别为123，因为12比较接近，23比较接近，但它们实际并没有关系，就不符合现实情况。 假设是个二分类问题，loss就是错误的次数 阅读全文

摘要： 一、numpy 1、array的创建 import numpy as np # 定义矩阵/数组 array1 = np.array([[1,2,3],[4,5,6]]) print(array1) print("num of dim: ", array1.ndim) print("shape: ", 阅读全文

摘要： 一、Course Introduction 1、机器学习就是自动找函式 Regression: output is a scalar. Classification：yes or no Binary classification：RNN作业 Multi-class Classification：CN 阅读全文

摘要： 一、验证码识别 不能分割，有些验证码有字母重合的情况。 整体识别：有四个目标值。每个位置有26种可能性（假设都是大写）输出：[None, 4*26] 处理数据 图片[20, 80, 3] 与标签文件一一对应。 不能用listdir直接列图片名，列出来的是乱序的。 思路：先读图片，再读标签文件，将标签 阅读全文

摘要： 一、神经网络基础 1、感知机 Rosenblatt在1957年，于Cornell航空实验室时所发明的一种人工神经网络 有n个输入数据，通过权重与各数据之间的计算和，比较激活函数结果，得出输出 感知机用来解决分类问题。 还不能称为激活函数，只是简单的阈值比较 应用：很容易解决与、或、非问题。如输入x1 阅读全文

摘要： 一、队列和线程 1、tensorflow解决读取数据 计算密集型：IO速度稍慢、一次性读取消耗内存。 解决：tensorflow能够多线程并行的执行任务（真正的多线程）：队列、文件的改善（tfrecords） 2、队列 在训练样本的时候，希望读入的训练样本是有序的 tf.FIFOQueue 先进先出 阅读全文

摘要： 一、TensorFlow基础 1、tensorflow简介 深度学习，如深度神经网络、卷积神经网络和递归神经网络已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。 深度学习框架：TensorFlow、caffe、Torch、Theano、CNTK Tenso 阅读全文

摘要： 一、逻辑回归 1、逻辑回归 应用：用于二分类问题，能得出概率值。 广告点击率 是否为垃圾邮件 是否患病 金融诈骗 虚假账号 判断用户性别 评论正面负面 用户是否会购买 输入与线性回归相同：（单个样本） Sigmoid函数：能够将输入转化为0-1之间的一个值（转化为一个分类问题） 逻辑回归公式： 输出 阅读全文