摘要:CNN推展案例:图像检测、NeuralStyle 图像识别与定位 思路1:视作回归 思路2:借助图像窗口物体识别 边缘策略/选择性搜索 => R-CNN R-CNN => Fast R-CNN Fast R-CNN => Faster R-CNNNeuralStyle艺术化图片 原理
阅读全文
摘要:CNN训练注意事项与框架使用 Mini-batch SGD 不断循环:① 采样一个batch数据(比如32张,可以做镜像对称)② 前向计算得到损失loss③ 反向传播计算梯度(一个 batch上的)④ 用这部分梯度迭代更新权重参数 训练注意点 2种方式去均值 不要做标准化、PCA和白化 权重
阅读全文
摘要:CNN与常用框架 主要内容神经网络与卷积神经网络 1.层级结构 2.数据处理 3.训练算法 4.优缺点实际搭建与训练CNN 1.典型CNN 2.训练与fine-tuning常用框架与应用 1.常用框架 2.广泛应用 神经网络长什么样? 什么鬼… 完整演示图:http://cs231n.gith
阅读全文
摘要:梯度下降法与反向传播 梯度下降法1.损失函数可视化2.最优化3.梯度下降反向传播1.梯度与偏导2.链式法则3.直观理解4.Sigmoid例子 两个重要函数得分函数损失函数核心目标找到最合适的参数w.使得损失函数取值最小化。也就是最优化的过程 损失函数往往定义在非常高维的空间比如CIF
阅读全文
摘要:这节课主要是讲了些基本的numpy,scipy和线性的分类器(图像上面,比如knn),还讲了下一些损失函数 一:numpy,scipy和线性的分类器(图像上面,比如knn)主要讲代码 注意;axis=0 表示列 axis=1表示行 numpy.random.rand(d0, d1, ..., dn)
阅读全文
摘要:梯度方向:上升的方向 梯度下降:沿着梯度的反方向下降,来最小化损失函数,也就是沿着梯度的反方向 泰勒级数:展开式通项 贝叶斯公式:后验概率=先验概率*条件概率 特征值与特征向量:特征值不同,特征向量线性无关 PCA:降维的同时尽可能的保留原始的信息 过程 1)先求解协方差矩阵 2)求解协方差矩阵的特
阅读全文