随笔分类 -  深度学习

摘要:一、原理 重点:明白偏导数含义,是该函数在该点的切线,就是变化率,一定要理解变化率。 1)什么是梯度 梯度本意是一个向量(矢量),当某一函数在某点处沿着该方向的方向导数取得该点处的最大值,即函数在该点处沿方向变化最快,变化率最大(为该梯度的模)。 2)代价函数有哪些 0-1损失函数(0-1 loss 阅读全文
posted @ 2017-12-20 22:33 下路派出所 阅读(2134) 评论(1) 推荐(0)
摘要:怎样理解非线性变换和多层网络后的线性可分,神经网络的学习就是学习如何利用矩阵的线性变换加激活函数的非线性变换 线性可分: 一维情景:以分类为例,当要分类正数、负数、零,三类的时候,一维空间的直线可以找到两个超平面(比当前空间低一维的子空间。当前空间是直线的话,超平面就是点)分割这三类。但面对像分类奇 阅读全文
posted @ 2017-12-20 21:05 下路派出所 阅读(1833) 评论(0) 推荐(0)
摘要:GAN所建立的一个学习框架,实际上就是生成模型和判别模型之间的一个模仿游戏。生成模型的目的,就是要尽量去模仿、建模和学习真实数据的分布规律;而判别模型则是要判别自己所得到的一个输入数据,究竟是来自于真实的数据分布还是来自于一个生成模型。通过这两个内部模型之间不断的竞争,从而提高两个模型的生成能力和判 阅读全文
posted @ 2017-12-10 17:57 下路派出所 阅读(561) 评论(0) 推荐(0)
摘要:1.先安装python3.6版本 a.安装完成后在cmd中输入python,如果出现python命令行模式,则说明python安装成功。 2.在cmd中输入pip3 install --upgrade tensorflow ,直至安装完成。 3.在python命令行中输入import tensorf 阅读全文
posted @ 2017-11-24 23:43 下路派出所 阅读(3472) 评论(0) 推荐(0)
摘要:降维: 比如某次卷积之后的结果是W*H*6的特征,现在需要用1*1的卷积核将其降维成W*H*5,即6个通道变成5个通道: 通过一次卷积操作,W*H*6将变为W*H*1,这样的话,使用5个1*1的卷积核,显然可以卷积出5个W*H*1,再做通道的串接操作,就实现了W*H*5。 升维: 比如某次卷积之后的 阅读全文
posted @ 2017-11-22 20:06 下路派出所 阅读(7013) 评论(0) 推荐(0)
摘要:1.人工神经网络 神经网络由大量的节点(或称“神经元”、“单元”)和相互连接而成。每个神经元接受输入的线性组合,进行非线性变换(亦称激活函数activation function)后输出。每两个节点之间的连接代表加权值,称之为权重(weight)。不同的权重和激活函数,则会导致神经网络不同的输出。 阅读全文
posted @ 2017-09-22 21:03 下路派出所 阅读(602) 评论(0) 推荐(0)