摘要：
一 批标准化 (batch normalization) 1.1 批标准化 Batch Normalization是Google2015年在论文：http://jmlr.org/proceedings/papers/v37/ioffe15.pdf中提出来的 训练深层的神经网络很复杂，因为训练时每一层 阅读全文
posted @ 2018-03-30 11:07
大奥特曼打小怪兽
阅读(2498)
评论(0)
推荐(0)
摘要：
一 mini batch 1.1 小批量梯度下降 $$w \to w' = w - η\frac{∂C}{∂w}\approx w - \frac{η}{m}\sum_{j}\frac{∂C_{X_j}}{∂w}$$$$b \to b' = b - η\frac{∂C}{∂b}\approx b - 阅读全文
posted @ 2018-03-29 09:11
大奥特曼打小怪兽
阅读(1507)
评论(0)
推荐(0)
摘要：
一 theano内置数据类型 一 theano内置数据类型 只有thenao.shared()类型才有get_value()成员函数（返回numpy.ndarray）？ 1. 惯常处理 x = T.matrix('x') # the data is presented as rasterized i 阅读全文
posted @ 2018-03-27 22:07
大奥特曼打小怪兽
阅读(936)
评论(0)
推荐(0)
摘要：
先声明：theano模块的内容大都是参考来源于网上，并亲手实践复现一遍，也有部分内容是自己补充 本文会列出所参考文章，如有版权问题，请联系我，我会及时删除 '''x= T.dscalar('x')y= T.dscalar('y')z = x + yf = theano.function([x,y], 阅读全文
posted @ 2018-03-27 22:07
大奥特曼打小怪兽
阅读(527)
评论(0)
推荐(0)
摘要：
先声明：theano模块的内容大都是参考来源于网上，并亲手实践复现一遍，也有部分内容是自己补充 本文会列出所参考文章，如有版权问题，请联系我，我会及时删除 阅读全文
posted @ 2018-03-27 22:07
大奥特曼打小怪兽
阅读(331)
评论(0)
推荐(0)
摘要：
这部分内容是我在看Andreg Ng深度学习视频，然后又阅读了一些文章整理后记录下来的。视频连接：http://mooc.study.163.com/smartSpec/detail/1001319001.htm 一 训练集，校验集，测试集以及偏差和方差 1.1 训练集，校验集，以及测试集 训练集： 阅读全文
posted @ 2018-03-27 16:02
大奥特曼打小怪兽
阅读(1179)
评论(0)
推荐(0)
摘要：
4.神经网络可以计算任何函数的可视化证明 神经网络拥有一定的普遍性，即包含一个隐藏层的神经网络可以被用来按照任意给定的精度来近似任何连续函数。 这一章使用一个实例来阐述神经网络是如何来近似一个一元函数，和一个二元函数，并扩展到一个多元的实值函数。 5.深度神经网络为何很难训练 这一章讲述了在深度网络 阅读全文
posted @ 2018-03-24 20:04
大奥特曼打小怪兽
阅读(666)
评论(0)
推荐(0)
摘要：
在这一节，我们对上一个程序(Network1.py)进行了优化 3.改进神经网络的学习方法 (1)交叉熵代价函数的引入 Network1程序采用了S型神经元，S型神经元存在一个问题，当输出层神经元的输出接近0，或者1的时候，sigmoid函数曲线相当平导致此时sigmoid函数的导数很小，当选择二次 阅读全文
posted @ 2018-03-24 17:05
大奥特曼打小怪兽
阅读(731)
评论(0)
推荐(0)
摘要：
最近花了半个多月把Mchiael Nielsen所写的Neural Networks and Deep Learning这本书看了一遍，受益匪浅。 该书英文原版地址地址：http://neuralnetworksanddeeplearning.com/ 回顾一下这本书主要讲的内容 1.使用神经网络识 阅读全文
posted @ 2018-03-24 15:29
大奥特曼打小怪兽
阅读(1466)
评论(0)
推荐(1)
摘要：
本博文主要是较为直观的理解卷积神经网络的工作原理，明白卷积神经网络是怎么工作的(转载) 近日，Dishashree Gupta 在 Analyticsvidhya 上发表了一篇题为《Architecture of Convolutional Neural Networks (CNNs) demyst 阅读全文
posted @ 2018-03-24 08:15
大奥特曼打小怪兽
阅读(1905)
评论(0)
推荐(1)
浙公网安备 33010602011771号