摘要: 反向传播算法是大多数神经网络的基础,我们应该多花点时间掌握它。 还有一些技术能够帮助我们改进反向传播算法,从而改进神经网络的学习方式,包括: 选取更好的代价函数 正则化方法 初始化权重的方法 如何选择网络的超参 Cost Function 这里来看一个非常简单的神经元,我们输入1,期望它输出0。 我 阅读全文
posted @ 2018-06-06 20:07 Reinhard_Hsu 阅读(2006) 评论(0) 推荐(0) 编辑
摘要: 深度神经网络的学习基于两个关键技术: Stochastic Gradient Descent Backpropagation 利用 SGD 算法学习 Weights 和 Biases,利用 Backpropagation 算法来快速计算 Cost Function 的 Gradient 。 反向传播 阅读全文
posted @ 2018-06-06 20:05 Reinhard_Hsu 阅读(723) 评论(0) 推荐(0) 编辑
摘要: Artificial Neuron 人工神经元有: Perceptrons(感知机) Sigmoid Perceptron 感知机 input是多个二进制 , output是一个二进制 。 感知机规则 $$ output= \begin{cases} 0& \text{if } \sum_{j}w_ 阅读全文
posted @ 2018-06-06 20:00 Reinhard_Hsu 阅读(705) 评论(0) 推荐(0) 编辑