niudun0917

摘要： 上一章中，我们学习到深度网络比浅层网络难以训练。这很可惜，因为我们有充分的理由相信，如果我们可以训练深度网络，它将比浅层网络强大很多。虽然上一章的消息很令人沮丧，但是我们不会放弃。本章中，我们来看看一些可以训练深度网络的技术。我们还将看看更广阔的画面，看看深度网络最近取得的进展，在图像识别，语音识别 阅读全文

摘要： 想象一下你是一位工程师，需要从头开始设计一台电脑。有一天你正在办公室里设计你的逻辑电路，设置AND门，OR门，等等，然后你的老板进来了，带来一个坏消息：客户加了一个不可思议的需求，就是整个电脑的设计必须只包含两层，如下图： 你彻底傻了，跟老板抱怨：客户疯了吧。 老板说：我也觉得他们疯了，但是客户是上 阅读全文

摘要： 一个高尔夫球手练习高尔夫球时会花绝大多数时间练习基本的挥杆动作。在基本的挥杆动作的基础上，逐渐的才会练习其他动作。相似的，目前为止我们一直专注在理解BP算法， 它是我们的基础”挥杆”动作，学习神经网络的基础。这章中我会解释一些用来提升BP算法的技术，以提高神经网络的学习。 本章介绍的技术包括：1，新 阅读全文

摘要： 上一章中我们学习了神经网络怎么通过梯度下降算法学习权重和偏移的。但是我们的讨论中缺了一块：我们没有讨论如何去计算损失函数的梯度。本章中，我将介绍一个计算梯度的快速算法：逆向传播算法(backpropagation)。 BP算法在1970年代首次被提出，但是直到David Rumelhart, Geo 阅读全文

摘要： 人类视觉系统是比较神奇的存在之一。考虑下面的数字手写体： 大部分人可以毫不费力的识别出这些数字：504192。其实这个识别的过程并没有想象的那么简单容易。人类大脑的两个半球，各有一个主要的视觉皮层，被称为V1，包含1400万神经元，百亿级别的的神经链接。并且人类的视觉处理不仅V1参与，整个一系列的视 阅读全文