week4.1_神经网络

一、什么是神经网络：

脑（皮层）可以处理光、声音、触觉， eg 用舌头看世界。

用计算机模拟大脑，因此只需要一个算法就可以实现。

二、神经网络模型：

激励方程sigmoid=logic=activation function、权重weight

 

 

 

1. 输入层input，隐藏层hiden，输出层output

2.    a:第j层第i个neuron神经元（unit单元） activation： 由一个具体的神经元输入，得到一个输出值

      theta（j）：从 j 到 j+1 层映射的权重 矩阵

3. theta矩阵的维度

4.假设函数h 中大写的theta

 

1.前向传播： 输入层→隐藏层→输出层

2. theta^{（1）：从layer1 到layer2 的映射关系}

3. 例子

1.遮住之后和 逻辑回归类似（输出“x1，x2，x3”，得到假设函数），但是此处用a1，a2，a3 来代替x1，x2，x3，是作为前面“正真”特征向量的输出值

当采用不同的 theta^（1）时，会学习到不同的a1，a2，a3 ，可以用作优化。

 

 

 

 

 

神经网络学习复杂的非线性假设：逻辑运算

AND ：全1得1

OR：   有1得1

 

完成XNOR！

 

给了一个模式识别的视频，现将图片进行变化（拉伸、平移、色度反转）形成input，经行二层、三层（更加复杂的特征）的特征提取，最后完美识别出数字

图中给出了三个隐藏层的实例，一个比一个更细化特征（更复杂）

 

 

神经网络做多类别分类：

1. x^（i）：输入的图片 ，y^（i）：输出的值（行人、小车、摩托车、卡车，四维向量）

2. 一对多模型： one-vs-all

3.得到四个逻辑回归分类器