结课归纳

麦卡洛克-皮特斯（McCulloch-Pitts ）模型是一个多输入单输出的神经元模型（y= wx+b），该神经元有兴奋和抑制两种性能，能进行时间加权和空间加权。在此基础上，Rosenblatt感知器给了神经元调参的能力。Rosenblatt感知器的参数修正函数是方差代价函数，通过方差代价函数对参数进行梯度下降与反向传播（权重：w_i=w_i-e_wi，偏置参数：b=b-e_b）。由于输入是线性函数，若不引入非线性函数，输出函数合成的永远只能是线性函数，故引入激活函数的概念。激活函数赋予了模型模拟非线性函数的能力。

而在传入参数前一般需要进行参数的归一化，归一化操作能加速数据梯度下降（让数据斜率更陡）。