摘要：
损失函数前面说过，是作为衡量模型输出与真实标签间的差异 在学习过程中，我们常常听到代价函数（cost function），目标函数（objective function）这些和损失函数区别和联系如下： 损失函数，一般用来衡量样本（或一批(batch)样本）中输出与真实标签的差异(即考虑单样本) 公式 阅读全文
摘要：
先区别一下前向传播和反向传播 前向传播是输入层输入的数据（即样本）开始从前向后，一步步将数据传输到输出层，反向传播即反过来，从后向前一步步还原到输入层。 反向传播的作用就是用于权重的更新，使神经网络的结果更接近于标签 那么怎么衡量这个接近呢？我们要用到损失函数loss，来衡量模型的输出与真实标签的差 阅读全文
摘要：
1多层感知机 定义：多层感知机是在单层神经网络上引入一个或多个隐藏层，即输入层，隐藏层，输出层 2多层感知机的激活函数： 如果没有激活函数，多层感知机会退化成单层 多层感知机的公式： 隐藏层 H=XWh+bh 输出层 O=HW0+b0=(XWh+bh)W0+b0=XWhW0+b0W0+b0 其中XW 阅读全文
摘要：
学习目标：学习神经网络的定义，历程，相关公式 1 神经网络的定义： 从人类的神经网络抽象出的数学模型（即M-P模型） （人类神经元） 在人类的神经网络中，树突用来接收信息，细胞核用来处理信息，轴突用来传输信息给下一个细胞核，轴突末梢用来输出信息，1943年后，提出了人工的神经元 (人工神经元) 其中 阅读全文