神经网络训练最核心的三个环节

这是神经网络训练最核心的三个环节，它们构成一个循环，可以类比成学生做题、老师批改、学生订正的过程。

正向传播

数据从输入层一层一层往前传，经过每个神经元的加权求和与激活函数，最终在输出层得到预测结果。

比如图像分类任务，你把一张猫的照片输入网络，正向传播后网络输出「是猫的概率 0.7，是狗的概率 0.3」。这就是一次完整的正向计算。它的作用是让模型对当前输入做出预测，同时也是后续计算误差的前提。

反向传播

拿到预测结果后，先算损失——比如预测是猫的概率只有 0.7，而真实标签是 1.0，这个差距就是误差。反向传播要把这个误差从输出层往回传，逐层计算每个参数对最终误差的贡献程度，也就是梯度。

你可以把它理解为追责。最终答案错了，要一层一层倒推：输出层权重负多大责任，前一层的权重又负多大责任，直到输入层附近。没有反向传播，你就不知道每个参数该往哪个方向调整。

梯度更新

知道了每个参数的梯度之后，就要实际修改参数了。通常的做法是沿着梯度的反方向走一小步，把权重往减小损失的方向挪动。这一步的大小由学习率控制。

比如某个权重当前是 0.5，梯度算出来是 0.2，学习率设为 0.01，那新权重就是 0.5 - 0.01 × 0.2 = 0.498。这个微小的调整会让下一次正向传播时，模型对这个样本的预测更接近正确答案。

三者的关系

正向传播负责「做题」，反向传播负责「找出哪里错了」，梯度更新负责「改正」。三个步骤反复循环成千上万次，模型的参数就逐渐收敛到能让整体损失最小化的状态，这时模型就训练好了。