反向传播

反向传播

将输入值与参数用向量的形式表示,神经网络可以简化为:

image-20230525191032420

损失函数为:

image-20230525191306308

反向传播:

损失函数的梯度即为损失函数对参数的偏导数,这一运用链式法则求导的过程,是从后往前反向进行的,所以称这个过程为反向传播。

image-20230525191523705

梯度为:

image-20230525192033848

posted @ 2023-05-25 19:21  同淋雪  阅读(131)  评论(0)    收藏  举报