摘要: 梯度与反向传播 1、梯度(方向向量) 1.1 什么是梯度 梯度:是一个向量,导数+变化最快的方向(学习的前进方向) 目标:通过梯度调整(学习)参数\(w\),尽可能的降低\(loss\) 一般的,随机初始一个\(w0\),通过优化器在学习率和梯度的调整下,让\(loss\)函数取到最小值。 1.2 阅读全文
posted @ 2023-10-02 17:24 饮一杯天上水 阅读(369) 评论(0) 推荐(0)