(18)tensorflow误差loss简介

误差loss, $\mathrm{E}$

误差计算

$\mathrm{E}=g(f_{\theta }(x),y)$

• $f_{\theta }(x)$为当前模型下y的预测值
• $g(.)$为误差的计算方式

优化目标

• 根据训练集计算，寻找一组$\theta$使得loss最小
• 公式表达为：${\theta }^{\ast }=argming(f_{\theta }(x,y)),x\in D^{train}$

梯度下降法更新参数

${\theta }^{{}^{\prime }}=\theta -\eta \ast {▽}_{\theta }\ast \mathrm{E}$
$\eta$:学习率
${▽}_{\theta }$:梯度
$\mathrm{E}$:误差loss