摘要：1.目标函数（objective function）或准则（criterion） 要最小化或最大化的函数 最小化时，我们也把它称为代价函数（cost function）、损失函数（loss function）或误差函数（error function） 一个上标 ∗ 表示最小化或最大化函数的 x 值。 阅读全文

摘要：1.舍入误差 下溢： 接近零的数被四舍五入为零时发生下溢 避免被零除 避免取零的对数 上溢： 大量级的数被近似为∞ 或 −∞ 时发生上溢 softmax 函数对上溢和下溢进行数值稳定 2.病态条件 输入中的舍入误差可能导输出的巨大变化 考虑函数 f(x) = A −1 x。当 A ∈ R n×n 具 阅读全文