摘要： [TOC] 前言 前两篇博客（ "从贝叶斯角度理解正则化" 、 "正则化" ）分别介绍了提前终止法和正则化法。 它们可以近似等价的吗？怎么近似等价？ 左边这张图轮廓线表示负对数似然函数的轮廓，虚线表示从原点开始的SGD所经过的轨迹。提前终止法的轨迹在较早的$\tilde \omega $点终止，而不 阅读全文

摘要： [TOC] 前言 上一篇： "正则化" 下一篇： "贝叶斯正则化与提前终止法关系" 1.贝叶斯法则 贝叶斯法则： $P(A|B) = \frac{P(B|A)P(A)}{P(B)}$ $P(A)$称为先验概率（反映在已知$B$之前对事件$A$的认知）；$P(A|B)$称为后验概率（反映在已知$B$之 阅读全文