既然总是要加正则的,那为什么不直接用贝叶斯?
既然总是要加正则的,那为什么不直接用贝叶斯?
我记得以前总是诟病贝叶斯的先验很“主观”,不够数学。但逐渐发现ML或现代统计学中的一些方法明明就是很主观,但是很有效。而且最开始的经典模型里面,也加入了所谓的惩罚项或者正则项。
而我们知道这等价于贝叶斯框架下的先验分布。
问题
也许是计算上的问题吧,理论上漂亮,计算上未必优雅。还得再想想。
我记得以前总是诟病贝叶斯的先验很“主观”,不够数学。但逐渐发现ML或现代统计学中的一些方法明明就是很主观,但是很有效。而且最开始的经典模型里面,也加入了所谓的惩罚项或者正则项。
而我们知道这等价于贝叶斯框架下的先验分布。
也许是计算上的问题吧,理论上漂亮,计算上未必优雅。还得再想想。