联合分布蕴含一切信息,但? 但在实际计算时,并非如此。 我们总是喜欢解析的表达式,但从解析的联合分布并不一定能容易地得到解析的条件分布: \[ p(\theta|D)=\frac{p(\theta,D)}{p(D)}=\frac{p(D|\theta)p(\theta)}{\int p(D|\the Read More
posted @ 2021-12-25 23:34 又是被方方push的一天 Views(354) Comments(4) Diggs(1)
既然总是要加正则的,那为什么不直接用贝叶斯? 我记得以前总是诟病贝叶斯的先验很“主观”,不够数学。但逐渐发现ML或现代统计学中的一些方法明明就是很主观,但是很有效。而且最开始的经典模型里面,也加入了所谓的惩罚项或者正则项。 而我们知道这等价于贝叶斯框架下的先验分布。 问题 也许是计算上的问题吧,理论 Read More
posted @ 2021-12-25 11:34 又是被方方push的一天 Views(44) Comments(0) Diggs(0)
有了分布就能从分布中采样吗? 我能想到两种办法: 经典的:如果我们会从均匀分布中采样,那样本点似乎经过$F^{-1}$的作用,就能变换到$F$​的分布中,完事儿。理论上如此,但$p(x)$解析的时候,$F(x)$是不是不一定解析啊,那该如何办呢?实际操作的时候是不是有数值上的近似? 我想的:如果我们 Read More
posted @ 2021-12-25 11:34 又是被方方push的一天 Views(100) Comments(0) Diggs(1)