摘要: 对于一个随机变量x,当我们观察到它的一个具体取值时,我们得到了多少信息呢?如果有人告诉我们一个很不可能发生的事件发生了,我们得到的信息显然要多于我们被告知一个很可能发生的事件发生了。一定会发生的事件,说了跟没说一样,俗称“废话”,不包含信息。因此,信息的量化跟事件发生的概率有关。假设我们用h(x)来 阅读全文
posted @ 2017-12-17 21:10 happyyoung 阅读(147) 评论(0) 推荐(0)
摘要: 1、伯努利分布 对于二元随机变量x∈{0, 1},即x的取值要么是0,要么是1。假设x描述的是扔一枚损坏的硬币的结果(即正反面朝上的概率不一定相等),x=1表示正面朝上,概率为参数μ,即p(x=1 | μ) = μ,其中0≤μ≤1。显然,p(x=0 | μ) = 1-μ。因此,随机变量x关于参数μ的 阅读全文
posted @ 2017-12-17 11:03 happyyoung 阅读(397) 评论(0) 推荐(0)