随笔分类 -  概率&统计

分位数(quantiles)、Z-score 与 F-score
摘要:0. 分位数(quantiles)因为累计分布函数(cdf,F−1)是单调增函数,因此其有反函数,不妨记为 F−1。其真实的含义在于,如果 F 是 X 的 cdf,则 F−1(α) 的函数值为:P(X≤xα)=α这称为 α-分位;F−1 的自变量是概率,1. Z-sc... 阅读全文
posted @ 2016-11-04 20:00 未雨愁眸 阅读(679) 评论(0) 推荐(0)
分位数(quantiles)、Z-score 与 F-score
摘要:0. 分位数(quantiles)因为累计分布函数(cdf,F−1)是单调增函数,因此其有反函数,不妨记为 F−1。其真实的含义在于,如果 F 是 X 的 cdf,则 F−1(α) 的函数值为:P(X≤xα)=α这称为 α-分位;F−1 的自变量是概率,1. Z-sc... 阅读全文
posted @ 2016-11-04 20:00 未雨愁眸 阅读(1180) 评论(0) 推荐(0)
贝叶斯公式的转换
摘要:对条件概率可以天然地引入贝叶斯公式作进一步的转换。1. 引入辅助变量由边缘概率的定义可知:P(B|D)≡∫∞−∞P(B,p|D)dp对 P(B,p|D) 做进一步的展开,又有:P(B,p|D)=P(B,p,D)P(D)=P(B|p,D)⋅P(p,D)P(D)=P(... 阅读全文
posted @ 2016-11-01 23:20 未雨愁眸 阅读(289) 评论(0) 推荐(0)
贝叶斯公式的转换
摘要:对条件概率可以天然地引入贝叶斯公式作进一步的转换。1. 引入辅助变量由边缘概率的定义可知:P(B|D)≡∫∞−∞P(B,p|D)dp对 P(B,p|D) 做进一步的展开,又有:P(B,p|D)=P(B,p,D)P(D)=P(B|p,D)⋅P(p,D)P(D)=P(... 阅读全文
posted @ 2016-11-01 23:20 未雨愁眸 阅读(317) 评论(0) 推荐(0)
联合概率(joint probability)、分布函数(distribution function)
摘要:0. PMF 与 PDF 的记号PMF:PX(x)PDF:fX(x)1. 联合概率联合概率:是指两个事件同时发生的概率。P(A,B)=P(B|A)⋅P(A)⇒P(B|A)=P(A,B)P(A)因此当两事件独立时,P(A,B)=P(A)⋅P(B),此时,P(B|A)=P... 阅读全文
posted @ 2016-10-29 16:54 未雨愁眸 阅读(4768) 评论(0) 推荐(0)
联合概率(joint probability)、分布函数(distribution function)
摘要:0. PMF 与 PDF 的记号PMF:PX(x)PDF:fX(x)1. 联合概率联合概率:是指两个事件同时发生的概率。P(A,B)=P(B|A)⋅P(A)⇒P(B|A)=P(A,B)P(A)因此当两事件独立时,P(A,B)=P(A)⋅P(B),此时,P(B|A)=P... 阅读全文
posted @ 2016-10-29 16:54 未雨愁眸 阅读(1075) 评论(0) 推荐(0)
从贝叶斯模型(Bayes)到生成模型(Generative models)(生成式分类器,generative classifier)
摘要:0. 基于贝叶斯公式的生成式分类器生成式分类器(generative classifier)即是已知类别得样本:p(y=c|x,θ)∝p(x|y=c,θ)p(y=c|θ)p(x|y=c,θ) 称为类条件概率(class-conditional probability/... 阅读全文
posted @ 2016-10-29 13:23 未雨愁眸 阅读(551) 评论(0) 推荐(0)
从贝叶斯模型(Bayes)到生成模型(Generative models)(生成式分类器,generative classifier)
摘要:0. 基于贝叶斯公式的生成式分类器生成式分类器(generative classifier)即是已知类别得样本:p(y=c|x,θ)∝p(x|y=c,θ)p(y=c|θ)p(x|y=c,θ) 称为类条件概率(class-conditional probability/... 阅读全文
posted @ 2016-10-29 13:23 未雨愁眸 阅读(246) 评论(0) 推荐(0)
多元高斯分布及多元条件高斯分布
摘要:高斯那些公式 已知 D 维向量 x,其高斯概率分布为:N(x|μ,Σ)==1(2π)D/21|Σ|1/2exp(−12(x−μ)TΣ−1(x−μ))1|Σ|(2π)D−−−−−−−√exp(−12(x−μ)TΣ−1(x−μ))显然默认 x 是一个列向量还需注意的是,... 阅读全文
posted @ 2016-10-29 13:06 未雨愁眸 阅读(433) 评论(0) 推荐(0)
多元高斯分布及多元条件高斯分布
摘要:高斯那些公式 已知 D 维向量 x,其高斯概率分布为:N(x|μ,Σ)==1(2π)D/21|Σ|1/2exp(−12(x−μ)TΣ−1(x−μ))1|Σ|(2π)D−−−−−−−√exp(−12(x−μ)TΣ−1(x−μ))显然默认 x 是一个列向量还需注意的是,... 阅读全文
posted @ 2016-10-29 13:06 未雨愁眸 阅读(1271) 评论(0) 推荐(0)
方差与样本方差、协方差与样本协方差
摘要:0. 独立变量乘积的方差独立变量积的方差与各自期望方差的关系:Var(XY)=[E(X)]2Var(Y)+[E(Y)]2Var(X)+Var(X)Var(Y)=[E(X)]2Var(Y)+[E(Y)]2Var(X)+2Var(X)Var(Y)−Var(X)Var(Y)... 阅读全文
posted @ 2016-10-22 20:37 未雨愁眸 阅读(900) 评论(0) 推荐(0)
方差与样本方差、协方差与样本协方差
摘要:0. 独立变量乘积的方差独立变量积的方差与各自期望方差的关系:Var(XY)=[E(X)]2Var(Y)+[E(Y)]2Var(X)+Var(X)Var(Y)=[E(X)]2Var(Y)+[E(Y)]2Var(X)+2Var(X)Var(Y)−Var(X)Var(Y)... 阅读全文
posted @ 2016-10-22 20:37 未雨愁眸 阅读(1704) 评论(0) 推荐(0)
统计推断(statistical inference)
摘要:样本是统计推断的依据;统计推断的基本问题可以分为两大类:估计问题 点估计,区间估计假设检验1. 点估计设总体 X 的分布函数 F(x;θ) 的形式已知,θ 是待估参数。X1,X2,…,Xn 是 X 的一个样本,x1,x2,…,xn 是相应的一个样本值。点估计问题就... 阅读全文
posted @ 2016-10-22 20:22 未雨愁眸 阅读(1972) 评论(0) 推荐(0)
统计推断(statistical inference)
摘要:样本是统计推断的依据;统计推断的基本问题可以分为两大类:估计问题 点估计,区间估计假设检验1. 点估计设总体 X 的分布函数 F(x;θ) 的形式已知,θ 是待估参数。X1,X2,…,Xn 是 X 的一个样本,x1,x2,…,xn 是相应的一个样本值。点估计问题就... 阅读全文
posted @ 2016-10-22 20:22 未雨愁眸 阅读(421) 评论(0) 推荐(0)
概率空间
摘要:概率空间不是简单的样本空间。概率空间 (Ω,F,P),样本空间 Ω 显然不是一回事。1. 定义概率空间是概率论的基础。概率的严格定义基于这个概念。 概率空间 (Ω,F,P) 是一个总测度为1的测度空间(即 P(Ω)=1,Ω 表示的是样本空间).1)我们要有一个集合... 阅读全文
posted @ 2016-10-08 22:05 未雨愁眸 阅读(359) 评论(0) 推荐(0)
概率空间
摘要:概率空间不是简单的样本空间。概率空间 (Ω,F,P),样本空间 Ω 显然不是一回事。1. 定义概率空间是概率论的基础。概率的严格定义基于这个概念。 概率空间 (Ω,F,P) 是一个总测度为1的测度空间(即 P(Ω)=1,Ω 表示的是样本空间).1)我们要有一个集合... 阅读全文
posted @ 2016-10-08 22:05 未雨愁眸 阅读(998) 评论(0) 推荐(0)
从二项分布到泊松分布再到正态分布
摘要:如果忽略分布是离散还是连续的前提(二项分布和泊松分布一样都是离散型概率分布,正态分布是连续型概率分布),二项分布与泊松分布以及正态分布至少在形状上是十分接近的,也即两边低中部高。由从 Poisson 分布到服务器的访问 可知,当 n 足够大,p 足够小(还记得泊松分布... 阅读全文
posted @ 2016-09-25 21:31 未雨愁眸 阅读(232) 评论(0) 推荐(0)
从二项分布到泊松分布再到正态分布
摘要:如果忽略分布是离散还是连续的前提(二项分布和泊松分布一样都是离散型概率分布,正态分布是连续型概率分布),二项分布与泊松分布以及正态分布至少在形状上是十分接近的,也即两边低中部高。由从 Poisson 分布到服务器的访问 可知,当 n 足够大,p 足够小(还记得泊松分布... 阅读全文
posted @ 2016-09-25 21:31 未雨愁眸 阅读(547) 评论(0) 推荐(0)
集合的代数运算
摘要:(A∩B)⊆A,(A∩B)⊆B1. 分配率A∩(B∪C)=(A∩B)∪(A∩C)A∪(B∩C)=(A∪B)∩(A∪C)2. 吸收率A∩(A∪B)=A,A∪(A∩B)=A,此二者是等价的;证明:A∪(A¯∩B)=A∪B3. 简单的推演A∩B=B ⇒ B⊆A ... 阅读全文
posted @ 2016-09-17 10:51 未雨愁眸 阅读(496) 评论(0) 推荐(0)
集合的代数运算
摘要:(A∩B)⊆A,(A∩B)⊆B1. 分配率A∩(B∪C)=(A∩B)∪(A∩C)A∪(B∩C)=(A∪B)∩(A∪C)2. 吸收率A∩(A∪B)=A,A∪(A∩B)=A,此二者是等价的;证明:A∪(A¯∩B)=A∪B3. 简单的推演A∩B=B ⇒ B⊆A ... 阅读全文
posted @ 2016-09-17 10:51 未雨愁眸 阅读(367) 评论(0) 推荐(0)