随笔分类 - 概率论
摘要：1.期望 定义 \(E(x)=\sum\limits_{k=1}^{\infty}x_kp_k-离散型\) \(E(x)=\int_{-\infty}^{+\infty}xf(x)dx-连续型\) 性质 \(E(C)=C,C是常数\) \(E(CX)=CE(X),C是常数\) \(E(X+Y)=E(
阅读全文
摘要：1.概念 cdf-累计分布函数 pdf-概率密度函数 Gamma函数 2.常见分布-离散型 0-1分布/伯努利分布 随机变量X只可能有0，1两个值,S={0,1}，它的分布律是 \(P\left\{X=k\right\} = p^k(1-p)^{1-k}, k=0,1 (0<p<1)\) \(或者\
阅读全文
摘要：高斯过程描述 \(1.这里假定有人的一生，x轴是对应的时间(t_1,t_2,...,t_{100})，0-100岁，y轴是表现值(姑且这么定)\) \(2.每个时间点上都有一个对应的表现值随机变量(\xi_{t_1}，\xi_{t_2}...),这些都是随机变量，也就是是一个概率分布，所以每个点上都
阅读全文
摘要：1.指数族分布的标准形式 \(p(x|\eta) = h(x)g(\eta)exp\{\eta^Tu(x)\}\) \(B站白板推导也有一个指数族分布标准形式，两者是等价的\) \(p(x|\eta) = h(x)exp\{\eta^T\phi(x)- A(\eta)\}\) \(这里的u(x)=\
阅读全文
摘要：为了使得后验分布计算简单,为此引入共轭先验分布 #1.共轭分布族 \(设总体X的分布密度为p(x|\theta),F^*为\theta的一个分布族,\pi(\theta)为\theta的任意一个先验分布,\pi(\theta)\in F^*,若对样本的任意观测值x,\theta的后验分布h(\the
阅读全文
摘要：https://www.bilibili.com/video/BV17D4y1o7J2 wiki https://en.wikipedia.org/wiki/Metropolis%E2%80%93Hastings_algorithm 知乎-介绍了为什么pdf(loc=x_start)的好处 http
阅读全文
摘要：材料 https://www.bilibili.com/video/BV17D4y1o7J2 1.随机抽样问题 \(假设已知随机变量X的概率密度函数f(x),求X^2的期望?\) \(可以通过公式E(g(X))=\int_{-\infty}{+\infty}f(x)g(x)dx,令g(X)=X^2即
阅读全文
摘要：条件概率（Conditional Probability） \(对于离散随机向量(X,Y )，已知X = x的条件下，随机变量Y = y的条件概率为：\) \(p(y|x)=P(Y=y|X=x)=\frac{p(x,y)}{p(x)}\) #贝叶斯公式 \(两个条件概率p(y|x)和p(x|y)之间
阅读全文
摘要：正态分布 也叫高斯分布（Gaussian Distribution） \(一般记作,X\sim N(\mu,\sigma^2),\mu是平均数,\sigma^2是方差\) \(p(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2
阅读全文
摘要：PDF \(连续随机变量 𝑌 的概率分布一般用概率密度函数（ Probability\ Density\ Function ， PDF ）p(x) 来描述。\) \(\int_{-\infty}^{+\infty}p(x)dx=1\)
阅读全文
摘要：伯努利分布（Bernoulli Distribution） 在一次试验中，事件$A$出现的概率为$\mu$，不出现的概率为1 − \(\mu\)。若用变量X 表示事件A出现的次数，则$X$ 的取值为$0$和$1$，其相应的分布为 \(p(x)=\mu^x(1-\mu)^{1-x}\) 二项分布（Bi
阅读全文
摘要：线性回归模型 \(y=Ax+v,b是噪声\) \(v=y-Ax\) 附加了IID噪声的线性测量 \(iid是指独立同分布的意思\) \(y_i=a_i^Tx+v_i,i=1,...,m\) \(设v的概率密度函数为p_v\) \(则似然函数为\) \(p_{x}(y)=\prod_{i=1}^{m}
阅读全文
浙公网安备 33010602011771号