随笔分类 - 3_数学(概率论等)
摘要:为什么样本方差(sample variance)的分母是 n-1 一、总结 一句话总结: 为1/n的分布倾向于低估σ^2,所以选1/(n-1) 【实际算出来就是n/(n-1)这样的关系】:$$E [ \frac { 1 } { n } \sum _ { i = 1 } ^ { n } ( X _ {
阅读全文
摘要:最大似然估计 一、总结 一句话总结: 极大似然估计:就是总体的某些参数未知,通过样本取样来估计这些参数,极大就是最大,似然就是可能性,合起来就是对参数的最大可能性估计 极大似然估计中的似然 就是估计参数,比如人口身高正态分布中的 均值和标准差 1、参数估计(似然函数) 概率图(实例)? 二、最大似然
阅读全文
摘要:为什么正态分布如此常见 一、总结 一句话总结: 【Normal Distribution】:正态分布的英文名为:Normal Distribution,台湾翻译为常态分布,可见一斑。 【数学定理或经验公式】:每个人都相信它(正态分布):实验工作者认为它是一个数学定理,数学研究者认为他是一个经验公式。
阅读全文
摘要:无偏估计量通俗易懂理解 一、总结 一句话总结: 概率论中的无偏估计中的偏就是机器学习中我们常常遇见的偏差bias,方差也是对应的 二、无偏估计量通俗易懂理解(转) 转自:https://www.matongxue.com/madocs/808 现实中常常有这样的问题,比如,想知道全体女性的身高均值,
阅读全文
摘要:联合概率、边缘概率、条件概率 概念总结 一、总结 一句话总结: 条件概率:设A,B是两个事件,且P(B)>0,则在事件B发生的条件下,事件A发生的条件概率(conditional probability)为:P(A|B)=P(AB)/P(B) 联合概率:联合概率指的是包含多个条件且所有条件同时成立的
阅读全文
摘要:概率论疑难问题 1、通俗理解全概率公式和贝叶斯公式 一、总结 一句话总结: 全概率就是表示达到某个目的,有多种方式,每种方式又有对应的成功率,问达到目的的概率是多少?具体做法就是把达到目的的所有情况的概率加起来就好 全概率公式:$$P ( B ) = \sum _ { i = 1 } ^ { n }
阅读全文
摘要:宋浩《概率论与数理统计》笔记 概率论总结 一、总结 一句话总结: 【基本概念】:概率论也就是先讲概率的一些基本知识,然后讲随机变量和一些常用的分布 【一维】:一维的分布将完了,肯定要讲多维的分布的,然后要讲一些期望和方差等数字特征 【一般规律】:然后讲事情的一般规律(也就是大数定理和中心极限定理)
阅读全文
摘要:宋浩《概率论与数理统计》笔记 查漏补缺 一、总结 一句话总结: 弄完什么东西之后,总结的过程或者说查漏补缺的过程特别特别重要,这样做了之后,那些东西才能真正变成你的 1、随机变量的概念? 【点与数字联系起来】:为了便于描述和解决问题,往往需要对每一个可能的结果指定一个数值,随机变量可以将样本空间中的
阅读全文
摘要:宋浩《概率论与数理统计》笔记 7.2、点估计的优良性准则 一、总结 一句话总结: 点估计的优良性准则:无偏性:估计值的期望 是它的真实的值 1、点估计的优良性准则:实例? 2、置信区间两个关键变量? 1、区间长度;2、以多大概率落在区间中 二、内容在总结中 博客对应课程的视频位置:
阅读全文
摘要:宋浩《概率论与数理统计》笔记 7.1.2、参数估计-极大似然估计 一、总结 一句话总结: 概率大的事件比概率小的事件更容易发生 将使A发生的P最大的参数值作为估计值 极大似然估计:就是总体的某些参数未知,通过样本取样来估计这些参数,极大就是最大,似然就是可能性,合起来就是对参数的最大可能性估计 1、
阅读全文
摘要:宋浩《概率论与数理统计》笔记 7.1.1、参数估计-点估计 一、总结 一句话总结: 参数估计:【就是用样本的值来猜总体分布的参数值】:用样本构造函数来估计参数的值 比如班上同学身高服从正态分布,但是这个正态分布的均值μ和方差σ^2我们不知道,这个时候我们可以取80个同学测身高,会得到一个具体的正态分
阅读全文
摘要:正态分布、卡方分布、t分布、F分布是什么 一、总结 一句话总结: 正态分布:若随机变量X服从一个数学期望为μ、方差为σ2的高斯分布,记为N(μ,σ2)。其概率密度函数为正态分布的期望值μ决定了其位置,其标准差σ决定了分布的幅度。 二、正态分布、卡方分布、t分布、F分布是什么 具体可以去参照这篇博客:
阅读全文
摘要:宋浩《概率论与数理统计》笔记 6.2.1、统计量定义 一、总结 一句话总结: 统计量定义:不含任何未知参数的样本的函数。 1、常用统计量? 均值、样本方差、标准差、原点矩、中心距等都是常用统计量 2、样本均值和样本方差的性质? X上面一条线是样本的均值,所以第一个的意思就是样本的均值也是μ,第二个就
阅读全文
摘要:宋浩《概率论与数理统计》笔记 6.1、总体与样本 一、总结 一句话总结: 总体就是全体集合,样本就是抽的样本 1、样本变量与样本观测值? 样本变量是Xi,样本观测值是xi 2、总体与样本 性质? 都是这样直接乘开,无论连续型还是离散型 3、总体与样本:实例? 最后面那部分,就是按性质直接乘开 二、内
阅读全文
摘要:宋浩《概率论与数理统计》笔记 5.2、中心极限定理 一、总结 一句话总结: 中心极限定理:大量独立同分布的变量和的极限分布是正态分布:如果样本量足够大,则变量均值的采样分布将近似于正态分布,而与该变量在总体中的分布无关。 标准化之后,期望为0,方差为1,没标准化的话,期望为为nμ,方差为nσ^2 1
阅读全文
摘要:通俗理解中心极限定理 一、总结 一句话总结: 中心极限定理(CLT)指出,如果样本量足够大,【则变量均值的采样分布将近似于正态分布,而与该变量在总体中的分布无关】。 1、0-1均匀分布取点例子? 随着我们从均匀分布中抽取越来越多的随机样本,并在直方图上绘制样本均值,我们得到一个正态分布结果如下(见右
阅读全文
摘要:宋浩《概率论与数理统计》笔记 5.1.2、切比雪夫大数定理 一、总结 一句话总结: 变量均值收敛于期望均值 1、依概率收敛? 收敛就是不断逼近 依概率收敛就是主体趋势还是不断逼近,但是时不时就有几个点崩出来,但是不影响整体节奏 二、内容在总结中 博客对应课程的视频位置:
阅读全文
摘要:切比雪夫大数定律、伯努利大数定律、辛钦大数定律三者关系 一、总结 一句话总结: 伯努利大数定律是人类历史上第一个严格证明的大数定律,它是辛钦大数定律的特殊情况。 【互不特例】:切比雪夫大数定律和辛钦大数定律针对的是两种不同的情况,谁也不是谁的特例。 1、伯努利大数定律? 【历史意义】:伯努利大数定律
阅读全文
摘要:宋浩《概率论与数理统计》笔记 5.1、大数定理 一、总结 一句话总结: 大数定理:大量重复试验的平均结果(期望)的稳定性。 切比雪夫不等式:描述了这样一个事实,事件大多会集中在平均值附近。 1、切比雪夫不等式? 切比雪夫不等式:描述了这样一个事实,事件大多会集中在平均值附近。 切比雪夫不等式 就是期
阅读全文
摘要:切比雪夫不等式 一、总结 一句话总结: 【事件大多会集中在平均值附近】:切比雪夫不等式,描述了这样一个事实,事件大多会集中在平均值附近。 切比雪夫不等式:$$P ( | X - \mu | \geq k \sigma ) \leq \frac { 1 } { k ^ { 2 } }$$ 其中 k>0
阅读全文