昆仑山:眼中无形心中有穴之穴人合一

夫君子之行,静以修身,俭以养德;非澹泊无以明志,非宁静无以致远。夫学须静也,才须学也;非学无以广才,非志无以成学。怠慢则不能励精,险躁则不能冶性。年与时驰,意与岁去,遂成枯落,多不接世。悲守穷庐,将复何及!

 

6.1假设检验基本概念

假设检验基本概念 详细讲解与推导

各位同学,今天我们系统讲解统计推断的核心支柱之一——参数假设检验。我从事数理统计教学与研究多年,见过太多同学对假设检验的逻辑、推导一知半解,今天我们从根源讲起,把每一个定义、每一步推导、每一个核心思想都讲透。

一、假设检验的定位与核心问题

统计推断有两大核心组成:参数估计假设检验

  • 参数估计:用样本数据,估计总体分布中未知参数的取值(点估计)或取值范围(区间估计),回答“参数大概是多少”的问题;
  • 假设检验:先对总体分布的参数(或分布形式)提出一个明确的“断言”(假设),再用样本数据判断这个断言是否成立,回答“这个断言对不对”的问题。

举个直观例子:元件寿命服从指数分布\(X \sim E(\theta^{-1})\),要求平均寿命不低于2000h,我们要判断这批元件是否合格。这就可以转化为:检验“\(\theta \geq 2000\)”这个断言是否成立,成立则合格,不成立则不合格——这就是典型的假设检验问题。

二、假设检验的核心要素:原假设与备择假设

1. 数学定义

设总体\(X\)的分布族为\(\{P_\theta, \theta \in \Theta\}\),其中\(\Theta\)是参数的所有可能取值构成的参数空间。我们把\(\Theta\)拆分为两个互不相交的子集\(\Theta_0\)\(\Theta_1\),满足:

\[\Theta_0 \cap \Theta_1 = \emptyset, \quad \Theta_0 \cup \Theta_1 \subseteq \Theta \]

则假设检验问题可以形式化表示为:

\[H_0: \theta \in \Theta_0 \longleftrightarrow H_1: \theta \in \Theta_1 \]

  • \(H_0\)原假设(零假设),是待检验的、保守的、默认成立的断言,也是我们试图通过样本证据去推翻的假设;
  • \(H_1\)备择假设(对立假设),是当原假设被推翻时,我们接受的断言,通常是研究目标、想要证实的结论。

2. 假设的分类:简单假设 vs 复合假设

类型 定义 数学形式 特点
简单假设 \(\Theta_0\)\(\Theta_1\)都仅包含一个单点 \(H_0: \theta = \theta_0 \longleftrightarrow H_1: \theta = \theta_1\) 假设完全确定了总体的分布,无其他未知参数
复合假设 \(\Theta_0\)\(\Theta_1\)包含多个点 \(H_0: \theta \leq 0.75 \longleftrightarrow H_1: \theta > 0.75\) 假设未完全确定总体分布,参数有多个可能取值

这里要特别强调:原假设和备择假设的设定不是随意的。我们始终把“保守的、无差别的、待推翻的”结论放在\(H_0\),把“新的、有差异的、待证实的”结论放在\(H_1\)。比如新药疗效检验,我们想证明新药比旧药好,就把“新药疗效不优于旧药”设为\(H_0\),把“新药疗效优于旧药”设为\(H_1\)——这是由假设检验的“反证法逻辑”决定的。

三、假设检验的核心思想:统计意义上的反证法

经典数学中的反证法逻辑是:先假设原命题成立,然后推导出一个与公理/已知条件矛盾的结果,从而证明原命题不成立。

但统计推断是基于随机样本的,不存在绝对的“矛盾”,我们用的是小概率事件原理小概率事件在一次随机试验中几乎不可能发生

假设检验的统计反证法逻辑,就是:

  1. 先假设原假设\(H_0\)成立;
  2. \(H_0\)成立的前提下,构造一个“小概率事件”(发生概率≤预先设定的显著性水平\(\alpha\),通常\(\alpha=0.05\));
  3. 用一次抽样的样本数据,看这个小概率事件是否发生:
    • 如果发生了:说明“\(H_0\)成立”这个前提有问题,因为小概率事件居然在一次试验中发生了,因此拒绝\(H_0\),接受\(H_1\)
    • 如果没发生:说明没有足够的证据推翻\(H_0\),因此不拒绝\(H_0\)(注意:不是“接受\(H_0\)”,只是没有足够证据推翻它)。

接下来,我们用教材中的例6.1.1,把这个逻辑和推导过程完完整整走一遍。

四、经典案例完整推导:二项分布单边检验

案例背景

我们要检验某种新药的治愈率是否不低于0.75。选取\(n=30\)名受试者,每个受试者的治愈情况用0-1变量表示:

\[X_i = \begin{cases} 1, & \text{第}i\text{个受试者治愈} \\ 0, & \text{第}i\text{个受试者未治愈} \end{cases}, \quad i=1,2,\dots,30\]

显然,\(X_i \sim b(1,\theta)\)(0-1分布),独立同分布,其中\(\theta\)是新药的治愈率。

步骤1:设定原假设与备择假设

我们的研究目标是证明“治愈率>0.75”,因此把保守的、待推翻的结论设为原假设:

\[H_0: \theta \leq 0.75 \longleftrightarrow H_1: \theta > 0.75 \]

这是一个复合假设检验问题,因为\(\Theta_0 = [0,0.75]\)\(\Theta_1 = (0.75,1]\)都包含无数个参数值。

步骤2:构造检验统计量

检验统计量是样本的函数,它的分布在\(H_0\)成立时是已知的,用来衡量样本与\(H_0\)的偏离程度。

这里,30个受试者的治愈总人数\(T = \sum_{i=1}^{30} X_i\),是最直观的统计量。根据二项分布的可加性,独立的0-1分布之和服从二项分布,因此:

\[T \sim b(30, \theta) \]

\(T\)的意义非常明确:治愈的总人数。\(T\)越大,说明治愈率\(\theta\)越高,越支持备择假设\(H_1\)\(T\)越小,越支持原假设\(H_0\)

步骤3:推导尾概率公式与不完全β函数的关系

我们需要计算“\(T\)大于等于某个临界值\(k\)”的概率,也就是二项分布的右尾概率:

\[P(T \geq k) = \sum_{i=k}^{30} P(T=i) = \sum_{i=k}^{30} \binom{30}{i} \theta^i (1-\theta)^{30-i} \]

其中\(\binom{30}{i} = \frac{30!}{i!(30-i)!}\)是组合数,代表从30个受试者中选\(i\)个治愈的组合数。

接下来我们证明:这个尾概率和正则化不完全β函数存在恒等关系:

\[\sum_{i=k}^{30} \binom{30}{i} \theta^i (1-\theta)^{30-i} = I_\theta(k, 30 - k + 1) \]

证明过程:

  1. 先给出正则化不完全β函数的定义:
    正则化不完全β函数\(I_\theta(a,b) = \frac{1}{B(a,b)} \int_0^\theta t^{a-1} (1-t)^{b-1} dt\)
    其中\(B(a,b) = \int_0^1 t^{a-1} (1-t)^{b-1} dt\)是β函数,对于正整数\(a,b\),β函数和阶乘的关系为:

    \[B(a,b) = \frac{(a-1)! (b-1)!}{(a+b-1)!} \]

    这里\(a=k\)\(b=30 -k +1 = 31 -k\),因此\(a+b=31\),代入得:

    \[B(k, 31 -k) = \frac{(k-1)! (30 -k)!}{30!} \]

    因此\(\frac{1}{B(k, 31 -k)} = \frac{30!}{(k-1)! (30 -k)!}\)

  2. 对不完全β函数的积分做分部积分:
    \(u=(1-t)^{30 -k}\)\(dv = t^{k-1} dt\),则\(du = -(30 -k)(1-t)^{29 -k} dt\)\(v = \frac{t^k}{k}\)
    根据分部积分公式\(\int u dv = uv|_0^\theta - \int v du\),得:

    \[\int_0^\theta t^{k-1} (1-t)^{30 -k} dt = \frac{\theta^k (1-\theta)^{30 -k}}{k} + \frac{30 -k}{k} \int_0^\theta t^k (1-t)^{29 -k} dt \]

  3. 重复分部积分,直到积分的幂次降为0:
    对右侧的积分继续分部积分,每一次分部积分都会把\((1-t)\)的幂次降1,\(t\)的幂次升1,最终会得到一个有限项的和,加上最后一个积分\(\int_0^\theta t^{30} dt = \frac{\theta^{31}}{31}\)

  4. 代入正则化不完全β函数的系数,化简每一项:
    把积分结果乘以\(\frac{30!}{(k-1)! (30 -k)!}\),第一项化简为:

    \[\frac{30!}{(k-1)! (30 -k)!} \times \frac{\theta^k (1-\theta)^{30 -k}}{k} = \frac{30!}{k! (30 -k)!} \theta^k (1-\theta)^{30 -k} = \binom{30}{k} \theta^k (1-\theta)^{30 -k} \]

    后续每一项都对应\(\binom{30}{i} \theta^i (1-\theta)^{30-i}\)\(i=k+1,k+2,\dots,30\)),所有项相加,恰好就是二项分布的右尾概率\(\sum_{i=k}^{30} \binom{30}{i} \theta^i (1-\theta)^{30-i}\)

    至此,恒等式得证。

步骤4:不完全β函数的单调性证明

我们需要证明:对固定的\(k\)\(I_\theta(k, 31 -k)\)是关于\(\theta\)的严格增函数

证明过程:

\(I_\theta(a,b)\)关于\(\theta\)求导,根据变上限积分求导的莱布尼茨公式:

\[\frac{d}{d\theta} I_\theta(a,b) = \frac{1}{B(a,b)} \times \theta^{a-1} (1-\theta)^{b-1} \]

因为\(\theta \in (0,1)\)\(a=k \geq 1\)\(b=31 -k \geq 1\),所以导数恒大于0,因此\(I_\theta(a,b)\)关于\(\theta\)严格递增。

这个单调性是整个检验的核心!它告诉我们:\(\theta\)越大,\(P(T \geq k)\)越大;\(\theta\)越小,\(P(T \geq k)\)越小。

步骤5:小概率事件的构造

我们取显著性水平\(\alpha=0.05\),也就是允许犯第一类错误的最大概率为5%。我们需要找到一个临界值\(k\),使得当\(H_0\)成立(\(\theta \leq 0.75\))时,\(P(T \geq k) \leq 0.05\)

根据单调性,\(P(T \geq k)\)\(\theta=0.75\)时取得最大值(因为\(\theta\)越大,概率越大),因此我们只需要让\(P(T \geq k | \theta=0.75) \leq 0.05\)即可。

查表计算得:

\[P(T \geq 27 | \theta=0.75) = I_{0.75}(27, 4) \approx 0.05 \]

结合单调性,当\(\theta \leq 0.75\)时:

\[P(T \geq 27 | \theta \leq 0.75) = I_\theta(27,4) \leq I_{0.75}(27,4) \approx 0.05 \]

这就意味着:当\(H_0\)成立时,\(T \geq 27\)是一个发生概率不超过5%的小概率事件。

步骤6:决策规则与否定域

根据小概率事件原理,我们得到决策规则:

  • 如果一次抽样得到的治愈总人数\(T \geq 27\):小概率事件发生了,我们拒绝\(H_0\),认为新药的治愈率>0.75;
  • 如果\(T < 27\):小概率事件没有发生,我们没有足够的证据推翻\(H_0\),因此不拒绝\(H_0\)

我们把所有拒绝\(H_0\)的样本点构成的集合,称为否定域(拒绝域),记为\(R\)。在这个案例中,否定域为:

\[R = \left\{ x: T(x) = \sum_{i=1}^{30} x_i \geq 27 \right\} \]

对应的,不拒绝\(H_0\)的样本集合称为接受域,是\(R\)的补集\(\overline{R} = \{x: T(x) < 27\}\)

五、假设检验的两类错误

统计推断是基于随机样本的,不可能100%正确,必然存在犯错的可能,我们把错误分为两类,定义如下:

真实情况 我们的决策 错误类型 定义 概率表示
\(H_0\)为真 拒绝\(H_0\) 第一类错误(弃真错误) 原假设是正确的,却被我们错误地拒绝了 \(\alpha = P(拒绝H_0 | H_0为真)\)
\(H_0\)为假 不拒绝\(H_0\) 第二类错误(取伪错误) 原假设是错误的,却被我们错误地保留了 \(\beta = P(不拒绝H_0 | H_0为假)\)

关键说明:

  1. 显著性水平\(\alpha\):预先设定的、允许犯第一类错误的最大概率,通常取0.05、0.01、0.1,是假设检验的“容错上限”。在我们的案例中,\(\alpha=0.05\),也就是最多允许5%的概率冤枉“合格的药”。
  2. 功效(势):当\(H_0\)为假时,我们正确拒绝\(H_0\)的概率,记为\(1-\beta\),也就是功效=1-第二类错误概率。功效越高,检验发现真实差异的能力越强。
  3. 两类错误的权衡:在样本量\(n\)固定的情况下,\(\alpha\)越小,\(\beta\)就越大;反之\(\alpha\)越大,\(\beta\)就越小。就像司法审判中,你越不想冤枉好人(降低\(\alpha\)),就越容易放过坏人(升高\(\beta\))。要同时降低两类错误的概率,唯一的方法是增加样本量\(n\)

比如在我们的案例中,如果把临界值从27提高到28,那么\(P(T \geq 28 | \theta=0.75) \approx 0.01\)\(\alpha\)降到了1%,第一类错误概率变小了;但同时,当\(\theta=0.8\)\(H_1\)成立)时,\(P(T \geq 28 | \theta=0.8)\)\(P(T \geq 27 | \theta=0.8)\)小,也就是功效变低了,第二类错误概率变大了。

六、p值(p-value)的定义与意义

p值是实际应用中最常用的检验指标,也是很多同学最容易误解的概念,我们给出严格定义:
p值是在原假设\(H_0\)成立的前提下,出现当前样本观测结果,或者比当前结果更极端的结果的概率。

用我们的案例解释:

  • 如果抽样得到\(T=28\),也就是治愈了28人,那么p值就是\(P(T \geq 28 | \theta=0.75) \approx 0.01\)
  • 如果抽样得到\(T=26\),也就是治愈了26人,那么p值就是\(P(T \geq 26 | \theta=0.75) \approx 0.1\)

p值的核心意义与决策规则:

p值越小,说明在\(H_0\)成立的前提下,当前结果越不可能发生,我们拒绝\(H_0\)的理由就越充分。
实际应用中,我们把p值和预先设定的显著性水平\(\alpha\)比较:

  • 如果\(p \leq \alpha\):拒绝\(H_0\)
  • 如果\(p > \alpha\):不拒绝\(H_0\)

重要提醒:

p值不是\(H_0\)成立的概率”,而是“在\(H_0\)成立的前提下,出现当前或更极端结果的概率”,这是统计学中最常见的误解之一,大家一定要记清楚。

七、假设检验的标准步骤

结合以上内容,我们总结出假设检验的通用标准步骤,所有参数假设检验都遵循这个流程:

  1. 提出假设:根据研究问题,明确总体参数,设定原假设\(H_0\)和备择假设\(H_1\)
  2. 设定显著性水平:根据研究场景,确定允许犯第一类错误的最大概率\(\alpha\)(通常\(\alpha=0.05\));
  3. 构造检验统计量:找到样本的函数,使其在\(H_0\)成立时的分布是已知的,能够衡量样本与\(H_0\)的偏离程度;
  4. 确定否定域:根据\(\alpha\)和检验统计量的分布,找到临界值,确定拒绝\(H_0\)的样本范围,保证\(H_0\)成立时样本落在否定域的概率≤\(\alpha\)
  5. 计算观测值与p值:根据样本数据,计算检验统计量的实际观测值,以及对应的p值;
  6. 做出统计决策:如果观测值落在否定域,或\(p \leq \alpha\),拒绝\(H_0\);否则不拒绝\(H_0\),结合业务场景给出结论。

核心知识点归纳总结表

表1 假设检验核心定义总表

概念名称 严格数学定义 案例对应内容 关键说明
原假设\(H_0\) \(H_0: \theta \in \Theta_0\)\(\Theta_0\)是参数空间的子集,待检验的保守断言 \(H_0: \theta \leq 0.75\),新药治愈率不超过0.75 是我们试图推翻的假设,通常包含等号
备择假设\(H_1\) \(H_1: \theta \in \Theta_1\)\(\Theta_0 \cap \Theta_1 = \emptyset\)\(H_0\)被推翻时接受的断言 \(H_1: \theta > 0.75\),新药治愈率超过0.75 是我们的研究目标,通常是想要证实的结论
简单假设 \(\Theta_0\)\(\Theta_1\)均为单点集,即\(H_0: \theta=\theta_0 \leftrightarrow H_1: \theta=\theta_1\) \(H_0: \theta=0.75 \leftrightarrow H_1: \theta=0.8\) 假设完全确定总体分布,无其他未知参数
复合假设 \(\Theta_0\)\(\Theta_1\)包含多个点 案例中的\(H_0: \theta \leq 0.75 \leftrightarrow H_1: \theta > 0.75\) 假设未完全确定总体分布,参数有多个可能取值
检验统计量 样本的函数\(T(X)\),在\(H_0\)成立时分布已知,用于衡量样本与\(H_0\)的偏离程度 \(T = \sum_{i=1}^{30} X_i \sim b(30,\theta)\),治愈总人数 是假设检验的核心工具,分布必须已知
否定域(拒绝域)\(R\) 样本空间中所有拒绝\(H_0\)的样本点构成的集合,满足\(P(X \in R | H_0为真) \leq \alpha\) \(R = \{x: \sum_{i=1}^{30} x_i \geq 27\}\) 样本落在\(R\)中则拒绝\(H_0\)
功效函数(势函数) \(\beta(\theta) = E_\theta[\phi(X)] = P_\theta(拒绝H_0)\)\(\phi(X)\)为检验函数 案例中\(\beta(\theta) = P_\theta(T \geq 27) = I_\theta(27,4)\) \(\theta\)的函数,\(H_0\)成立时为第一类错误概率,\(H_1\)成立时为检验功效
显著性水平\(\alpha\) 允许犯第一类错误的最大概率,即\(\sup_{\theta \in \Theta_0} P_\theta(拒绝H_0) \leq \alpha\) 案例中\(\alpha=0.05\) 通常取0.05、0.01,是检验的容错上限
p值 \(H_0\)成立时,出现当前样本结果或更极端结果的概率 \(T=28\)\(p≈0.01\)\(T=26\)\(p≈0.1\) p值越小,拒绝\(H_0\)的证据越充分

表2 两类错误对比表

错误类型 别称 发生场景 概率定义 核心关系
第一类错误 弃真错误 \(H_0\)为真,却拒绝了\(H_0\) \(\alpha = P(拒绝H_0 | H_0为真)\) 等于显著性水平的上限,n固定时,α越小,β越大
第二类错误 取伪错误 \(H_0\)为假,却不拒绝\(H_0\) \(\beta = P(不拒绝H_0 | H_0为假)\) 检验功效=1-β,n固定时,β越小,α越大

表3 假设检验标准步骤表

步骤序号 步骤内容 案例对应操作
1 提出原假设\(H_0\)与备择假设\(H_1\) 设定\(H_0: \theta \leq 0.75\)\(H_1: \theta > 0.75\)
2 设定显著性水平\(\alpha\) \(\alpha=0.05\)
3 构造检验统计量,确定其在\(H_0\)成立时的分布 构造\(T=\sum_{i=1}^{30}X_i\)\(H_0\)成立时\(T \sim b(30,\theta)\)
4 确定否定域,保证\(H_0\)成立时样本落在否定域的概率≤α 确定否定域\(R=\{x: T \geq 27\}\),满足\(P(T \geq27 | H_0为真) \leq 0.05\)
5 根据样本计算检验统计量观测值与p值 抽样得到\(T=28\),计算得p≈0.01
6 做出统计决策,给出业务结论 p=0.01<0.05,拒绝\(H_0\),认为新药治愈率显著高于0.75

表4 案例核心推导结果表

推导内容 公式与结果 核心性质
二项分布右尾概率 \(P(T \geq k) = \sum_{i=k}^{30} \binom{30}{i} \theta^i (1-\theta)^{30-i}\) 治愈人数≥k的概率
尾概率与不完全β函数恒等式 \(\sum_{i=k}^{30} \binom{30}{i} \theta^i (1-\theta)^{30-i} = I_\theta(k, 30 -k +1)\) 简化尾概率的计算
不完全β函数单调性 \(\frac{d}{d\theta}I_\theta(a,b) > 0\),关于\(\theta\)严格递增 保证\(H_0\)成立时,尾概率在\(\theta=0.75\)处取最大值
临界值概率计算 \(P(T \geq27 | \theta=0.75)≈0.05\)\(P(T \geq27 | \theta \leq0.75) \leq0.05\) 构造了显著性水平0.05的小概率事件
否定域 \(R = \{x: \sum_{i=1}^{30}x_i \geq27\}\) 明确了拒绝\(H_0\)的样本范围

最后,我再给大家强调一个核心原则:假设检验的结论是“统计意义上的显著性”,不是“实际业务上的显著性”。我们拒绝\(H_0\),只是说有统计证据证明差异存在,不代表这个差异在实际业务中有意义;反过来,不拒绝\(H_0\),也不代表\(H_0\)是对的,只是我们没有足够的证据推翻它。这是大家在实际应用中一定要牢记的。


否定域与检验函数 系统讲解与推导

各位同学,上一讲我们通过新药疗效的案例,理解了假设检验的核心思想与决策逻辑,今天我们将这些直观概念进行严格的数学形式化定义,完整拆解否定域、检验函数、随机化检验三大核心内容——这是整个假设检验数学理论的基石,也是后续Neyman-Pearson最优检验理论的核心工具。


一、否定域(拒绝域)的严格定义与核心性质

1. 前提:假设检验问题的标准形式

首先明确所有假设检验问题的统一数学框架:
设总体\(X\)的概率密度(连续型)或分布列(离散型)为\(f(x,\theta)\)\(\theta\)为未知参数,参数空间为\(\Theta\)。将\(\Theta\)拆分为两个互不相交的子集\(\Theta_0\)\(\Theta_1\)\(\Theta_0 \cap \Theta_1 = \emptyset\)),则假设检验问题的标准形式为:

\[H_0: \theta \in \Theta_0 \longleftrightarrow H_1: \theta \in \Theta_1 \]

其中\(H_0\)为原假设,\(H_1\)为备择假设,这是我们所有讨论的前提。

2. 否定域的直观意义与严格定义

假设检验的本质是基于样本的二分类决策:拿到样本观测值\(x\),要么拒绝\(H_0\),要么不拒绝\(H_0\)

  • 否定域(拒绝域):所有拒绝\(H_0\)的样本观测值\(x\)构成的集合,记为\(R\)
  • 接受域:所有不拒绝\(H_0\)的样本观测值\(x\)构成的集合,是\(R\)的补集,记为\(\overline{R} = \mathcal{X} \setminus R\),其中\(\mathcal{X}\)为样本空间(所有可能的样本观测值的集合)。

教材给出的严格定义,核心要求可拆解为:

定义6.1.1 若样本空间\(\mathcal{X}\)上的区域\(R\)满足:对任意\(\theta \in \Theta_0\),有\(P_\theta(X \in R) \leq \alpha\),则称\(R\)为该检验问题水平为\(\alpha\)的否定域\(\alpha\)称为检验的显著性水平。

核心解读:

这个定义的本质是控制第一类错误的数学表达
\(P_\theta(X \in R)\)是参数为\(\theta\)时,样本落在否定域、拒绝\(H_0\)的概率。当\(\theta \in \Theta_0\)(即\(H_0\)为真)时,这个概率就是第一类错误(弃真错误)的概率
因此,水平为\(\alpha\)的否定域,就是把第一类错误的概率,严格控制在不超过\(\alpha\)的范围内,无论\(\theta\)\(\Theta_0\)中取何值,这是假设检验“控制第一类错误优先”原则的核心体现。

3. 否定域的常见构造形式

否定域是样本空间的子集,但直接用样本\(x\)表达极不方便,因此我们通过检验统计量\(T=T(X)\)构造否定域,将其表示为检验统计量取值范围对应的样本集合,常见形式有三类:

否定域类型 数学表达 适用场景 对应案例
右单边否定域 \(R = \{x: T(x) \geq c\}\) 备择假设为参数大于某阈值(\(H_1: \theta > \theta_0\) 新药疗效检验:\(T\)为治愈总人数,\(R=\{x:T\geq27\}\)
左单边否定域 \(R = \{x: T(x) \leq c\}\) 备择假设为参数小于某阈值(\(H_1: \theta < \theta_0\) 元件寿命检验:\(T\)为平均寿命,\(R=\{x:T\leq2000\}\)
双边否定域 \(R = \{x: T(x) \leq c_1 \text{ 或 } T(x) \geq c_2\}\) 备择假设为参数不等于某阈值(\(H_1: \theta \neq \theta_0\) 正态均值检验:\(H_1:\mu\neq\mu_0\)\(R=\{|T|\geq z_{\alpha/2}\}\)

易错点提醒:

否定域是样本\(x\)的集合,不是检验统计量\(T\)的取值区间。\(R = \{x: T(x) \geq c\}\)的含义是“所有满足\(T(x)\geq c\)的样本\(x\)构成的集合”,而非“\(T\geq c\)”这个数值区间。


二、检验函数的定义与否定域的等价性

1. 引入检验函数的核心意义

否定域用集合描述检验规则,而数学上任何集合都与它的示性函数一一对应。用函数形式描述检验规则,有两个不可替代的优势:

  1. 将“拒绝/不拒绝”的离散决策转化为连续的数学表达,方便进行期望、极值等运算,是后续推导最优检验的核心工具;
  2. 可以自然推广到随机化检验,完善假设检验的理论体系。

2. 非随机化检验的检验函数定义

教材定义6.1.2给出了非随机化检验的检验函数:

定义6.1.2 对于假设检验问题,称如下函数\(\phi(x)\)为检验函数:

\[\phi(x) = \begin{cases} 1, & x \in R \\ 0, & x \in \overline{R} \end{cases}\]

若对任意\(\theta \in \Theta_0\),有\(E_\theta[\phi(X)] \leq \alpha\),则称\(\phi(x)\)水平为\(\alpha\)的检验

核心解读:

\(\phi(x)\)的取值只有0和1,它的物理意义是:抽样得到样本\(x\)时,拒绝原假设\(H_0\)的概率

  • \(\phi(x)=1\):对应\(x\in R\),以100%的概率拒绝\(H_0\)
  • \(\phi(x)=0\):对应\(x\in \overline{R}\),以0%的概率拒绝\(H_0\)(即不拒绝\(H_0\))。

3. 核心等价性推导:检验函数与否定域的一一对应

这里有一个连接检验函数与否定域的核心等式,我们进行严格推导:

检验函数\(\phi(x)\)是样本\(X\)的函数,因此是随机变量,其数学期望为:

  • \(X\)为离散型:\(E_\theta[\phi(X)] = \sum_{x \in \mathcal{X}} \phi(x) P_\theta(X=x)\)
  • \(X\)为连续型:\(E_\theta[\phi(X)] = \int_{\mathcal{X}} \phi(x) f(x,\theta) dx\)

由于\(\phi(x)\)仅在\(x\in R\)时取1,其余取0,因此求和/积分范围可缩小到\(R\)上:

\[E_\theta[\phi(X)] = \sum_{x \in R} P_\theta(X=x) = P_\theta(X \in R) \quad (\text{离散型}) \]

\[E_\theta[\phi(X)] = \int_{R} f(x,\theta) dx = P_\theta(X \in R) \quad (\text{连续型}) \]

由此得到核心等价等式

\[\boldsymbol{E_\theta[\phi(X)] = P_\theta(X \in R)} \]

这个等式的三大核心意义:

  1. 一一对应性:否定域\(R\)和检验函数\(\phi(x)\)完全等价。给定否定域\(R\),可写出唯一对应的检验函数;给定仅取0/1的检验函数\(\phi(x)\),可找到唯一对应的否定域\(R=\{x:\phi(x)=1\}\)
  2. 水平条件等价:否定域的水平要求\(P_\theta(X \in R) \leq \alpha, \forall \theta \in \Theta_0\),等价于检验函数的水平要求\(E_\theta[\phi(X)] \leq \alpha, \forall \theta \in \Theta_0\)
  3. 与功效函数的关联:检验的功效函数\(\beta(\theta) = P_\theta(拒绝H_0) = E_\theta[\phi(X)]\),即检验函数的期望就是检验的功效函数,这是后续所有假设检验理论推导的核心基础。

案例对应:

上一讲新药案例的否定域\(R=\{x:\sum_{i=1}^{30}x_i \geq27\}\),对应的检验函数为:

\[\phi(x) = \begin{cases} 1, & \sum_{i=1}^{30}x_i \geq27 \\ 0, & \sum_{i=1}^{30}x_i <27 \end{cases}\]

其期望\(E_\theta[\phi(X)] = P_\theta(\sum_{i=1}^{30}X_i \geq27)\),就是该检验的功效函数;当\(\theta \leq0.75\)\(H_0\)成立)时,\(E_\theta[\phi(X)] \leq0.05\),满足水平为0.05的检验要求。


三、随机化检验的定义与理论意义

1. 引入随机化检验的原因

非随机化检验的\(\phi(x)\)仅取0/1,拿到样本后决策是“非黑即白”的,这在连续型分布检验中非常适用,但在离散型分布检验中会遇到一个核心问题:无法找到刚好满足\(P_\theta(X \in R)=\alpha\)的否定域。

以新药案例的二项分布为例:
检验统计量\(T \sim b(30,\theta)\),仅能取0-30的整数。若要求显著性水平\(\alpha=0.03\),会发现:

  • \(P(T\geq27 | \theta=0.75)\approx0.05>0.03\),不满足水平要求;
  • \(P(T\geq28 | \theta=0.75)\approx0.01<0.03\),满足水平要求,但浪费了显著性水平,会导致第二类错误概率升高。

此时,随机化检验就能解决这个问题,让检验的第一类错误概率刚好等于\(\alpha\)

2. 随机化检验的严格定义

教材定义6.1.3给出了随机化检验的定义:

定义6.1.3 对于假设检验问题,任一满足\(0 \leq \phi(x) \leq 1\)的函数\(\phi(x)\),称为随机化检验。其中\(\phi(x)\)的含义是:抽样得到样本\(x\)时,以\(\phi(x)=p\)的概率拒绝\(H_0\),以\(1-p\)的概率不拒绝\(H_0\)
若对任意\(\theta \in \Theta_0\),有\(E_\theta[\phi(X)] \leq \alpha\),则称该随机化检验为水平为\(\alpha\)的检验

核心解读:

  • 随机化检验的\(\phi(x)\)可取\([0,1]\)内的任意实数,决策规则从“非黑即白”变为“随机决策”:拿到样本\(x\)后,做一次成功概率为\(\phi(x)\)的随机试验(如生成0-1均匀随机数\(u\),若\(u\leq\phi(x)\)则拒绝\(H_0\),否则不拒绝);
  • 水平条件依然为\(E_\theta[\phi(X)] \leq \alpha\),其物理意义不变:\(E_\theta[\phi(X)]\)是参数为\(\theta\)时拒绝\(H_0\)的平均概率,即\(H_0\)为真时的第一类错误概率。

3. 随机化检验的应用举例

仍以\(\alpha=0.03\)的新药检验为例,构造随机化检验:
已知:

  • \(P(T\geq28 | \theta=0.75) \approx0.01\)\(P(T=27 | \theta=0.75) \approx0.04\)

构造检验函数:

\[\phi(x) = \begin{cases} 1, & T(x) \geq28 \\ r, & T(x) =27 \\ 0, & T(x) \leq26 \end{cases}\]

要求\(E_{\theta=0.75}[\phi(X)] = 0.03\),代入计算:

\[E_{\theta=0.75}[\phi(X)] = 1\times0.01 + r\times0.04 = 0.03 \]

解得\(r=0.5\),最终随机化检验函数为:

\[\phi(x) = \begin{cases} 1, & T(x) \geq28 \\ 0.5, & T(x) =27 \\ 0, & T(x) \leq26 \end{cases}\]

决策规则:

  • 治愈人数≥28:拒绝\(H_0\)
  • 治愈人数=27:抛均匀硬币,正面朝上拒绝\(H_0\),反面朝上不拒绝\(H_0\)
  • 治愈人数≤26:不拒绝\(H_0\)

该检验的第一类错误概率刚好等于0.03,完美满足水平要求。

4. 随机化检验的意义

  • 理论意义:让假设检验的理论体系完备化,后续的Neyman-Pearson引理(最优检验核心定理)在离散分布场景下,只有引入随机化检验,才能保证最优检验的存在性;
  • 实际应用:实际工作中极少使用,因为业务场景中不会用“抛硬币”的方式做决策,通常选择保守的非随机化检验(如上述例子直接取\(T\geq28\)为否定域,水平0.01满足≤0.03的要求)。

四、统计决策函数视角下的假设检验

教材最后从统计决策理论的视角,给出了假设检验的统一框架,核心解读如下:

统计决策理论的核心是:任何统计推断问题,都可视为“根据样本,从决策空间中选择最优决策”的问题。

对于假设检验问题,我们的最终决策只有两个:

  1. 决策\(d=0\):接受\(H_0\)(认为\(H_0\)成立);
  2. 决策\(d=1\):拒绝\(H_0\)(认为\(H_0\)不成立)。

因此,假设检验的决策空间\(\mathcal{D} = \{0,1\}\),仅包含两个元素。

统计决策函数\(\delta(x)\),是样本\(x\)到决策空间的映射:拿到样本\(x\),给出决策\(\delta(x) \in \mathcal{D}\),自然可以取为示性函数:

\[\delta(x) = I\{x \in R\} = \begin{cases} 1, & x \in R \\ 0, & x \in \overline{R} \end{cases}\]

可以发现,这个决策函数\(\delta(x)\),与非随机化检验函数\(\phi(x)\)完全一致:

  • \(\delta(x)=1\)对应\(\phi(x)=1\),决策为拒绝\(H_0\)
  • \(\delta(x)=0\)对应\(\phi(x)=0\),决策为不拒绝\(H_0\)

若将决策空间扩展到\(\mathcal{D}=[0,1]\),允许决策取0-1之间的任意值,就对应随机化检验的检验函数\(\phi(x)\)

这个视角的核心意义,是将假设检验纳入了统一的统计决策理论框架,与参数估计、贝叶斯推断等方法共享统一的理论基础,可通过损失函数、风险函数等工具评价和优化检验性能。


核心知识点归纳总结表

表1 核心概念定义与等价关系

概念名称 严格数学定义 核心物理意义 等价关系
否定域\(R\) 样本空间\(\mathcal{X}\)的子集,满足\(P_\theta(X\in R)\leq\alpha, \forall\theta\in\Theta_0\) 所有拒绝\(H_0\)的样本构成的集合,控制第一类错误概率≤α 与非随机化检验函数一一对应
接受域\(\overline{R}\) 否定域的补集\(\overline{R}=\mathcal{X}\setminus R\) 所有不拒绝\(H_0\)的样本构成的集合 与检验函数\(\phi(x)=0\)的样本集合一一对应
非随机化检验函数 \(\phi(x)=\begin{cases}1, x\in R \\ 0, x\in\overline{R}\end{cases}\),满足\(E_\theta[\phi(X)]\leq\alpha, \forall\theta\in\Theta_0\) 抽样到\(x\)时,拒绝\(H_0\)的概率(仅取0或1) \(E_\theta[\phi(X)]=P_\theta(X\in R)\),与否定域完全等价
随机化检验函数 满足\(0\leq\phi(x)\leq1\)的函数,满足\(E_\theta[\phi(X)]\leq\alpha, \forall\theta\in\Theta_0\) 抽样到\(x\)时,以\(\phi(x)\)的概率拒绝\(H_0\) 是非随机化检验的推广,决策空间扩展到\([0,1]\)
统计决策函数 \(\delta(x)=I\{x\in R\}\),取值为0或1 抽样到\(x\)时,给出的最终决策(0=接受\(H_0\),1=拒绝\(H_0\) 与非随机化检验函数完全等价

表2 非随机化检验与随机化检验对比

检验类型 检验函数取值 决策规则 适用场景 核心价值
非随机化检验 仅取0和1 拿到样本后,要么100%拒绝\(H_0\),要么100%不拒绝\(H_0\) 连续型分布检验、绝大多数实际业务场景 决策清晰、易解释,是实际应用的主流
随机化检验 可取\([0,1]\)内的任意实数 拿到样本后,以\(\phi(x)\)的概率拒绝\(H_0\),通过随机试验完成决策 离散型分布检验、假设检验理论推导 完善理论体系,可实现第一类错误概率精准等于α

表3 假设检验的数学形式化标准步骤

步骤序号 核心操作 数学表达
1 设定检验问题 明确\(H_0: \theta\in\Theta_0 \longleftrightarrow H_1: \theta\in\Theta_1\),设定显著性水平α
2 构造检验统计量 选择统计量\(T=T(X)\),确定其在\(H_0\)成立时的分布
3 构造否定域/检验函数 确定否定域\(R\),或对应的检验函数\(\phi(x)\),满足\(P_\theta(X\in R)=E_\theta[\phi(X)]\leq\alpha, \forall\theta\in\Theta_0\)
4 样本计算与决策 代入样本观测值,判断样本是否落在否定域,或根据检验函数给出决策

两类错误及功效函数 系统讲解与完整推导

各位同学,上一讲我们完成了假设检验的数学形式化,定义了否定域与检验函数,解决了“如何描述一个检验”的问题;这一讲我们解决核心问题:如何评价一个检验的好坏? 这就是我们要讲的两类错误、风险函数与功效函数,它们是假设检验性能评价的核心标尺,也是后续Neyman-Pearson最优检验理论的基石。


一、检验性能的评价起点:0-1损失函数与风险函数

假设检验的本质是“基于样本的决策”,而统计决策理论中,评价一个决策规则的好坏,核心工具是损失函数风险函数

1. 0-1损失函数的定义

假设检验的决策只有两种:

  • \(d=1\):拒绝原假设\(H_0\)
  • \(d=0\):不拒绝原假设\(H_0\)

决策的结果只有“判对”和“判错”两种,因此我们采用最直观的0-1损失函数:判错时损失为1,判对时损失为0,数学形式为:

\[L(\theta,d) = \begin{cases} 1, & \theta \in \Theta_0 \text{ 且 } d=1 \text{ 或 } \theta \in \Theta_1 \text{ 且 } d=0 \\ 0, & \theta \in \Theta_0 \text{ 且 } d=0 \text{ 或 } \theta \in \Theta_1 \text{ 且 } d=1 \end{cases}\]

损失函数的物理意义:

  • \(\theta \in \Theta_0\)\(H_0\)为真),却做出\(d=1\)(拒绝\(H_0\))的决策:弃真错误,产生损失1;
  • \(\theta \in \Theta_1\)\(H_1\)为真),却做出\(d=0\)(不拒绝\(H_0\))的决策:取伪错误,产生损失1;
  • 其余所有判对的情况,损失均为0。

2. 风险函数的完整推导

风险函数是损失函数关于总体分布的数学期望,它衡量了参数为\(\theta\)时,该决策规则的平均损失,定义为:

\[R(\theta,\delta) = E_\theta\left[ L(\theta,\delta(X)) \right] \]

其中\(\delta(x) = I\{x \in R\}\)是我们上一讲定义的非随机化检验决策函数(与检验函数\(\phi(x)\)完全等价)。

我们分两种情况对风险函数进行严格推导:

情况1:\(\theta \in \Theta_0\)\(H_0\)为真)

此时损失函数\(L(\theta,\delta(X))\)仅当\(\delta(X)=1\)(即\(X \in R\))时取1,其余情况取0,因此期望为:

\[R(\theta,\delta) = 1 \cdot P_\theta(X \in R) + 0 \cdot P_\theta(X \in \overline{R}) = P_\theta(X \in R) \]

这正是\(H_0\)为真时,拒绝\(H_0\)的概率,也就是弃真错误的平均损失

情况2:\(\theta \in \Theta_1\)\(H_1\)为真)

此时损失函数\(L(\theta,\delta(X))\)仅当\(\delta(X)=0\)(即\(X \in \overline{R}\))时取1,其余情况取0,因此期望为:

\[R(\theta,\delta) = 1 \cdot P_\theta(X \in \overline{R}) + 0 \cdot P_\theta(X \in R) = P_\theta(X \in \overline{R}) \]

这正是\(H_1\)为真时,不拒绝\(H_0\)的概率,也就是取伪错误的平均损失

综上,我们得到风险函数的最终形式:

\[R(\theta,\delta) = \begin{cases} P_\theta(X \in R), & \theta \in \Theta_0 \\ P_\theta(X \in \overline{R}), & \theta \in \Theta_1 \end{cases}\]

核心结论:

假设检验的风险函数,本质就是两类错误的概率。评价一个检验的好坏,就是看它的风险函数——也就是两类错误的大小。一个好的检验,应该让两类错误的概率都尽可能小。


二、两类错误的严格定义与核心性质

1. 两类错误的数学定义

基于风险函数的推导,我们给出两类错误的严格定义(定义6.1.4):

对于假设检验问题\(H_0: \theta \in \Theta_0 \longleftrightarrow H_1: \theta \in \Theta_1\),给定否定域\(R\)或检验函数\(\phi(x)\)

  • 第一类错误(弃真错误)\(H_0\)为真时,拒绝\(H_0\)的概率,记为\(I(\theta)\)

    \[I(\theta) = P_\theta(X \in R) = E_\theta[\phi(X)], \quad \theta \in \Theta_0 \]

  • 第二类错误(取伪错误)\(H_1\)为真时,不拒绝\(H_0\)的概率,记为\(\text{II}(\theta)\)

    \[\text{II}(\theta) = P_\theta(X \in \overline{R}) = 1 - E_\theta[\phi(X)], \quad \theta \in \Theta_1 \]

关键解读:

  1. 两类错误都是参数\(\theta\)的函数,不是固定的常数。因为\(\Theta_0\)\(\Theta_1\)中包含多个\(\theta\)的取值,不同的\(\theta\)对应不同的错误概率;
  2. 显著性水平\(\alpha\)的本质:是第一类错误概率的上界,即要求\(\sup_{\theta \in \Theta_0} I(\theta) \leq \alpha\),也就是无论\(\theta\)\(\Theta_0\)中取何值,第一类错误的概率都不能超过\(\alpha\)
  3. 检验函数的统一表达:上一讲我们定义的检验函数\(\phi(x)\),其期望\(E_\theta[\phi(X)]\)直接关联两类错误,这也是检验函数成为理论核心工具的原因。

2. 经典案例完整推导(续例6.1.1)

我们沿用新药疗效检验的案例,完整计算两类错误,直观理解其性质:

  • 检验问题:\(H_0: \theta \leq 0.75 \longleftrightarrow H_1: \theta > 0.75\)
  • 样本量\(n=30\),检验统计量\(T = \sum_{i=1}^{30} X_i \sim b(30,\theta)\)(治愈总人数)
  • 否定域\(R = \{x: T(x) \geq 27\}\)

(1)第一类错误\(I(\theta)\)的计算与性质

根据定义,\(\theta \in \Theta_0 = [0,0.75]\)时:

\[I(\theta) = P_\theta(T \geq 27) = I_\theta(27,4) \]

其中\(I_\theta(a,b)\)是正则化不完全β函数,我们上一讲已经证明:\(I_\theta(27,4)\)是关于\(\theta\)的严格增函数

因此,\(I(\theta)\)\(\Theta_0\)内的最大值出现在\(\Theta_0\)的上边界\(\theta=0.75\)处,代入计算得:

\[I(0.75) = P(T \geq 27 | \theta=0.75) \approx 0.05 \]

对所有\(\theta \leq 0.75\),有\(I(\theta) \leq I(0.75) \approx 0.05\),满足显著性水平\(\alpha=0.05\)的要求。

这意味着:当新药真实治愈率不超过0.75时,我们错误地认为它有效的概率,最大不超过5%。

(2)第二类错误\(\text{II}(\theta)\)的计算与性质

根据定义,\(\theta \in \Theta_1 = (0.75,1]\)时:

\[\text{II}(\theta) = P_\theta(T < 27) = 1 - P_\theta(T \geq 27) = 1 - I_\theta(27,4) \]

由于\(I_\theta(27,4)\)\(\theta\)的严格增函数,因此\(\text{II}(\theta)\)\(\theta\)严格减函数

  • \(\theta\)越大(真实治愈率越高),\(\text{II}(\theta)\)越小,犯第二类错误的概率越低;
  • \(\theta\)越接近0.75(真实治愈率越接近原假设的边界),\(\text{II}(\theta)\)越大,犯第二类错误的概率越高。

我们代入具体数值计算:

  • \(\theta=0.75\)时,\(\text{II}(0.75) = 1 - 0.05 = 0.95\)
  • \(\theta=0.85\)时,\(\text{II}(0.85) = 1 - I_{0.85}(27,4) \approx 0.58\)
  • \(\theta=0.90\)时,\(\text{II}(0.90) \approx 0.685\)(计算见附录);
  • 只有当\(\theta\)无限接近1时,\(\text{II}(\theta)\)才会趋近于0。

这意味着:当新药真实治愈率为85%时,我们仍有58%的概率错误地认为它无效,这就是第二类错误的直观体现。

3. 两类错误的核心矛盾

从案例中我们可以得到一个统计学的核心结论:当样本量\(n\)固定时,两类错误无法同时减小

矛盾的直观解释:

  • 若要减小第一类错误\(I(\theta)\):需要缩小否定域\(R\),比如把临界值从27提高到28,此时\(H_0\)为真时拒绝\(H_0\)的概率变小,但\(H_1\)为真时拒绝\(H_0\)的概率也会变小,第二类错误\(\text{II}(\theta)\)必然增大;
  • 若要减小第二类错误\(\text{II}(\theta)\):需要扩大否定域\(R\),比如把临界值从27降到26,此时\(H_1\)为真时拒绝\(H_0\)的概率变大,但\(H_0\)为真时拒绝\(H_0\)的概率也会变大,第一类错误\(I(\theta)\)必然增大。

唯一的解决方法:

只有增加样本量\(n\),才能在控制第一类错误的同时,降低第二类错误。样本量越大,样本信息越充分,检验的判断能力越强,两类错误可以同时减小。


三、功效函数(势函数):统一两类错误的核心工具

1. 功效函数的严格定义

为了用一个函数统一描述两类错误,同时方便后续最优检验的推导,我们引入功效函数(势函数)的定义(定义6.1.5):

对于假设检验问题,给定否定域\(R\)或检验函数\(\phi(x)\),其功效函数定义为:

\[\beta(\theta) = E_\theta[\phi(X)] = P_\theta(X \in R), \quad \forall \theta \in \Theta \]

核心物理意义:

功效函数\(\beta(\theta)\)表示当参数真实值为\(\theta\)时,拒绝原假设\(H_0\)的平均概率,它定义在整个参数空间\(\Theta\)上,而不是仅在\(\Theta_0\)\(\Theta_1\)上。

2. 功效函数与两类错误的等价关系

这是功效函数最核心的价值,它把两类错误完全统一到一个函数中:

  1. \(\theta \in \Theta_0\)\(H_0\)为真)时

    \[\beta(\theta) = I(\theta) \]

    功效函数的值就是第一类错误的概率,因此我们要求\(\beta(\theta) \leq \alpha, \forall \theta \in \Theta_0\)

  2. \(\theta \in \Theta_1\)\(H_1\)为真)时

    \[\beta(\theta) = 1 - \text{II}(\theta) \]

    功效函数的值就是检验的功效,即\(H_1\)为真时,正确拒绝\(H_0\)的概率。因此,\(\beta(\theta)\)越大,第二类错误\(\text{II}(\theta)\)越小,检验发现真实差异的能力越强。

检验性能的评价标准(基于功效函数):

一个好的检验,必须满足两个要求:

  • \(\Theta_0\)上,\(\beta(\theta)\)尽可能小(控制第一类错误);
  • \(\Theta_1\)上,\(\beta(\theta)\)尽可能大(最大化功效,最小化第二类错误)。

这两个要求天然存在矛盾,因此我们需要一个准则来平衡,这就是Neyman-Pearson准则。

3. 案例功效函数推导(续例6.1.3)

新药案例的功效函数为:

\[\beta(\theta) = P_\theta(T \geq 27) = I_\theta(27,4) = \frac{1}{B(27,4)} \int_0^\theta x^{26}(1-x)^3 dx, \quad 0<\theta<1 \]

我们可以通过功效函数清晰看到两类错误的变化:

  • \(\theta \leq 0.75\)时,\(\beta(\theta) \leq 0.05\),满足第一类错误的控制要求;
  • 若要求第二类错误\(\text{II}(\theta) \leq 0.05\),则需要\(\beta(\theta) \geq 0.95\),这只有当\(\theta\)极其接近1时才能实现,在实际场景中几乎不可能达到。

这也印证了:要求两类错误同时都很小,在样本量固定时是不现实的。


四、Neyman-Pearson准则:假设检验的黄金准则

基于两类错误的矛盾,统计学家Neyman和Pearson提出了假设检验的核心准则,也是目前所有主流假设检验遵循的基本原则:

Neyman-Pearson准则:在控制第一类错误概率不超过预先设定的显著性水平\(\alpha\)的前提下,寻找使第二类错误概率最小(即功效最大)的检验。

准则的核心逻辑:

  1. 优先控制第一类错误:第一类错误是“弃真”,通常是更严重的错误。比如新药检验中,把无效的药当成有效,会对患者造成严重伤害;而把有效的药当成无效,只是损失了研发成本,后果相对较轻。因此我们必须优先把第一类错误的概率控制在可接受的范围内(通常\(\alpha=0.05\)\(0.01\))。
  2. 在约束下优化第二类错误:在第一类错误不超过\(\alpha\)的前提下,我们要让检验的功效尽可能大,也就是第二类错误尽可能小,让检验有更强的能力发现真实存在的差异。

这个准则完美解决了两类错误的矛盾,也为后续寻找最优检验提供了明确的方向。


核心知识点归纳总结表

表1 两类错误核心定义与对比

错误类型 别称 发生场景 数学定义(否定域形式) 数学定义(检验函数形式) 核心性质
第一类错误 弃真错误 \(H_0\)为真,却拒绝了\(H_0\) \(I(\theta)=P_\theta(X\in R), \theta\in\Theta_0\) \(I(\theta)=E_\theta[\phi(X)], \theta\in\Theta_0\) \(\theta\)的函数,显著性水平\(\alpha\)是其最大值的上界
第二类错误 取伪错误 \(H_1\)为真,却不拒绝\(H_0\) \(\text{II}(\theta)=P_\theta(X\in\overline{R}), \theta\in\Theta_1\) \(\text{II}(\theta)=1-E_\theta[\phi(X)], \theta\in\Theta_1\) \(\theta\)的函数,\(\theta\)越接近\(H_0\)边界,值越大

表2 功效函数核心关系与意义

项目 核心内容
定义 \(\beta(\theta)=E_\theta[\phi(X)]=P_\theta(X\in R), \forall\theta\in\Theta\)
物理意义 参数为\(\theta\)时,拒绝\(H_0\)的平均概率
与第一类错误的关系 \(\theta\in\Theta_0\)时,\(\beta(\theta)=I(\theta)\),即第一类错误概率
与第二类错误的关系 \(\theta\in\Theta_1\)时,\(\beta(\theta)=1-\text{II}(\theta)\),即检验的功效
检验评价标准 \(\Theta_0\)\(\beta(\theta)\)越小越好,\(\Theta_1\)\(\beta(\theta)\)越大越好

表3 0-1损失与风险函数对应关系

真实参数 决策\(d=1\)(拒绝\(H_0\) 决策\(d=0\)(不拒绝\(H_0\)
\(\theta\in\Theta_0\)\(H_0\)真) 损失=1,第一类错误 损失=0,正确决策
\(\theta\in\Theta_1\)\(H_1\)真) 损失=0,正确决策 损失=1,第二类错误
风险函数(平均损失) \(R(\theta,\delta)=P_\theta(X\in R)\) \(R(\theta,\delta)=P_\theta(X\in\overline{R})\)

表4 案例两类错误数值表(否定域\(R=\{T\geq27\}\)

真实治愈率\(\theta\) 第一类错误\(I(\theta)\) 第二类错误\(\text{II}(\theta)\) 功效\(\beta(\theta)\)
0.70 ≈0.01 - ≈0.01
0.75 ≈0.05 ≈0.95 ≈0.05
0.80 - ≈0.76 ≈0.24
0.85 - ≈0.58 ≈0.42
0.90 - ≈0.685 ≈0.315
0.95 - ≈0.02 ≈0.98

表5 Neyman-Pearson准则核心内容

项目 核心规则
优先约束 控制第一类错误的上界:\(\sup_{\theta\in\Theta_0} I(\theta) \leq \alpha\)
优化目标 在满足上述约束的前提下,最大化\(\Theta_1\)上的功效\(\beta(\theta)\),即最小化第二类错误
核心意义 解决了两类错误的矛盾,为寻找最优检验提供了明确方向,是现代假设检验的理论基础

附录:\(\theta=0.9\)时功效计算

\[T \sim b(30,0.9) \]

\[\begin{align*} P(T\geq27) &= P(T=27)+P(T=28)+P(T=29)+P(T=30) \\ &= \binom{30}{27}0.9^{27}0.1^3 + \binom{30}{28}0.9^{28}0.1^2 + \binom{30}{29}0.9^{29}0.1 + 0.9^{30} \\ &\approx 4060 \times 0.0797 \times 0.001 + 435 \times 0.0717 \times 0.01 + 30 \times 0.0646 \times 0.1 + 0.0581 \\ &\approx 0.0323 + 0.0312 + 0.1938 + 0.0581 \\ &\approx 0.3154 \end{align*} \]

因此\(\text{II}(0.9)=1-0.3154=0.6846\)


Neyman-Pearson准则与一致最优势检验 系统讲解与推导

各位同学,上一讲我们通过功效函数统一了两类错误的刻画,明确了假设检验的核心矛盾:样本量固定时,两类错误无法同时最小化。这一讲我们将给出解决这一矛盾的Neyman-Pearson(N-P)准则,定义假设检验的“最优解”——一致最优势检验(UMPT),并证明最优检验的核心性质:充分性原则。这部分内容是整个参数假设检验的理论基石,也是后续所有最优检验构造的核心依据。


一、Neyman-Pearson(N-P)准则的核心内涵

我们先回顾核心基础:一个检验的完整描述是检验函数\(\phi(x)\),其功效函数\(\beta_\phi(\theta) = E_\theta[\phi(X)]\),刻画了参数为\(\theta\)时拒绝\(H_0\)的概率,其中:

  • \(\theta \in \Theta_0\)\(H_0\)为真)时,\(\beta_\phi(\theta)\)是第一类错误概率,我们要求它不超过预先设定的显著性水平\(\alpha\)
  • \(\theta \in \Theta_1\)\(H_1\)为真)时,\(\beta_\phi(\theta)\)是检验的功效,\(1-\beta_\phi(\theta)\)是第二类错误概率,我们希望它尽可能大。

基于此,N-P准则的核心思想可概括为:优先控制第一类错误的概率不超过给定的显著性水平\(\alpha\),在此约束下,寻找使第二类错误概率最小(即功效最大)的检验

功效函数曲线的直观解读(图6.1.1)

图中曲线对应新药检验案例\(H_0:\theta\leq0.75 \longleftrightarrow H_1:\theta>0.75\),横坐标为参数\(\theta\),纵坐标为功效\(\beta(\theta)\),核心信息如下:

  1. \(\theta \in \Theta_0 = [0,0.75]\)时,\(\beta(\theta) \leq 0.05\),满足显著性水平\(\alpha=0.05\)的约束,第一类错误被严格控制;
  2. \(\theta \in \Theta_1 = (0.75,1]\)时,\(\beta(\theta)\)\(\theta\)增大快速上升,越接近1,检验功效越高,第二类错误越小;
  3. 曲线在\(\theta=0.75\)处穿过\(\beta=0.05\)的水平线,这是原假设与备择假设的边界,也是第一类错误的最大值点。

一个“最优”检验的功效曲线,应满足:在\(\Theta_0\)上尽可能贴近横轴(第一类错误最小),在\(\Theta_1\)上尽可能贴近纵轴1(功效最高),即曲线在边界处越陡峭越好。


二、一致最优势检验(UMPT)的严格定义与解读

我们将N-P准则的思想严格数学化,给出一致最优势检验的完整定义。

1. 前置定义:水平为\(\alpha\)的检验与检验类

对于假设检验问题\(H_0: \theta \in \Theta_0 \longleftrightarrow H_1: \theta \in \Theta_1\),若检验函数\(\phi(x)\)满足:

\[\beta_\phi(\theta) = E_\theta[\phi(X)] \leq \alpha, \quad \forall \theta \in \Theta_0 \]

则称\(\phi(x)\)水平为\(\alpha\)的检验,即该检验的第一类错误概率严格控制在\(\alpha\)以内。

所有满足该条件的检验构成的集合,称为水平为\(\alpha\)的检验类,记为:

\[\Phi_\alpha = \left\{ \phi(x): \beta_\phi(\theta) \leq \alpha, \forall \theta \in \Theta_0 \right\} \]

这个检验类是N-P准则下所有“合法”检验的集合,我们需要在这个集合中寻找“最优”的检验。

2. 一致最优势检验(UMPT)的严格定义

若存在检验\(\phi^*(x) \in \Phi_\alpha\),使得对任意的检验\(\phi(x) \in \Phi_\alpha\),以及任意的\(\theta \in \Theta_1\),都有:

\[\beta_{\phi^*}(\theta) \geq \beta_\phi(\theta) \]

则称\(\phi^*(x)\)为该假设检验问题水平为\(\alpha\)的一致最优势检验(Uniform Most Powerful Test, UMPT)

定义的核心解读

  1. “一致”的含义:指对所有\(\theta \in \Theta_1\)\(\phi^*\)的功效都不低于其他任何水平为\(\alpha\)的检验。不是仅对某个特定的\(\theta\)最优,而是对整个备择假设的参数空间都最优,这是“一致”的核心意义。
  2. 最优性的本质:UMPT是水平为\(\alpha\)的检验中,第二类错误概率最小的检验。对所有\(\theta \in \Theta_1\)\(\beta_{\phi^*}(\theta) \geq \beta_\phi(\theta)\)等价于\(1-\beta_{\phi^*}(\theta) \leq 1-\beta_\phi(\theta)\),即UMPT的第二类错误概率在所有合法检验中最小。
  3. 约束的严格性:UMPT首先必须是水平为\(\alpha\)的检验,优先保证第一类错误不超过\(\alpha\),这是N-P准则“优先控制第一类错误”的核心体现。

3. N-P准则的不对称性与实际应用逻辑

N-P准则的核心特点是两类错误不对称、原假设\(H_0\)与备择假设\(H_1\)不对称,这是假设检验实际应用的核心逻辑,绝大多数应用错误都源于对该不对称性的误解。

(1)拒绝\(H_0\)时,理由充分,结论可靠

若样本落在否定域\(x \in R\),我们拒绝\(H_0\)、判定\(H_1\)成立。此时的判错属于第一类错误,而我们已将其概率严格控制在\(\leq \alpha\)(通常\(\alpha=0.05\)\(0.01\)),犯错误的概率是预先设定的小概率,因此该结论的可靠性有明确保障。

(2)不拒绝\(H_0\)时,理由不充分,结论不可靠

若样本落在接受域\(x \in \overline{R}\),我们仅能“不拒绝\(H_0\)”,绝不代表\(H_0\)成立。此时的判错属于第二类错误,而N-P准则并未对其进行控制,它的概率可能很大。

比如新药案例中,当真实治愈率\(\theta=0.85 \in \Theta_1\)时,第二类错误概率\(P(T<27 | \theta=0.85) \approx 0.58\),即即使新药真实有效,仍有58%的概率错误地不拒绝\(H_0\)。因此,“不拒绝\(H_0\)”仅说明“没有足够的证据推翻\(H_0\)”,而非“\(H_0\)是正确的”。

实际应用中\(H_0\)\(H_1\)的设定黄金法则

基于上述不对称性,实际应用中必须遵循:把需要强有力证据证明的结论,放在备择假设\(H_1\)

原因很简单:只有拒绝\(H_0\)、判定\(H_1\)成立时,我们才有充分的理由(犯错概率≤α);而不拒绝\(H_0\)的结论是不可靠的。典型应用场景如下:

应用场景 原假设\(H_0\)(保守、待推翻) 备择假设\(H_1\)(待证实、需强证据)
新药疗效检验 新药无效/不优于旧药 新药有效/优于旧药
产品质量检验 产品合格 产品不合格
方法改进检验 新方法不优于旧方法 新方法优于旧方法

三、充分性原则引理:最优检验的简化路径

直接在全样本的函数中寻找最优检验难度极大,而充分统计量为我们提供了核心简化路径:最优检验一定可以表示为充分统计量的函数,这就是充分性原则引理。

1. 引理内容(充分性原则)

对于假设检验问题\(H_0: \theta \in \Theta_0 \longleftrightarrow H_1: \theta \in \Theta_1\),设\(T=T(X)\)是关于参数\(\theta\)的充分统计量。则对任意一个检验\(\phi(x)\),必存在一个仅依赖于充分统计量\(T\)的检验\(\tilde{\phi}(T)\),使得\(\tilde{\phi}(T)\)\(\phi(x)\)有完全相同的功效函数。

2. 完整证明过程

我们分三步完成严谨证明,每一步都给出明确的逻辑依据:

步骤1:构造检验\(\tilde{\phi}(T)\),证明其与\(\theta\)无关

令:

\[\tilde{\phi}(T) = E\left[ \phi(X) \mid T \right] \]

即给定充分统计量\(T\)时,原检验函数\(\phi(X)\)的条件期望。

根据充分统计量的定义:若\(T\)\(\theta\)的充分统计量,则给定\(T\)时,样本\(X\)的条件分布与参数\(\theta\)无关。因此该条件期望的结果仅与\(T\)有关,与\(\theta\)无关,即\(\tilde{\phi}(T)\)是仅依赖于\(T\)的函数,符合检验函数的定义。

同时,原检验函数满足\(0 \leq \phi(x) \leq 1\),由条件期望的保序性,可得\(0 \leq \tilde{\phi}(t) \leq 1\),满足随机化检验函数的取值要求。

步骤2:证明二者功效函数完全相同

功效函数是检验函数的数学期望,对\(\tilde{\phi}(T)\)求期望,利用全期望公式

\[E_\theta\left[ \tilde{\phi}(T) \right] = E_\theta\left[ E\left( \phi(X) \mid T \right) \right] \]

全期望公式表明:随机变量条件期望的期望,等于其自身的期望。因此:

\[E_\theta\left[ E\left( \phi(X) \mid T \right) \right] = E_\theta\left[ \phi(X) \right] \]

最终得到核心等式:

\[E_\theta\left[ \tilde{\phi}(T) \right] = E_\theta\left[ \phi(X) \right], \quad \forall \theta \in \Theta \]

这意味着\(\tilde{\phi}(T)\)\(\phi(x)\)的功效函数完全一致,自然也有完全相同的第一类、第二类错误概率。

步骤3:最终结论

对任意一个检验\(\phi(x)\),都能找到一个仅依赖于充分统计量\(T\)的检验\(\tilde{\phi}(T)\),二者性能完全等价。证明完毕。

3. 引理的核心意义

这个引理是假设检验理论的关键结论,核心价值体现在:

  1. 极大简化最优检验的寻找范围:无需在所有样本的函数中寻找UMPT,仅需在充分统计量的函数中寻找即可。充分统计量通常是一维的(如二项分布的\(T=\sum X_i\)、正态分布的\(T=\bar{X}\)),将高维样本空间的问题简化为一维统计量问题,大幅降低难度。
  2. 印证充分统计量的核心价值:充分统计量包含了样本中关于参数\(\theta\)的所有信息,基于充分统计量的检验不会损失任何样本信息,完全可以达到与全样本检验相同的性能。
  3. 为后续最优检验构造提供理论依据:后续正态分布、指数分布的UMPT构造,均是先找到参数的充分统计量,再基于充分统计量设计检验函数,正是该引理的直接应用。

核心知识点归纳总结表

表1 核心概念定义总表

概念名称 严格数学定义 核心物理意义
水平为\(\alpha\)的检验 满足\(\beta_\phi(\theta) \leq \alpha, \forall \theta \in \Theta_0\)的检验函数\(\phi(x)\) 第一类错误概率不超过显著性水平\(\alpha\)的合法检验
检验类\(\Phi_\alpha\) \(\Phi_\alpha = \left\{ \phi(x): \beta_\phi(\theta) \leq \alpha, \forall \theta \in \Theta_0 \right\}\) 所有水平为\(\alpha\)的检验构成的集合,是最优检验的寻找范围
一致最优势检验(UMPT) 存在\(\phi^* \in \Phi_\alpha\),对任意\(\phi \in \Phi_\alpha\)\(\theta \in \Theta_1\),有\(\beta_{\phi^*}(\theta) \geq \beta_\phi(\theta)\) 水平为\(\alpha\)的检验中,对所有备择假设参数,功效最高、第二类错误最小的检验
充分性原则 任意检验\(\phi(x)\)都存在等价的、仅依赖充分统计量\(T\)的检验\(\tilde{\phi}(T)\),二者功效完全相同 最优检验可仅在充分统计量的函数中寻找

表2 N-P准则的不对称性与应用要点

决策行为 错误类型 概率控制情况 结论可靠性 应用逻辑
拒绝\(H_0\),判定\(H_1\)成立 第一类错误 严格控制在\(\leq \alpha\) 高,犯错概率已知且很小 把需要强证据证明的结论放在\(H_1\),通过拒绝\(H_0\)获得可靠结论
不拒绝\(H_0\) 第二类错误 无控制,可能很大 低,无法确定犯错概率 不能将“不拒绝\(H_0\)”等同于“\(H_0\)成立”,仅能说明无足够证据推翻\(H_0\)

表3 充分性原则的核心信息

项目 核心内容
前提 \(T=T(X)\)是参数\(\theta\)的充分统计量
核心结论 任意全样本检验\(\phi(x)\),都存在仅依赖\(T\)的检验\(\tilde{\phi}(T)\),二者功效完全一致
证明核心依据 充分统计量的定义(给定\(T\)时样本条件分布与\(\theta\)无关)、全期望公式
实用价值 将最优检验的寻找范围从全样本空间缩小到一维充分统计量的函数空间,大幅简化计算

假设检验的p值 系统讲解与核心解读

各位同学,今天我们讲解假设检验中理论与实践中应用最广泛、同时也最容易被误解的核心概念——p值。前面我们通过否定域、临界值法构建了假设检验的决策规则,而p值法是对临界值法的升级,它能更精准、更直观地刻画样本反对原假设的证据强度,是目前所有统计软件、学术论文中假设检验的主流输出形式。


一、p值的直观引入(结合新药检验案例)

我们沿用之前的新药疗效检验案例,先通过具体场景建立对p值的直观认知:

  • 检验问题:\(H_0: \theta \leq 0.75\)(新药治愈率不超过75%)\(\longleftrightarrow H_1: \theta > 0.75\)(新药治愈率超过75%)
  • 样本量\(n=30\),检验统计量\(T=\sum_{i=1}^{30}X_i\)(治愈总人数),\(T \sim b(30,\theta)\)
  • 显著性水平\(\alpha=0.05\),临界值法的否定域为\(R=\{x:T(x)\geq27\}\),即治愈人数≥27时拒绝\(H_0\)

我们看三种不同的抽样结果:

  1. 抽样结果1:\(T(x)=28\)
    按照临界值法,\(28\geq27\),我们拒绝\(H_0\)。但临界值法只能告诉我们“拒绝”,无法回答:如果我们根据这个样本拒绝\(H_0\),实际犯第一类错误的概率是多少?
    计算可得:\(P(T\geq28 | \theta \leq 0.75) \approx 0.01\),这个0.01就是本次检验的p值。它意味着:如果\(H_0\)成立,我们抽到治愈人数≥28的概率仅为1%,拒绝\(H_0\)的犯错概率仅为1%,远低于我们设定的5%容错上限。

  2. 抽样结果2:\(T(x)=26\)
    按照临界值法,\(26<27\),我们不拒绝\(H_0\)。对应的p值为\(P(T\geq26 | \theta \leq 0.75) \approx 0.1\),它意味着:如果我们非要根据这个样本拒绝\(H_0\),犯第一类错误的概率高达10%,超过了我们能接受的5%,因此不拒绝\(H_0\)是合理的。

  3. 抽样结果3:\(T(x)=27\)
    对应的p值为\(P(T\geq27 | \theta \leq 0.75) \approx 0.05\),恰好等于我们设定的显著性水平\(\alpha\),是拒绝与不拒绝的临界点。

由此我们可以得到p值的直观定义:p值是根据本次抽样结果,拒绝原假设\(H_0\)时,实际犯第一类错误的概率,也就是本次检验的实际显著性水平


二、p值的严格数学定义

1. 通用定义

对于假设检验问题\(H_0: \theta \in \Theta_0 \longleftrightarrow H_1: \theta \in \Theta_1\),设检验统计量为\(T(X)\),本次抽样得到的观测值为\(T(x)\),则p值的严格定义为:

\[p(x) = \sup_{\theta \in \Theta_0} P_\theta\left\{ \text{检验统计量}T(X)\text{取到与}T(x)\text{一致或更极端的数值} \right\} \]

其中\(\sup\)表示上确界,核心原因是:对于复合原假设(如\(H_0:\theta\leq0.75\)),\(H_0\)包含多个\(\theta\)的取值,不同\(\theta\)对应的概率不同,我们需要取其中的最大值(最坏情况),保证p值是第一类错误概率的上界。

2. 不同否定域形式对应的p值计算公式

p值的计算完全由否定域(即备择假设的形式)决定,核心分为三类:

检验类型 备择假设形式 否定域形式 p值计算公式 典型应用场景
右单边检验 \(H_1: \theta > \theta_0\) \(R=\{x: T(x) \geq c\}\) \(p = \sup_{\theta\in\Theta_0} P_\theta\left\{ T(X) \geq T(x) \right\}\) 新药治愈率是否提高、产品寿命是否达标
左单边检验 \(H_1: \theta < \theta_0\) \(R=\{x: T(x) \leq c\}\) \(p = \sup_{\theta\in\Theta_0} P_\theta\left\{ T(X) \leq T(x) \right\}\) 产品不合格率是否降低、污染物浓度是否超标
双边检验 \(H_1: \theta \neq \theta_0\) \(R=\{x: |T(x)| \geq c\}\) \(p = \sup_{\theta\in\Theta_0} P_\theta\left\{ |T(X)| \geq |T(x)| \right\}\) 零件尺寸是否符合标准、两组均值是否有差异

3. 复合假设的简化计算

对于绝大多数单调似然比分布族(如二项分布、正态分布、指数分布等),检验统计量的尾概率是参数\(\theta\)的单调函数,因此\(\sup_{\theta\in\Theta_0} P_\theta(\cdot)\)会在原假设与备择假设的边界\(\theta=\theta_0\)处取到最大值。

比如新药案例中,\(P(T\geq t)\)\(\theta\)的严格增函数,因此在\(H_0:\theta\leq0.75\)中,最大值出现在边界\(\theta=0.75\)处,因此p值可简化为:

\[p = P\left( T(X) \geq T(x) \mid \theta=0.75 \right) \]

这也是绝大多数实际应用中p值的计算方式。


三、p值的核心性质与决策规则

1. p值的核心性质

  1. p值是统计量
    p值\(p=p(x)\)是样本观测值\(x\)的函数,其计算仅依赖样本,不依赖任何未知参数,因此它是一个统计量,而非未知参数。重复抽样会得到不同的样本,自然也会得到不同的p值。

  2. p值刻画了反对原假设的证据强度
    p值越小,说明在\(H_0\)成立的前提下,出现当前样本结果的概率越低,我们拒绝\(H_0\)的理由就越充分,反对\(H_0\)的证据就越强。

    • \(p\leq0.01\):极强的证据拒绝\(H_0\),结果高度显著;
    • \(0.01<p\leq0.05\):较强的证据拒绝\(H_0\),结果显著;
    • \(0.05<p\leq0.1\):弱证据拒绝\(H_0\),结果边际显著;
    • \(p>0.1\):没有足够证据拒绝\(H_0\),结果不显著。

2. 基于p值的标准决策规则

给定预先设定的显著性水平\(\alpha\)(通常取0.05、0.01、0.1),决策规则如下:

  1. \(\boldsymbol{p \leq \alpha}\):拒绝原假设\(H_0\),认为备择假设\(H_1\)成立;
  2. \(\boldsymbol{p > \alpha}\):不拒绝原假设\(H_0\),没有足够的证据证明\(H_1\)成立。

关键解读:

p值法与临界值法的决策结果是完全等价的,但p值法提供了更丰富的信息:

  • 临界值法只能给出“拒绝/不拒绝”的二元结果,无法区分证据强度;
  • p值法不仅能给出决策结果,还能精准告诉我们“拒绝\(H_0\)的实际犯错概率”,比如\(p=0.049\)\(p=0.001\)都小于0.05,都拒绝\(H_0\),但后者的证据强度远高于前者。

四、p值法对比临界值法的核心优势

对比维度 临界值法 p值法
信息精度 仅能给出二元决策结果,无法体现证据强度 给出拒绝\(H_0\)的实际犯错概率,精准刻画证据强度
灵活性 需预先根据\(\alpha\)查临界值,更换\(\alpha\)需重新计算临界值 无需查临界值,计算出p值后可与任意\(\alpha\)比较,适配不同的显著性要求
通用性 不同检验的临界值表不同,形式不统一 所有假设检验的决策逻辑完全统一,仅需比较p值与\(\alpha\)
软件实现 需手动计算检验统计量、查临界值,步骤繁琐 所有统计软件均直接输出p值,直接完成决策,无需额外计算

五、p值的常见致命误解纠正

p值是统计学中被误解最多的概念,以下4个误区必须严格规避,否则会完全错误解读检验结果:

误区1:p值是“原假设\(H_0\)成立的概率”

纠正:绝对错误
p值的定义是\(H_0\)成立的前提下,出现当前或更极端样本结果的概率,即\(P(\text{数据} | H_0\text{成立})\),而非\(P(H_0\text{成立} | \text{数据})\)。这两个是完全不同的条件概率,不能混淆。
举个例子:\(p=0.05\),不是说\(H_0\)成立的概率是5%,而是说“如果\(H_0\)是对的,我们抽到当前这样极端数据的概率只有5%”。

误区2:p值越小,说明实际效应/差异越大

纠正:绝对错误
p值的大小不仅和效应(差异)大小有关,还和样本量强相关。当样本量极大时,即使是毫无实际意义的微小差异,也能得到极小的p值。
比如大样本下,两组学生的平均分差0.5分(满分100),也能得到\(p<0.05\),但这个差异在实际教学中完全没有意义。p值小只能说明“拒绝\(H_0\)的证据强”,不能说明“实际差异大、效应强”。

误区3:\(p>0.05\)说明“原假设\(H_0\)是对的”

纠正:绝对错误
\(p>\alpha\)只能说明“我们没有足够的证据拒绝\(H_0\)”,绝对不能证明\(H_0\)成立
不拒绝\(H_0\)的原因可能有两种:一是\(H_0\)确实成立;二是样本量不足、检验功效太低,无法检测到真实存在的差异(即第二类错误)。比如新药真实治愈率为85%,但我们只抽了10个样本,很可能得到\(p>0.05\),但这不代表新药治愈率≤75%。

误区4:p值是实验结果可重复的概率

纠正:绝对错误
p值是单次抽样的结果,重复抽样会得到不同的p值,它无法反映实验的可重复性。\(p=0.05\)不代表实验重复一次能得到相同结果的概率是95%,仅代表单次实验中,\(H_0\)成立时出现当前结果的概率为5%。


核心知识点归纳总结表

项目 核心内容
直观定义 根据本次样本拒绝\(H_0\)时,实际犯第一类错误的概率,即本次检验的实际显著性水平
严格定义 \(H_0\)成立的前提下,检验统计量取到与当前观测值一致或更极端结果的概率的上确界
右单边检验计算 \(p = \sup_{\theta\in\Theta_0} P_\theta(T(X)\geq T(x))\),通常简化为\(P(T(X)\geq T(x)|\theta=\theta_0)\)
左单边检验计算 \(p = \sup_{\theta\in\Theta_0} P_\theta(T(X)\leq T(x))\),通常简化为\(P(T(X)\leq T(x)|\theta=\theta_0)\)
双边检验计算 \(p = \sup_{\theta\in\Theta_0} P_\theta(|T(X)|\geq |T(x)|)\),通常简化为\(P(|T(X)|\geq |T(x)| |\theta=\theta_0)\)
决策规则 \(p\leq\alpha\),拒绝\(H_0\)\(p>\alpha\),不拒绝\(H_0\)
核心性质 是样本的函数(统计量),刻画反对\(H_0\)的证据强度,p值越小,证据越强
核心优势 比临界值法更精准、更灵活、更通用,是统计软件的主流输出形式
核心红线 不是\(H_0\)成立的概率,不是效应大小的度量,\(p>0.05\)不能证明\(H_0\)成立

知识点归纳总结

假设检验全知识点系统归纳总表

以下表格完整覆盖上述所有讲解内容,按基础概念→核心量化工具→理论准则→实操方法→避坑指南的逻辑递进,实现全知识点结构化归纳。


表1 假设检验核心基础概念总表

概念名称 严格数学定义 核心物理意义 新药案例对应内容
原假设\(H_0\) \(H_0: \theta \in \Theta_0\)\(\Theta_0\)为参数空间\(\Theta\)的保守子集,是待检验、待推翻的断言 保守的、默认成立的原命题,是检验中优先保护的假设,通常包含等号 \(H_0: \theta \leq 0.75\)(新药治愈率不超过75%)
备择假设\(H_1\) \(H_1: \theta \in \Theta_1\)\(\Theta_0 \cap \Theta_1 = \emptyset\),是\(H_0\)被推翻时接受的断言 研究目标、待证实的新结论,是检验想要证明的命题 \(H_1: \theta > 0.75\)(新药治愈率超过75%)
简单假设 \(\Theta_0\)\(\Theta_1\)均为单点集,即\(H_0: \theta=\theta_0 \longleftrightarrow H_1: \theta=\theta_1\) 假设完全确定总体分布,无其他未知参数 \(H_0: \theta=0.75 \longleftrightarrow H_1: \theta=0.85\)
复合假设 \(\Theta_0\)\(\Theta_1\)包含多个参数值,非单点集 假设未完全确定总体分布,参数有多个可能取值,是实际应用的主流形式 案例中的\(H_0: \theta \leq 0.75 \longleftrightarrow H_1: \theta > 0.75\)
检验统计量 样本的函数\(T=T(X)\),在\(H_0\)成立时分布完全已知,可衡量样本与\(H_0\)的偏离程度 假设检验的核心工具,将高维样本信息浓缩为一维可计算的统计量 \(T=\sum_{i=1}^{30}X_i\)(30名受试者的治愈总人数),\(T \sim b(30,\theta)\)
否定域(拒绝域)\(R\) 样本空间\(\mathcal{X}\)的子集,满足\(P_\theta(X \in R) \leq \alpha, \forall \theta \in \Theta_0\),样本落在\(R\)中则拒绝\(H_0\) 所有拒绝\(H_0\)的样本构成的集合,核心作用是控制第一类错误概率不超过\(\alpha\) \(R=\{x: T(x) \geq 27\}\)(治愈人数≥27则拒绝\(H_0\)
接受域\(\overline{R}\) 否定域的补集\(\overline{R}=\mathcal{X} \setminus R\),样本落在\(\overline{R}\)中则不拒绝\(H_0\) 所有不拒绝\(H_0\)的样本构成的集合,注意:不拒绝\(H_0\)≠接受\(H_0\) \(\overline{R}=\{x: T(x) < 27\}\)(治愈人数<27则不拒绝\(H_0\)
显著性水平\(\alpha\) 预先设定的第一类错误概率的最大允许上限,通常取0.05、0.01、0.1 检验的容错上限,是N-P准则中优先满足的约束条件,决定了检验的严格程度 案例中取\(\alpha=0.05\),允许的最大弃真错误概率为5%

表2 两类错误与功效函数核心对照表

项目 第一类错误(弃真错误) 第二类错误(取伪错误) 功效函数(势函数)\(\beta(\theta)\)
发生场景 \(H_0\)为真,却错误拒绝了\(H_0\) \(H_1\)为真,却错误不拒绝\(H_0\) 定义在全参数空间\(\Theta\),无场景限制
严格定义 \(I(\theta)=P_\theta(X \in R), \theta \in \Theta_0\) \(\text{II}(\theta)=P_\theta(X \in \overline{R}), \theta \in \Theta_1\) \(\beta(\theta)=E_\theta[\phi(X)]=P_\theta(X \in R), \forall \theta \in \Theta\)
检验函数表达 \(I(\theta)=E_\theta[\phi(X)], \theta \in \Theta_0\) \(\text{II}(\theta)=1-E_\theta[\phi(X)], \theta \in \Theta_1\) 检验函数的数学期望,是检验性能的统一刻画工具
核心性质 \(\theta\)的函数,最大值不超过显著性水平\(\alpha\) \(\theta\)的函数,\(\theta\)越接近\(H_0\)边界,值越大 1. \(\theta \in \Theta_0\)时,\(\beta(\theta)=I(\theta)\)(第一类错误)
2. \(\theta \in \Theta_1\)时,\(\beta(\theta)=1-\text{II}(\theta)\)(检验功效)
3. 是\(\theta\)的单调函数(单调似然比分布族)
物理意义 把“真的无效的药”错判为“有效”的概率 把“真的有效的药”错判为“无效”的概率 参数为\(\theta\)时,拒绝\(H_0\)的平均概率
核心权衡关系 样本量固定时,第一类错误越小,第二类错误必然越大;反之亦然 样本量固定时,第二类错误越小,第一类错误必然越大;反之亦然 好的检验需满足:\(\Theta_0\)\(\beta(\theta)\)尽可能小,\(\Theta_1\)\(\beta(\theta)\)尽可能大
案例数值 \(\theta=0.75\)时,\(I(\theta)≈0.05\)\(\theta<0.75\)时,\(I(\theta)≤0.05\) \(\theta=0.85\)时,\(\text{II}(\theta)≈0.58\)\(\theta\)越接近1,\(\text{II}(\theta)\)越小 \(\beta(\theta)=I_\theta(27,4)\)(正则化不完全β函数),\(\theta=0.75\)\(\beta≈0.05\)\(\theta=0.85\)\(\beta≈0.42\)

表3 检验函数与充分性原则核心表

概念名称 严格数学定义 核心等价关系 核心意义与应用
非随机化检验函数 \(\phi(x) = \begin{cases}1, & x \in R \\ 0, & x \in \overline{R}\end{cases}\),满足\(E_\theta[\phi(X)] \leq \alpha, \forall \theta \in \Theta_0\) 与否定域\(R\)完全一一对应,\(\phi(x)=1\)等价于\(x \in R\)\(\phi(x)=0\)等价于\(x \in \overline{R}\) 将集合形式的否定域转化为函数形式,方便数学运算与最优性推导,是实际应用的主流形式
随机化检验函数 满足\(0 \leq \phi(x) \leq 1\)的任意函数,满足\(E_\theta[\phi(X)] \leq \alpha, \forall \theta \in \Theta_0\) 是非随机化检验的推广,\(\phi(x)=p\)表示以\(p\)的概率拒绝\(H_0\)\(1-p\)的概率不拒绝\(H_0\) 解决离散分布检验中无法精准匹配显著性水平\(\alpha\)的问题,是假设检验理论完备化的关键工具,实际应用极少
检验函数的期望 \(E_\theta[\phi(X)]\) 等于检验的功效函数\(\beta(\theta)\),等于样本落在否定域的概率\(P_\theta(X \in R)\) 是连接检验函数、否定域、两类错误、功效函数的核心等式,是所有假设检验理论推导的基础
充分性原则引理 \(T=T(X)\)\(\theta\)的充分统计量,对任意检验\(\phi(x)\),必存在仅依赖\(T\)的检验\(\tilde{\phi}(T)\),二者功效完全相同 \(\tilde{\phi}(T)=E[\phi(X)|T]\),且\(E_\theta[\tilde{\phi}(T)]=E_\theta[\phi(X)], \forall \theta \in \Theta\) 1. 最优检验仅需在充分统计量的函数中寻找,将高维样本问题简化为一维统计量问题
2. 印证充分统计量包含样本中关于参数的全部信息,无信息损失
3. 是后续正态、指数分布最优检验构造的核心依据

表4 Neyman-Pearson准则与一致最优势检验(UMPT)核心表

项目 核心内容 严格数学表达
N-P准则核心思想 优先控制第一类错误概率不超过给定显著性水平\(\alpha\),在此约束下,最小化第二类错误概率(最大化检验功效) 约束条件:\(\sup_{\theta \in \Theta_0} E_\theta[\phi(X)] \leq \alpha\)
优化目标:\(\max E_\theta[\phi(X)], \forall \theta \in \Theta_1\)
水平为\(\alpha\)的检验类\(\Phi_\alpha\) 所有满足第一类错误概率不超过\(\alpha\)的检验构成的集合,是最优检验的合法寻找范围 \(\Phi_\alpha = \left\{ \phi(x): \beta_\phi(\theta) \leq \alpha, \forall \theta \in \Theta_0 \right\}\)
一致最优势检验(UMPT)定义 水平为\(\alpha\)的检验中,对所有\(\theta \in \Theta_1\),功效都不低于其他任何合法检验的检验,是N-P准则下的最优解 存在\(\phi^* \in \Phi_\alpha\),对任意\(\phi \in \Phi_\alpha\)\(\theta \in \Theta_1\),有\(\beta_{\phi^*}(\theta) \geq \beta_\phi(\theta)\)
UMPT的最优性本质 是水平为\(\alpha\)的检验中,第二类错误概率最小的检验,对整个备择假设参数空间都一致最优 对任意\(\theta \in \Theta_1\),有\(1-\beta_{\phi^*}(\theta) \leq 1-\beta_\phi(\theta)\),即\(\text{II}_{\phi^*}(\theta) \leq \text{II}_\phi(\theta)\)
N-P准则的不对称性 1. 两类错误不对称:优先控制第一类错误,对第二类错误无强制约束
2. \(H_0\)\(H_1\)不对称:拒绝\(H_0\)结论可靠,不拒绝\(H_0\)结论不可靠
1. 拒绝\(H_0\):犯错概率≤\(\alpha\),有明确概率保障
2. 不拒绝\(H_0\):犯错概率无控制,可能很大(如案例中\(\theta=0.85\)时,犯错概率≈58%)
实际应用黄金法则 把需要强有力证据证明的结论,放在备择假设\(H_1\)上,通过拒绝\(H_0\)获得可靠结论 如新药疗效、方法改进、产品质量提升等,均将“有效/更优/合格”放在\(H_1\)

表5 p值核心定义、计算与应用全表

项目 核心内容
直观定义 根据本次抽样结果拒绝\(H_0\)时,实际犯第一类错误的概率,即本次检验的实际显著性水平
严格数学定义 \(p(x) = \sup_{\theta \in \Theta_0} P_\theta\left\{ \text{检验统计量}T(X)\text{取到与}T(x)\text{一致或更极端的数值} \right\}\),即\(H_0\)成立时,出现当前或更极端样本结果的概率的上确界
右单边检验(\(H_1:\theta>\theta_0\))计算公式 \(p = \sup_{\theta\in\Theta_0} P_\theta(T(X) \geq T(x))\),单调分布族可简化为\(p=P(T(X)\geq T(x) | \theta=\theta_0)\)
案例:\(T(x)=28\)时,\(p=P(T\geq28 | \theta=0.75)≈0.01\)
左单边检验(\(H_1:\theta<\theta_0\))计算公式 \(p = \sup_{\theta\in\Theta_0} P_\theta(T(X) \leq T(x))\),单调分布族可简化为\(p=P(T(X)\leq T(x) | \theta=\theta_0)\)
双边检验(\(H_1:\theta≠\theta_0\))计算公式 \(p = \sup_{\theta\in\Theta_0} P_\theta(|T(X)| \geq |T(x)|)\),单调分布族可简化为\(p=P(|T(X)|\geq |T(x)| | \theta=\theta_0)\)
标准决策规则 给定显著性水平\(\alpha\)
1. 若\(p \leq \alpha\):拒绝\(H_0\),认为\(H_1\)成立
2. 若\(p > \alpha\):不拒绝\(H_0\),无足够证据证明\(H_1\)成立
证据强度分级 1. \(p≤0.01\):极强证据拒绝\(H_0\),结果高度显著
2. \(0.01<p≤0.05\):较强证据拒绝\(H_0\),结果显著
3. \(0.05<p≤0.1\):弱证据拒绝\(H_0\),结果边际显著
4. \(p>0.1\):无足够证据拒绝\(H_0\),结果不显著
核心性质 1. 是样本的函数(统计量),仅依赖样本,不依赖未知参数
2. 刻画反对\(H_0\)的证据强度,p值越小,证据越强
3. 与临界值法决策结果完全等价,但信息更丰富
对比临界值法的核心优势 1. 精度更高:不仅给出二元决策,还给出拒绝\(H_0\)的实际犯错概率
2. 灵活性更强:无需查临界值,可适配任意显著性水平\(\alpha\)
3. 通用性更广:所有检验的决策逻辑完全统一
4. 实操性更优:所有统计软件均直接输出p值,无需额外计算

表6 假设检验标准全流程步骤表

步骤序号 核心操作 严格数学表达 新药案例对应操作
1 设定原假设与备择假设 明确\(H_0: \theta \in \Theta_0 \longleftrightarrow H_1: \theta \in \Theta_1\) 设定\(H_0: \theta \leq 0.75\)\(H_1: \theta > 0.75\)
2 设定显著性水平\(\alpha\) 确定第一类错误的最大允许上限\(\alpha\) \(\alpha=0.05\)
3 构造检验统计量 确定样本函数\(T=T(X)\),明确其在\(H_0\)成立时的分布 构造\(T=\sum_{i=1}^{30}X_i\)\(H_0\)成立时\(T \sim b(30,\theta)\)
4 确定否定域/计算p值 方法1:根据\(\alpha\)确定临界值\(c\),得到否定域\(R\)
方法2:代入样本计算检验统计量观测值\(T(x)\),计算p值
方法1:确定否定域\(R=\{x:T\geq27\}\)
方法2:抽样得\(T=28\),计算得\(p≈0.01\)
5 统计决策 方法1:样本落在\(R\)中则拒绝\(H_0\),否则不拒绝\(H_0\)
方法2:\(p≤\alpha\)则拒绝\(H_0\),否则不拒绝\(H_0\)
方法1:\(28≥27\),落在否定域,拒绝\(H_0\)
方法2:\(p=0.01<0.05\),拒绝\(H_0\)
6 业务结论 结合业务场景给出可落地的结论,避免绝对化表述 有充分的统计证据表明,新药的治愈率显著高于75%

表7 假设检验常见致命误区与纠正表

常见误区 正确解读 案例说明
\(p>0.05\)说明“原假设\(H_0\)是对的” 绝对错误。\(p>\alpha\)仅说明“无足够证据拒绝\(H_0\)”,不能证明\(H_0\)成立,可能是样本量不足、检验功效低导致无法检测到真实差异 案例中\(T=26\)\(p≈0.1>0.05\),不拒绝\(H_0\),不代表新药治愈率≤75%,仅说明无足够证据证明其有效
p值是“原假设\(H_0\)成立的概率” 绝对错误。p值是\(P(\text{数据}|H_0\text{成立})\)\(H_0\)成立时出现当前数据的概率),而非\(P(H_0\text{成立}|\text{数据})\)\(H_0\)成立的后验概率),二者是完全不同的条件概率 \(p=0.05\)不是说\(H_0\)成立的概率是5%,而是说“如果\(H_0\)是对的,抽到当前极端数据的概率只有5%”
p值越小,说明实际效应/差异越大 绝对错误。p值大小同时受效应大小和样本量影响,大样本下即使无实际意义的微小差异,也能得到极小的p值 10000个样本下,两组学生平均分差0.5分(满分100),也能得到\(p<0.05\),但该差异无实际教学意义
不拒绝\(H_0\)时,可以说“接受\(H_0\) 绝对错误。假设检验的逻辑是“证伪不证实”,只能证明\(H_0\)不成立,无法证明\(H_0\)成立,“不拒绝”≠“接受” 案例中\(T=26\)时不拒绝\(H_0\),只能说“无足够证据证明新药有效”,不能说“新药无效”
两类错误可以同时无限减小 绝对错误。样本量固定时,两类错误此消彼长,无法同时减小;只有增加样本量,才能同时降低两类错误的概率 案例中把临界值从27提高到28,第一类错误从5%降到1%,但\(\theta=0.85\)时第二类错误从58%升到70%
p值是实验结果可重复的概率 绝对错误。p值是单次抽样的结果,重复抽样会得到不同的p值,无法反映实验的可重复性 \(p=0.05\)不代表实验重复一次能得到相同结果的概率是95%,仅代表单次实验中\(H_0\)成立时出现当前结果的概率为5%

posted on 2026-03-03 00:47  Indian_Mysore  阅读(0)  评论(0)    收藏  举报

导航