昆仑山:眼中无形心中有穴之穴人合一

夫君子之行,静以修身,俭以养德;非澹泊无以明志,非宁静无以致远。夫学须静也,才须学也;非学无以广才,非志无以成学。怠慢则不能励精,险躁则不能冶性。年与时驰,意与岁去,遂成枯落,多不接世。悲守穷庐,将复何及!

 

4.1.2同变统计判决函数

同变统计判决函数知识点详解与理论推导

一、核心背景与框架定位

这部分内容是同变估计理论的通用化、公理化升级
此前我们通过平移、相似变换两个特例,直观理解了同变估计的思想;而本节从统计判决理论的统一框架出发,借助群论工具,将“同变性”从参数估计问题,推广到所有统计决策问题(包括假设检验、预测、排序等),给出同变性的严格数学定义,为求解任意变换群下的最优同变判决函数(包括最优同变估计、最优同变检验)奠定理论基础。


二、基础概念:样本空间的可测变换群

1. 前置概率空间定义

给定样本\(X\),其概率测度空间为\((\mathcal{X}, \mathcal{B}_X, P_\theta)\),其中:

  • \(\mathcal{X}\):样本空间,所有可能的样本观测值的集合;
  • \(\mathcal{B}_X\):样本空间上的Borel\(\sigma\)代数,即所有可测集的集合,保证我们可以定义样本的概率分布;
  • \(P_\theta\):参数为\(\theta\)时,样本\(X\)的概率分布,全体分布构成分布族\(\{P_\theta, \theta\in\Theta\}\)\(\Theta\)为参数空间。

2. 可测变换

样本空间上的变换\(g\)是从\(\mathcal{X}\)到自身的映射:

\[g: \mathcal{X} \mapsto \mathcal{X}, \quad x' = gx = g(x) \]

\(g\)可测变换,当且仅当:对任意可测集\(A \in \mathcal{B}_X\),其原像\(g^{-1}A = \{x: gx \in A\}\)也满足\(g^{-1}A \in \mathcal{B}_X\)

  • 核心意义:保证变换后的随机变量\(Y=gX\)仍然是该概率空间上的合法随机变量,可研究其概率分布。

3. 变换群的严格定义

样本空间上的一族可测变换\(G = \{g\}\)称为变换群,当且仅当满足群的4条公理:

群公理 数学表述 直观意义
恒等元封闭 恒等变换\(e \in G\),其中\(e(x)=x, \forall x\in\mathcal{X}\) “什么都不做”的变换属于群,是群的单位元
逆元封闭 \(g \in G\),则其逆变换\(g^{-1} \in G\),满足\(g^{-1}(g(x))=g(g^{-1}(x))=x\) 群内的任意变换都可以“还原”,比如平移\(+c\)的逆是平移\(-c\)
乘法封闭 \(g_1,g_2 \in G\),则复合变换\(g_1 \cdot g_2 \in G\),其中\((g_1 \cdot g_2)(x)=g_1(g_2(x))\) 连续做两次群内的变换,结果仍然是群内的变换
结合律 对任意\(g_1,g_2,g_3 \in G\),有\(g_1 \cdot (g_2 \cdot g_3) = (g_1 \cdot g_2) \cdot g_3\) 复合变换的最终结果,仅与变换的先后顺序有关,与结合方式无关

4. 常见的变换群实例

  • 平移变换群:\(G = \{g_c: g_c(x) = x + c, c\in\mathbb{R}\}\),对应位置参数的平移变换;
  • 相似(尺度)变换群:\(G = \{g_k: g_k(x) = kx, k>0\}\),对应尺度参数的缩放变换;
  • 线性变换群、置换变换群(交换样本顺序)、对称变换群等。

三、核心定义:不变分布族与参数空间的导出群

1. 分布可识别性前提

定义不变分布族前,要求分布族满足可识别性:若\(\theta_1 \neq \theta_2\),则必有\(P_{\theta_1} \neq P_{\theta_2}\)

  • 意义:保证参数与分布是一一对应的,不会出现“不同参数对应同一个分布”的情况,为后续参数变换的唯一性奠定基础。

2. 不变分布族的严格定义(定义4.1.1)

给定分布族\(\{P_\theta, \theta\in\Theta\}\)与样本空间上的可测变换群\(G\),若对任意\(g \in G\)、任意\(\theta \in \Theta\),当\(X \sim P_\theta\)时,变换后的随机变量\(Y=gX\)的分布仍然属于该分布族,即存在唯一的\(\theta' \in \Theta\),使得:

\[Y = gX \sim P_{\theta'} \]

则称\(\{P_\theta, \theta\in\Theta\}\)关于群\(G\)的不变分布族

关键解读

“不变”的核心是分布族不变,而非单个分布不变:对样本做群内的任意变换,变换后的样本分布不会跳出原分布族,仅参数发生变化。

3. 参数空间的导出群

导出变换的定义

由于分布族是不变的,对每个\(g \in G\),我们可以定义参数空间\(\Theta\)上的一一变换\(\overline{g}\)

\[\overline{g}: \Theta \mapsto \Theta, \quad \overline{g}\theta = \theta' \]

其中\(\theta'\)满足:\(X \sim P_\theta \implies gX \sim P_{\overline{g}\theta}\)

导出群的定义

所有导出变换构成的集合\(\overline{G} = \{\overline{g}\}\),在参数空间\(\Theta\)上构成一个与样本变换群\(G\)同态的群,称为\(G\)在参数空间\(\Theta\)上的导出群

  • 同态性质:对任意\(g_1,g_2 \in G\),有\(\overline{g_1 \cdot g_2} = \overline{g_1} \cdot \overline{g_2}\),即样本变换的复合,对应参数变换的复合,群结构完全匹配。

四、实例详解:不变分布族的正反例

例1:平移群下的不变分布族(正面案例)

\(X \sim N(\theta,1)\)\(\theta \in \Theta = (-\infty,+\infty)\),样本空间\(\mathcal{X}=\mathbb{R}\),变换群为平移群\(G = \{g_c: g_c x = x + c, c\in\mathbb{R}\}\)

  1. 变换后的分布:若\(X \sim N(\theta,1)\),则\(Y = g_c X = X + c \sim N(\theta + c, 1)\)
  2. 不变性验证:\(N(\theta+c,1)\)仍然属于原分布族\(\{N(\theta,1), \theta\in\mathbb{R}\}\),因此该分布族是关于平移群\(G\)的不变分布族;
  3. 导出群:对应的导出变换为\(\overline{g_c}\theta = \theta + c\),导出群\(\overline{G}\)也是参数空间上的平移群,与样本群\(G\)同态。

例2:相似群下的非不变分布族(反面案例)

仍取分布族\(\{N(\theta,1), \theta\in\mathbb{R}\}\),更换变换群为相似群\(G = \{g_k: g_k x = kx, k>0\}\)

  1. 变换后的分布:若\(X \sim N(\theta,1)\),则\(Y = g_k X = kX \sim N(k\theta, k^2)\)
  2. 非不变性验证:变换后的分布方差为\(k^2 \neq 1\),不属于原分布族\(\{N(\theta,1)\}\),因此该分布族关于相似变换群\(G\)不是不变分布族

核心启示

一个分布族是否为不变分布族,与对应的变换群强绑定:同一个分布族,对某一变换群是不变的,对另一变换群可能完全不满足不变性。


五、同变统计判决函数的通用框架(理论延伸)

统计判决理论将所有统计问题统一为三要素:

  1. 样本空间与分布族:\((\mathcal{X}, \{P_\theta, \theta\in\Theta\})\)
  2. 判决空间\(\mathcal{D}\):所有可能的判决结果的集合(估计问题中\(\mathcal{D}=\Theta\),检验问题中\(\mathcal{D}=\{0,1\}\));
  3. 损失函数\(L(\theta,d)\):参数为\(\theta\)时,做出判决\(d\)的损失。

统计判决函数\(\delta(x)\)\(\mathcal{X} \mapsto \mathcal{D}\)的可测映射,对每个样本\(x\)给出判决\(\delta(x)\)

同变统计判决函数的通用定义

对样本变换群\(G\)、参数导出群\(\overline{G}\),定义判决空间的导出群\(\tilde{G} = \{\tilde{g}\}\)(与\(G\)同态),若判决函数\(\delta(x)\)满足:

\[\delta(gx) = \tilde{g} \cdot \delta(x), \quad \forall g\in G, \forall x\in\mathcal{X} \]

则称\(\delta(x)\)同变统计判决函数

与同变估计的对应关系

此前的同变估计,是该通用定义在参数估计问题下的特例:

  • 估计问题中,判决空间\(\mathcal{D}=\Theta\),判决空间的导出群就是参数导出群\(\overline{G}\),因此同变估计的条件简化为:

    \[\delta(gx) = \overline{g} \cdot \delta(x) \]

  • 平移群下:\(\overline{g_c}\delta(x) = \delta(x)+c\),对应\(\delta(x+c\mathbf{1}) = \delta(x)+c\),与此前的平移同变条件完全一致;
  • 相似群下:\(\overline{g_k}\delta(x) = k\delta(x)\),对应\(\delta(kx) = k\delta(x)\),与此前的尺度同变条件完全一致。

最优同变判决函数

在所有满足同变条件的判决函数中,使得风险函数(损失函数的期望)最小的判决函数,称为最优同变判决函数

  • 估计问题中,就是我们此前研究的最小风险同变估计(MREE)
  • 检验问题中,就是最优同变检验

六、核心知识点归纳总结

核心概念 严格定义 核心条件 直观意义 典型实例
可测变换群 样本空间上满足群公理的可测变换族 恒等元、逆元、乘法封闭、结合律 刻画样本的一类有规律的变换,保证变换的可逆性与封闭性 平移变换群、相似变换群
不变分布族 样本做群内任意变换后,分布仍属于原分布族的分布族 分布可识别、变换后分布不跳出原族 保证样本变换仅改变参数,不改变分布的类型,为参数的同步变换奠定基础 正态分布族\(\{N(\theta,1)\}\)关于平移群是不变分布族
参数导出群 样本变换群在参数空间上对应的一一变换群,与原群同态 与样本变换一一对应、保持群结构 刻画样本变换对应的参数同步变换,建立样本-参数的变换对应关系 平移群的导出群是参数空间的平移群
同变统计判决函数 满足“样本变换→判决同步变换”的统计判决函数 \(\delta(gx) = \tilde{g}\delta(x)\) 保证统计判决的结果,不随样本的合法变换而改变其统计意义 平移同变估计、尺度同变估计
最优同变判决函数 同变判决函数中,风险最小的判决函数 满足同变条件、最小化风险 在同变性约束下,找到统计意义一致、损失最小的统计决策 最小风险同变估计(MREE)、最优同变检验

同变统计判决函数与MREE通用理论详解

一、内容总览

本部分内容完成了同变理论从特例到通用公理化体系的完整构建

  1. 通过正反实例明确了「分布族与变换群的匹配性」,完善了不变分布族的应用场景;
  2. 严格证明了不变分布族的核心概率性质与导出群的群结构,为同变理论奠定数学基础;
  3. 从统计判决理论的统一框架出发,给出了同变判决函数、同变损失函数的通用定义;
  4. 证明了同变判决的核心性质——风险函数的群不变性,最终给出最小风险同变估计(MREE)的通用定义,为任意变换群下最优同变估计的求解提供了理论依据。

二、不变分布族的实例与匹配性规律

例4.1.4 均匀分布的不变分布族正反例

\(X \sim R(0,\theta)\)\(\theta \in \Theta=(0,+\infty)\),其概率密度为:

\[f(x;\theta) = \frac{1}{\theta}I\{0<x<\theta\} \]

其中\(I\{\cdot\}\)为示性函数。

1. 相似变换群下的不变性(正面案例)

取相似变换群\(G = \{g_k: g_k x = kx, k>0\}\),对变换后的随机变量\(Y=g_k X=kX\)

  • \(Y\)的支撑为\((0,k\theta)\),密度为\(f_Y(y) = \frac{1}{k\theta}I\{0<y<k\theta\}\),即\(Y \sim R(0,k\theta)\)
  • 变换后的分布仍属于原分布族\(\{R(0,\theta), \theta>0\}\),因此\(\{R(0,\theta)\}\)是关于相似群\(G\)的不变分布族;
  • 对应的参数导出群为\(\overline{G} = \{\overline{g}_k: \overline{g}_k \theta = k\theta\}\),与样本群同态,同为相似变换群。

2. 平移变换群下的非不变性(反面案例)

取平移变换群\(G = \{g_c: g_c x = x + c\}\),对变换后的随机变量\(Y=g_c X=X+c\)

  • \(Y\)的支撑为\((c, \theta+c)\),密度为\(f_Y(y) = \frac{1}{\theta}I\{c<y<\theta+c\}\),即\(Y \sim R(c, \theta+c)\)
  • 变换后的分布支撑起点非0,不属于原分布族\(\{R(0,\theta)\}\),因此该分布族关于平移群不是不变分布族。

核心规律总结

分布族是否为不变分布族,与变换群强绑定,存在天然的匹配关系:

  • 位置参数分布族 → 平移变换群(不变);
  • 尺度参数分布族 → 相似变换群(不变);
  • 非匹配的变换群无法保证分布族的不变性。

三、不变分布族的核心引理与证明

引理4.1.1 不变分布族的概率与期望变换公式

\(\{P_\theta, \theta\in\Theta\}\)是关于变换群\(G\)的不变分布族,导出群为\(\overline{G}\),则对任意\(g\in G\),有:

  1. 概率变换公式:\(P_{\overline{g}\theta}(B) = P_\theta(g^{-1}B)\),等价形式\(P_{\overline{g}\theta}(gA) = P_\theta(A)\)
  2. 期望变换公式:\(\mathbb{E}_\theta[h(gX)] = \mathbb{E}_{\overline{g}\theta}[h(X)]\),对任意可测函数\(h\)成立。

详细证明

(1)概率变换公式的证明

根据不变分布族的定义,若\(X\sim P_\theta\),则\(Y=gX \sim P_{\overline{g}\theta}\)
由随机变量变换的概率定义:

\[P_{\overline{g}\theta}(B) = P(Y \in B) = P(gX \in B) = P(X \in g^{-1}B) = P_\theta(g^{-1}B) \]

其中\(g^{-1}B = \{x: gx \in B\}\)是集合\(B\)的原像。

对等价形式,令\(B=gA\),则\(g^{-1}B = A\),代入上式得:

\[P_{\overline{g}\theta}(gA) = P_\theta(A) \]

得证。

(2)期望变换公式的证明

我们通过测度论的标准方法,从示性函数逐步推广到一般可测函数:

  1. 示性函数情形:取\(h(x)=I_A(x)\)\(x\in A\)时为1,否则为0),则

    \[\mathbb{E}_\theta[h(gX)] = \mathbb{E}_\theta[I_A(gX)] = P_\theta(gX \in A) = P_\theta(X \in g^{-1}A) \]

    由概率变换公式,\(P_\theta(X \in g^{-1}A) = P_{\overline{g}\theta}(A) = \mathbb{E}_{\overline{g}\theta}[I_A(X)] = \mathbb{E}_{\overline{g}\theta}[h(X)]\),示性函数成立。
  2. 非负简单函数情形:非负简单函数是示性函数的线性组合,由期望的线性性,公式自然成立。
  3. 非负可测函数情形:非负可测函数可表示为非负简单函数的单调递增极限,由单调收敛定理,公式成立。
  4. 一般可测函数情形:将一般可测函数分解为正部与负部\(h=h^+-h^-\),正、负部均为非负可测函数,公式分别成立,因此整体成立。

引理意义

该引理是同变理论的「核心计算工具」,将变换后样本的概率/期望,等价转化为变换后参数下原样本的概率/期望,是后续所有同变性质证明的基础。


引理4.1.2 参数导出群的群结构与同态性

参数空间上的导出群\(\overline{G} = \{\overline{g}\}\)是与样本变换群\(G\)同态的群。

前置定义回顾

群同态:若两个群\(G\)\(\overline{G}\)之间存在映射\(\varphi:G\to\overline{G}\),满足\(\varphi(g_1\cdot g_2) = \varphi(g_1)\cdot\varphi(g_2)\)(对任意\(g_1,g_2\in G\)),则称\(\varphi\)为同态映射,\(G\)\(\overline{G}\)同态。

详细证明

我们需要先证明\(\overline{G}\)满足群的4条公理,再证明其与\(G\)同态。

步骤1:证明\(\overline{G}\)是群
  1. 恒等元存在:样本群\(G\)的恒等变换\(e\)满足\(eX=X\sim P_\theta\),对应参数空间的恒等变换\(\overline{e}: \overline{e}\theta=\theta\),显然\(\overline{e}\in\overline{G}\),是\(\overline{G}\)的恒等元。
  2. 乘法封闭性:若\(\overline{g}_1,\overline{g}_2\in\overline{G}\),对应\(g_1,g_2\in G\)。因\(G\)是群,故\(g_1\cdot g_2\in G\),由不变分布族定义,\(g_1\cdot g_2\)对应导出变换\(\overline{g_1\cdot g_2}\in\overline{G}\)
    下证\(\overline{g_1\cdot g_2} = \overline{g}_1\cdot\overline{g}_2\)
    对任意可测集\(B\),由引理4.1.1:

    \[P_{\overline{g_1\cdot g_2}\theta}(B) = P_\theta\left( (g_1\cdot g_2)^{-1}B \right) = P_\theta\left( g_2^{-1}g_1^{-1}B \right) \]

    先对\(g_2\)应用引理4.1.1:\(P_\theta\left( g_2^{-1}(g_1^{-1}B) \right) = P_{\overline{g}_2\theta}\left( g_1^{-1}B \right)\)
    再对\(g_1\)应用引理4.1.1:\(P_{\overline{g}_2\theta}\left( g_1^{-1}B \right) = P_{\overline{g}_1(\overline{g}_2\theta)}(B) = P_{\overline{g}_1\cdot\overline{g}_2\theta}(B)\)
    由分布族的可识别性(不同参数对应不同分布),得\(\overline{g_1\cdot g_2} = \overline{g}_1\cdot\overline{g}_2\),因此\(\overline{g}_1\cdot\overline{g}_2\in\overline{G}\),封闭性成立。
  3. 逆元存在:对任意\(\overline{g}\in\overline{G}\),对应\(g\in G\),因\(G\)是群,故\(g^{-1}\in G\),对应导出变换\(\overline{g^{-1}}\in\overline{G}\)
    由封闭性结论:\(\overline{g}\cdot\overline{g^{-1}} = \overline{g\cdot g^{-1}} = \overline{e}\),因此\(\overline{g^{-1}}\)\(\overline{g}\)的逆元,逆元存在。
  4. 结合律:样本变换的复合满足结合律,导出变换的复合与样本变换完全对应,因此自然满足结合律。

综上,\(\overline{G}\)是群。

步骤2:证明\(G\)\(\overline{G}\)同态

定义映射\(\varphi:G\to\overline{G}\)\(\varphi(g)=\overline{g}\),由封闭性证明中的结论\(\varphi(g_1\cdot g_2) = \varphi(g_1)\cdot\varphi(g_2)\),可知\(\varphi\)是同态映射,因此\(G\)\(\overline{G}\)同态。

引理意义

该引理保证了样本变换的群结构可以完全传递到参数空间,确保了「样本变换-参数变换」的一致性,不会出现变换逻辑的混乱,为同变条件的合理性奠定了代数基础。


四、同变统计判决的通用定义体系

统计判决理论将所有统计问题统一为三要素:样本空间与分布族判决空间\(\mathcal{D}\)(所有可能的判决结果的集合)、损失函数\(L(\theta,d)\)。同变理论将同变性约束推广到了整个统计判决框架。

定义4.1.2 判决空间的导出群

设分布族关于变换群\(G\)不变,参数导出群为\(\overline{G}\)。若对任意\(g\in G\),都存在判决空间\(\mathcal{D}\)上的一一变换\(g^*\),且所有\(g^*\)构成的集合\(G^*\)是与\(G\)同态的群,则称\(G^*\)\(G\)在判决空间\(\mathcal{D}\)上的导出群。

定义解读

  • 与参数导出群不同,参数导出群由不变分布族唯一确定,而判决空间导出群由统计问题的实际意义决定,核心是保证「样本变、参数变、判决结果同步变」;
  • 典型场景:
    • 估计参数\(\theta\)本身:判决空间\(\mathcal{D}=\Theta\),自然取\(G^*=\overline{G}\),即判决变换与参数变换完全一致;
    • 估计参数的函数\(h(\theta)\):判决空间\(\mathcal{D}=h(\Theta)\),取\(g^* h(\theta) = h(\overline{g}\theta)\),保证变换的一致性。

定义4.1.3 同变判决函数与同变损失函数

1. 同变判决函数

若统计判决函数\(\delta(x)\)满足:

\[\delta(gx) = g^* \delta(x), \quad \forall g\in G, x\in\mathcal{X} \]

则称\(\delta(x)\)为关于变换群\(G\)的同变判决函数。

直观意义

「先对样本做变换再判决」的结果,与「先对样本判决再对判决结果做变换」的结果完全一致,保证了判决的统计意义不随样本的合法变换而改变。

实例对应

平移变换群下估计位置参数\(\theta\)\(g_c x=x+c\)\(g_c^* d=d+c\),同变条件为\(\delta(x+c)=\delta(x)+c\),与我们之前的平移同变条件完全一致。

2. 同变损失函数

若损失函数\(L(\theta,d)\)满足:

\[L(\theta,d) = L(\overline{g}\theta, g^* d), \quad \forall g\in G, \theta\in\Theta, d\in\mathcal{D} \]

则称\(L(\theta,d)\)为关于变换群\(G\)的同变损失函数。

直观意义

参数和判决同步变换后,损失保持不变,即损失仅与「判决的相对误差」有关,与参数、判决的绝对取值无关。

实例对应

平移变换群下的同变损失函数:\(L(\theta,d)=L(\theta+c,d+c)\),取\(c=-\theta\),得\(L(\theta,d)=L(0,d-\theta)=\rho(d-\theta)\),即损失仅与估计误差\(d-\theta\)有关,典型的二次损失\(\rho(t)=t^2\)、绝对损失\(\rho(t)=|t|\)均满足该条件。


五、同变判决的核心性质:风险函数的群不变性

引理4.1.3 同变判决的风险不变性

\(\delta(x)\)是同变判决函数,\(L(\theta,d)\)是同变损失函数,则:

  1. 损失不变性:\(L(\theta,\delta(x)) = L(\overline{g}\theta, \delta(gx))\)
  2. 风险不变性:风险函数\(R(\theta,\delta) = \mathbb{E}_\theta[L(\theta,\delta(X))]\)满足

    \[R(\theta,\delta) = R(\overline{g}\theta, \delta), \quad \forall g\in G, \theta\in\Theta \]

详细证明

(1)损失不变性的证明

由同变判决函数的定义:\(\delta(gx)=g^*\delta(x)\)
由同变损失函数的定义:\(L(\theta,d)=L(\overline{g}\theta, g^*d)\)
\(d=\delta(x)\)代入损失函数的同变条件,得:

\[L(\theta,\delta(x)) = L(\overline{g}\theta, g^*\delta(x)) = L(\overline{g}\theta, \delta(gx)) \]

得证。

(2)风险不变性的证明

风险函数是损失的期望,因此:

\[R(\theta,\delta) = \mathbb{E}_\theta\left[ L(\theta,\delta(X)) \right] = \mathbb{E}_\theta\left[ L(\overline{g}\theta, \delta(gX)) \right] \]

由引理4.1.1的期望变换公式\(\mathbb{E}_\theta[h(gX)] = \mathbb{E}_{\overline{g}\theta}[h(X)]\),令\(h(X)=L(\overline{g}\theta, \delta(X))\),代入得:

\[\mathbb{E}_\theta\left[ L(\overline{g}\theta, \delta(gX)) \right] = \mathbb{E}_{\overline{g}\theta}\left[ L(\overline{g}\theta, \delta(X)) \right] = R(\overline{g}\theta, \delta) \]

因此\(R(\theta,\delta) = R(\overline{g}\theta, \delta)\),得证。

引理的核心意义

这是MREE求解的理论基石
同变判决的风险函数在参数导出群的变换下完全不变,即:

  • 位置参数分布族:所有\(\theta\)可通过平移变换联系,因此同变估计的风险是\(\theta\)无关的常数
  • 尺度参数分布族:所有\(\sigma\)可通过相似变换联系,因此同变估计的风险是\(\sigma^p\)成正比、比例系数为常数的函数。

这一性质将「在所有参数下最小化风险」的全局优化问题,简化为「最小化一个常数/常数比例系数」的单变量优化问题,极大降低了MREE的求解难度。


六、最小风险同变估计(MREE)的通用定义

定义4.1.4 最小风险同变判决与MREE

\(\Delta\)为某一统计问题的所有同变判决函数构成的集合,\(R(\theta,\delta)\)为同变损失函数对应的风险函数。若存在\(\delta^*(x)\in\Delta\),使得:

\[R(\theta,\delta^*) \leq R(\theta,\delta), \quad \forall \delta\in\Delta, \theta\in\Theta \]

则称\(\delta^*(x)\)为该统计问题的最小风险同变判决
若该问题为参数估计,则称\(\delta^*(x)\)最优同变估计,记为MREE(Minimum Risk Equivariant Estimator)。

定义解读

  1. 结合引理4.1.3,由于同变判决的风险具有群不变性,因此只需\(\delta^*\)任意一个参数点上的风险最小,即可保证其在所有参数点上的风险都是最小的;
  2. 对于参数函数\(h(\theta)\)的估计,同变条件可推广为:\(\delta(gx) = g^* \delta(x) = h(\overline{g}\theta)\),例如估计尺度参数的幂\(\sigma^r\),同变条件为\(\delta(kx)=k^r\delta(x)\)

七、核心知识点归纳总结

核心概念 严格定义 核心条件 直观意义 典型实例
不变分布族 样本做群内任意变换后,分布仍属于原分布族的分布族 分布可识别、变换后分布不跳出原族 样本变换仅改变参数,不改变分布类型,保证参数变换的唯一性 \(R(0,\theta)\)关于相似群是不变分布族;\(N(\theta,1)\)关于平移群是不变分布族
参数导出群 样本变换群在参数空间上对应的同态群,刻画样本变换对应的参数同步变换 与样本群同态、一一对应 建立「样本变换-参数变换」的对应关系,保证变换逻辑一致 平移群的导出群是参数平移群;相似群的导出群是参数相似群
判决空间导出群 样本变换群在判决空间上对应的同态群,刻画样本变换对应的判决同步变换 与样本群同态、符合统计问题的实际意义 保证判决结果随样本、参数同步变换,统计意义不变 估计\(\theta\)时取\(G^*=\overline{G}\);估计\(\sigma^2\)时取\(g^*d=k^2d\)
同变判决函数 满足\(\delta(gx)=g^*\delta(x)\)的统计判决函数 样本变换后的判决 = 判决结果的变换 保证判决的一致性,不随样本的合法变换改变统计意义 平移同变估计\(\hat{\mu}(x+c)=\hat{\mu}(x)+c\)
同变损失函数 满足\(L(\theta,d)=L(\overline{g}\theta,g^*d)\)的损失函数 参数与判决同步变换后损失不变 损失仅与判决的相对误差有关,与绝对取值无关 二次损失\(L(\theta,d)=(d-\theta)^2\)、绝对损失$L(\theta,d)=
风险函数群不变性 同变判决的风险满足\(R(\theta,\delta)=R(\overline{g}\theta,\delta)\) 同变判决+同变损失 同变判决的风险在导出群变换下不变,将全局优化简化为单点优化 平移同变估计的风险是与\(\theta\)无关的常数
MREE(最优同变估计) 同变估计类中风险最小的估计 满足同变条件、在所有参数下风险最小 同变性约束下,统计意义一致且损失最小的参数估计 正态分布\(N(\mu,1)\)\(\mu\)的MREE为\(\bar{X}\)\(N(0,\sigma^2)\)\(\sigma^2\)的MREE为\(\frac{1}{n+2}\sum X_i^2\)

posted on 2026-02-25 22:01  Indian_Mysore  阅读(0)  评论(0)    收藏  举报

导航