人到人范式的信息论下界:自然人机交互的率失真框架、混合策略与边界条件
人到人范式的信息论下界:自然人机交互的率失真框架、混合策略与边界条件
本文由《论自然人交互的信息论结构:“人到人”范式的最优性、混合策略与鲁棒性》与《自然人机交互的“香农极限”》两篇先行工作整合修订而成,目标为作理论探索尝试。
证据分级标记:● 定理|○ 条件定理|◎ 经验律|◇ 猜想。
摘要
人机交互领域长期缺乏统一的规范性下界理论。Fitts 定律、Hick-Hyman 定律、GOMS/KLM 等方法能够预测交互耗时,却回答不了一个更根本的问题:在给定系统先验的条件下,用户为了把事情做对,在原理上最少必须付出多少表达?本文将人机交互建模为一个以系统先验 K 为条件的信源编码问题,提出并形式化“人到人”(Human-to-Human, H2H)范式——用户仅表达高层意图,智能系统利用先验自主完成执行。
本文的核心工作包含四部分。其一,基于 Fano 不等式证明:条件于系统先验 K,用户信号必须携带的关于需求 D 的新信息存在紧下界 \(I(D;s \mid K) \ge H(D \mid K) - h(\delta) - \delta \cdot \log(|\mathcal{D}| - 1)\),即需求残差熵 \(H(D \mid K)\) 构成交互信息成本的渐近极限。其二,我们识别并修正了这一框架中四个结构性问题:Fano 下界的对象错置(它约束的是信息编码成本 \(C_{\mathrm{info}}\),而非包含认知负荷的总代价 \(C_H\)),以及 Wyner-Ziv 类比的错配(系统的参数化先验 K 并非与 D 联合分布的边信息序列)、多轮下界的符号错误(\(\Delta_{\mathrm{interact}}\) 应为加项而非减项)、以及对齐偏差界的量纲错误(\(\kappa \le 2 \cdot \delta_{\mathrm{align}} \cdot L\) 修正为 \(\kappa \le 2\sqrt{\delta_{\mathrm{align}} / \mu}\))。修正后,框架由“Wyner-Ziv 框架”降级为更准确的“条件率失真框架”,Wyner-Ziv 仅为其保守近似。其三,我们将“共有先验优于独享先验”从设计洞察提升为定理:\(R_{D \mid K}(\varepsilon) \le R_{\mathrm{WZ}}(\varepsilon)\),从而证明“系统向用户展示其记忆”(记忆可见性)是信息论下界的构成要素,而非 UX 细节。其四,放松目标完全对齐假设后,我们给出对齐误差容忍界、基于置信度的最优混合策略阈值,并首次给出多轮交互下的下界修正——我们证明多轮交互并不降低信息总量的 Fano 下界,其真实收益在于认知成本的分摊与错误率的下降,且当系统先验足够强时,多轮反而更贵。
本文采用证据分级标记(定理/条件定理/经验律/猜想)明确区分数学结论与设计启发,并给出三项可检验的研究假设与预注册实验方案。
关键词:自然人机交互;率失真理论;Fano 不等式;信息下界;混合主动;置信度校准;人机协同
1 引言
1.1 问题:HCI 有经验律,但没有下界
人机交互自诞生起就与定量模型相伴。Fitts 定律预测指向运动时间 [1],Hick-Hyman 定律预测选择反应时 [2,3],GOMS 与 KLM 预测熟练用户的操作序列耗时 [4]。这些模型的共同特征是描述性的(descriptive):它们刻画“在某种交互技术下,任务需要多久”,其参数由实验拟合得到。
然而,当交互范式从“人操作机器”转向“人向智能体表达意图”——即大语言模型与自主 Agent 普及之后——一个描述性模型无法回答的问题是:给定系统已经掌握的用户先验 K,用户为了把事情做对,在原理上最少还要说多少?
这个问题不是“还要多久”,而是“还要多少信息”。它需要一个规范性的(normative)下界:不是描述现状,而是刻画任何交互方式都不可能突破的极限。没有这个下界,我们就无法判断一个交互设计是“接近最优”还是“仍有数量级的改进空间”,也无法判断“全懂型 AI”的宣传在原理上是否成立。
1.2 现有工具的边界
Fitts 定律的下界是零,它不包含“说错/做错”的代价维度;Hick-Hyman 定律刻画选择时间随选项数的对数增长,但假定选项集合外生给定,不刻画“系统能否主动缩小选项集合”;GOMS/KLM 假设任务良构、操作序列可枚举,而在 Agent 场景中执行主体是系统而非用户,操作序列不再由用户产生。信息瓶颈方法 [5] 提供了压缩—相关的权衡工具,但多用于模型内部表征,而非人—系统之间的交互代价。
换言之,现有工具回答的是“怎么做得更快”,而本文试图回答“最优能到什么程度,以及为什么达不到”。
1.3 本文进路与自我修正声明
本文提出 H2H(Human-to-Human)范式:用户像对人交代目标一样,只表达高层意图与约束;智能系统利用先验 K 补全背景、自主规划并执行。我们把这一范式置于率失真理论框架下,证明其在给定假设下可达交互代价的下界,并给出混合策略与鲁棒性边界。
方法论声明:本文采用“提出 → 批判 → 修正”的叙事结构——理论并非一次性成型,而是在推导过程中被反复审视。我们在正文中显式保留了四处自我修正,因为识别并修正这些错误本身构成方法论贡献。为避免在读者尚未接触技术细节时展开讨论,此处仅列出标题与所在位置,详细说明分别置于对应的技术章节:
- 修正一:Fano 不等式对象错置(详见 4.1 节开头)。Fano 下界约束的是互信息 \(I(D;s \mid K)\),而非总交互代价 \(C_H\)。
- 修正二:Wyner-Ziv 类比错配(详见 4.2 节开头)。H2H 应建模为条件率失真,Wyner-Ziv 仅为其保守近似。
- 修正三:多轮下界的符号错误(详见第 6 节开头)。多轮不降低信息总量的 Fano 下界,\(\Delta_{\mathrm{interact}}\) 应作为加项而非减项。
- 修正四:对齐偏差界的量纲错误(详见 5.1 节)。原表述 \(\kappa \le 2 \cdot \delta_{\mathrm{align}} \cdot L\) 量纲不一致且假设不足,已修正为 \(\kappa \le 2\sqrt{\delta_{\mathrm{align}} / \mu}\)。修正四的完整讨论见注 5.2,其反例与量纲分析对理论构建具有一般性方法论意义:它示范了一个“形式上自洽的不等式”如何在量纲检验与极端反例面前暴露出假设缺失。
【修改说明 P1-1】 原稿中“修正四的完整讨论见注 5.2……”为脱离列表的独立段落,现已合并为“修正四”列表项的续行,四条修正完全并列,消除排版瑕疵。
1.4 证据分级说明
HCI 理论论文的一个常见风险是:以数学语言包装的设计建议被读者当作数学结论接受。为避免这一混淆,本文对全部命题施加证据分级。
| 标记 | 含义 | 读者应如何使用 |
|---|---|---|
| ● 定理 | 有严格证明,条件明确 | 可直接作为推理前提 |
| ○ 条件定理 | 证明成立,但依赖强假设 | 检查假设满足后使用 |
| ◎ 经验律 | 有大量实证支持,无理论必然性 | 用于估计与预测,不用于证明 |
| ◇ 猜想 | 方向合理,缺证明或实验 | 仅作设计启发,不作承诺 |
表 1:本文的证据分级体系
本文的全部产品设计建议均集中在第 7 节,并明确标记为 ○ 或 ◇,与第 4–6 节的 ● 定理体系分离。
1.5 贡献声明
- 理论贡献:提出 H2H 范式的信息论框架,以系统先验 K 为条件,推导出交互信息成本的下界(定理 4.1),并证明其在条件率失真意义下的可达性(第 4 节)。
- 方法论贡献:识别并修正四个结构性问题——Fano 不等式对象错置、Wyner-Ziv 类比错配、多轮下界符号错误、以及对齐偏差界的量纲错误;给出 \(C_H = C_{\mathrm{info}} + C_{\mathrm{cog}}\) 的正确拆分方案(第 3.5、4.1 节),并补全命题 5.1(对齐误差容忍界)的推导(注 5.2)。
- 设计贡献:将“共有先验优势”定理化(定理 4.6),把“记忆可见性”从 UX 细节提升为信息论下界的构成要素。
- 边界贡献:给出多轮交互的下界修正(第 6 节)、语义/效用外生性的操作化方案(第 8.1 节),以及推论 4.3 的审计清单操作化(第 7.6 节),明确本理论能说与不能说的部分。其中第 6 节澄清:多轮交互不降低信息总量的 Fano 下界,其价值在于认知成本分摊与错误率下降;先验足够强时多轮反而更贵(命题 6.12)。
2 相关工作
2.1 HCI 中的信息论传统
Shannon 的信息论在 HCI 中的应用可追溯至 Fitts 定律 [1]——它把指向动作建模为一个带宽受限的信道,运动时间随“信息量”线性增长。Hick [2] 与 Hyman [3] 建立了选择反应时与选项熵之间的对数关系。此后,信息论被用于界面复杂度度量、菜单结构优化、以及人类多通道容量的估计 [6]。
缺口:这些工作把人视为信道(capacity 受限的传输者),关心“人能输出多少”。它们不把人视为信源(有需求要表达的主体),因此不回答“人最少要输出多少”。这两者在信息论中是信道编码与信源编码两个不同的问题,优化方向也相反。
2.2 认知成本建模:GOMS、KLM 与 MHP
Card、Moran 与 Newell 的 GOMS 模型与 KLM [4] 把任务分解为原子操作并累加耗时;人类处理器模型(MHP)给出感知、认知、运动三阶段处理器及其周期时间与容量参数。NASA-TLX [7] 提供主观认知负荷的多维量表。
缺口:这些是经验律(◎),参数由实验标定,不提供下界。它们刻画“表达的组织与执行代价”,正是本文 \(C_{\mathrm{cog}}\) 分量的测量来源,但无法给出 \(C_{\mathrm{cog}}\) 的理论下界——第 4.1 节将论证这一下界在原理上不可能由信息论给出。
2.3 自动化层级与混合主动
Sheridan 与 Verplank [8] 提出 10 级自动化层级;Parasuraman 等人 [9] 给出自动化的类型及“使用中、信任、训练”框架,警示过度自动化导致的监控退化与技能退化。近年来,人机混合决策研究关注何时把决策权交给人:基于模型置信度的选择性预测与风险—覆盖曲线 [10],以及置信度校准技术 [11]。
缺口:现有工作普遍以“准确率—覆盖率”权衡为优化目标,缺少一个把“用户表达成本”计入目标的统一代价函数。第 5 节把置信度阈值决策建立在“自动执行 vs. 人工干预”的期望信息加认知代价的比较之上,为 Sheridan 的层级选择提供定量判据。
2.4 率失真理论与语义通信
Shannon 的率失真理论 [12] 给出:在允许平均失真 \(\varepsilon\) 时,描述信源所需的最小速率 \(R(\varepsilon)\)。Blahut-Arimoto 算法 [13,14] 使其可数值求解。Wyner-Ziv 编码 [15] 证明:当边信息仅解码端可用时,所需速率介于 \(R_{D \mid Y}(\varepsilon)\) 与 \(R(\varepsilon)\) 之间;对高斯信源与二次失真,该速率恰好等于 \(R_{D \mid Y}(\varepsilon)\),无速率损失。语义通信与面向目标的通信 [16] 进一步把“失真”重新定义为任务相关量的失真。
缺口:率失真理论尚未被系统地用于刻画人—系统之间的交互代价下界;少数工作用熵度量界面复杂度,但未把系统先验作为条件引入。本文的核心技术步骤正是以系统先验 K 为条件,把交互代价问题转化为条件率失真问题。
2.5 智能 Agent 时代:澄清时机、记忆可见性与自主性
大语言模型使“系统拥有强先验”成为工程现实:用户画像、历史行为、环境状态可被编码为 K,并被用于预填、推荐与自主执行。近三年(2024—2026)CHI、CSCW、IUI 与 PACM HCI 围绕三个紧密相关的问题展开了密集研究。本节逐一对照,并指出本文填补的缺口。
2.5.1 何时追问:澄清与追问策略
Hu 等人 [17] 为会话 Agent 设计了三类自动追问(概念追问、相关概念追问、通用追问),并在 N=26 的用户研究中比较了算法生成与真人(Wizard-of-Oz)追问的效果:概念类与相关概念类追问的放弃率更低、相关性更好,而通用追问能引出信息量更大的回答。Houde 等人 [18] 在群体头脑风暴场景中研究“AI 何时该发言”,通过对 Agent 主动行为的控制实验,提出了涵盖 when/what/where/who/how 五个维度的控制分类学,发现用户明确反感 Agent 主导对话,并强烈要求对其主动行为拥有控制权。Overney 等人 [19] 的 Coalesce 系统把混合主动落到问卷设计这一具体任务上,指出“从 AI 辅助转向 AI 协作”的关键在于让用户始终保持对产出的裁决权。
缺口:这些工作给出了追问的分类学与控制机制(问什么、谁来问、如何控制),但“这一轮到底该不该问”仍是启发式的——或由固定轮次触发,或由分类器决定。它们没有把追问本身的代价计入目标函数,因而无法回答“先验已经很强时是否还应追问”。本文命题 6.11 给出 \(\Delta I \cdot \lambda > C_{\mathrm{cog}}(t) + C_{\mathrm{delay}}\) 的边际判据,命题 6.12 进一步给出否定性结论:先验足够强时,多轮追问的净收益为负。
在不确定性呈现方面,Cao 等人 [20](CSCW 2024)发现:仅仅展示模型不确定性并不足以形成适当依赖,必须先校准、再以频率格式呈现,用户才会据此调整依赖程度并缓解确认偏误。这直接支撑本文命题 5.5(校准是阈值策略的前提)与 RQ2。
2.5.2 记忆可见性与可审计性
Chen 等人 [21](CHI 2026)访谈了 20 名 ChatGPT 用户,发现多数人在得知系统记住了什么之后经历了负面期望违背(negative expectancy violation),并一致要求更强的可见性、可访问性、透明度与用户控制;他们据此提出以透明度、可访问性、能动性、有界友谊与可审视性为核心的设计建议。Jones 等人 [22](CHI EA 2025)发现用户对 Agent 记忆的心智模型是不完整的,会自发地把记忆按“从通用知识到具体用户知识”的层级分类,并希望系统按这些类别组织并控制访问。Lee、Choi 与 Mutlu [23](CHI EA 2025)在多用户个性化场景(MAP)中指出,用户必须能够参与冲突消解的验证与失败管理,否则系统的个性化决策不可信。
缺口(本文的核心差异):上述工作一致发现“用户希望看到并修改系统记住了什么”,并把这一诉求归因为信任、隐私与心智模型。本文给出一个互补且更强的解释——记忆可见性降低的是信息论下界本身。定理 4.6 表明 \(R_{D \mid K} \le R_{\mathrm{WZ}}\),即使用户完全不在意隐私与信任,纯粹从“用户要付出多少表达”的角度,黑箱记忆也严格劣于可见记忆。这一结论把“记忆可见性”从一项经验层面的体验优化提升为下界的构成要素,并为上述实证研究提供了一个可证伪的理论机制(RQ1)。
2.5.3 相邻的理论工作:对齐的通信复杂性下界
近期一项理论工作 [24] 把人机对齐形式化为 \(\langle M, N, \varepsilon, \delta \rangle\)-agreement 问题,并给出通信复杂性的信息论下界 \(\Omega(M \cdot N^2 \cdot \log(1/\varepsilon))\):当目标数 M 或主体数 N 足够大时,存在不可回避的对齐开销,且有限理性会导致指数级恶化。
与本文的关系:三个层面的差异。 该下界刻画的是在无共同先验的多主体场景下达成共识所需的通信总量;本文下界刻画的是在单用户—单系统场景下、给定先验 K 时用户的最小表达量。二者的差异可分解为三层:
- 问题设定不同:\(\langle M, N, \varepsilon, \delta \rangle\)-agreement 中 N 个主体各自持有先验 \(P_i\),目标是就 M 个目标的期望值达成 \(\varepsilon\)-一致;本文是单用户—单系统,K 只有系统一侧持有(或其可见性本身是设计变量,见定理 4.6),目标是最小化用户表达量。
- 下界的方向不同:Nayebi 的下界 \(\Omega(M \cdot N^2 \cdot \log(1/\varepsilon))\) 随主体数平方增长,刻画的是协调成本;本文的下界 \(H(D \mid K)\) 随先验强度单调下降,刻画的是表达成本。前者随参与方增加而膨胀,后者随系统知识增加而收缩。
- 对“不完全对齐”的处理不同:Nayebi 证明的是对齐开销不可回避——即 \(\delta_{\mathrm{align}} > 0\) 是常态而非例外,这是对“完全对齐”假设(本文 A7 所反对的默认)的根本性否证;本文则在承认 \(\delta_{\mathrm{align}} > 0\) 的前提下,进一步追问可容忍的偏差有多大,即命题 5.1 给出的容忍界。
互补:一个完整的对齐代价理论。 两项工作可以拼接为一个连贯的因果链——先验不可能完全一致(Nayebi:\(\delta_{\mathrm{align}} > 0\) 不可回避)→ 本文命题 5.1:\(\kappa \le 2\sqrt{\delta_{\mathrm{align}} / \mu}\)(行动偏差界)→ 容忍条件 \(\lambda \cdot I_{\mathrm{add}} > L \cdot \kappa + \delta_{\mathrm{align}}\)(H2H 是否仍占优)。即:Nayebi 给出“对齐的通信下界”(为什么必然有偏差),本文给出“对齐误差的容忍界”(有偏差时 H2H 还能不能用、需要用户补多少信息)。前者是后者的动机——正因为 \(\delta_{\mathrm{align}} > 0\) 不可消除,第 5 节的混合策略与阈值设计才不是可选项而是必选项。此外,亦有工作用熵、互信息与迁移熵等信息论量刻画人机共生关系 [25](预印本),但侧重于关系性质的判定,而非交互代价的下界。
3 公理体系与形式化模型
3.1 参与主体与符号
- 用户 H:拥有需求 D,通过信号 s(语音、文字、手势、点击等)表达。
- 系统 S:拥有先验 K,观测 s,输出行动 \(a \in \mathcal{A}\),产生结果 \(y \in \mathcal{O}\)。
- 需求 D:取值于(离散化后的)需求空间 \(\mathcal{D}\)。
- 系统估计 \(\hat{D}\):系统从 s 与 K 解码出的需求(后文一律以 \(\hat{D}\) 表示估计值)。
主要符号见附录 A。
3.2 公理体系
我们显式列出全部假设,并对每条施加证据分级。关键假设的失效直接决定定理的适用范围。
- A1 身体完整性约束(Corporeal Constraint, CC)●:人类保持天然感官与效应器官完整,禁止侵入式改造;非侵入式传感(脑电、表面肌电、摄像头等)被允许。意义:排除“高带宽侵入式接口”这一逃逸路径,使“降低用户表达量”成为唯一可行的优化方向。
- A2 任务本体可定义性 ●:存在明确定义的任务元组 \((\mathcal{S}, \mathcal{U}, \mathcal{A}, \mathcal{O}, d, L)\),其中 \(\mathcal{S}\) 为任务状态空间,\(\mathcal{U}\) 为用户意图空间,\(\mathcal{A}\) 为系统动作空间,\(\mathcal{O}\) 为可观察输出,d 为失真函数(量化“做错了多少”),L 为任务损失(量化“错一次代价多大”)。
- A3 需求分布局部平稳且可学习 ◇:用户需求 D 服从可学习分布;系统可累积先验 K。注意:真实场景中需求分布存在漂移,第 5.3 节将其建模为对抗先验。
- A4 语义与效用外生给定 ●:语义正确性、任务效用、安全约束由任务本体外生给定,不由信息论内部导出。意义:这是本理论的根本边界,第 8.1 节给出其操作化方案。
- A5 单任务独立需求 ◇:单次交互对应单一需求 D,各需求独立。注意:这是最脆弱的假设,第 6 节专门放宽它。
- A6 充分计算资源 ◎:系统可实时执行最优解码与规划。注:这是工程可行性假设而非数学条件——它断言存在足够算力,但不进入任何定理的证明;若算力受限,可达性(定理 4.4)在实践中不成立,而下界(定理 4.1)依然成立。
- A7 目标对齐度可调 ◎:系统效用与用户效用之间存在偏差 \(\delta_{\mathrm{align}}\),为可调参数,不默认为 0。注:\(\delta_{\mathrm{align}}\) 的取值来自经验观测与标定,不是由理论导出的量;Nayebi [24] 的通信复杂性下界进一步表明 \(\delta_{\mathrm{align}} > 0\) 不可消除(见 2.5.3 节)。修订:早期的“完全对齐”假设过强,本文将其降级为参数。
- A8 先验可审计 ●:系统先验 K 的每一条目具备来源、写入者、时间戳、权限与生命周期;其完整性可计算。
- A9 不可逆性可枚举 ●:系统动作空间 \(\mathcal{A}\) 中,不可逆动作子集 \(\mathcal{A}_{\mathrm{irr}} \subseteq \mathcal{A}\) 可被枚举;每个动作的风险 \(\rho(a)\) 可量化。
3.3 任务本体与失真
由 A2,任务由元组 \((\mathcal{S}, \mathcal{U}, \mathcal{A}, \mathcal{O}, d, L)\) 定义。失真函数 \(d: \mathcal{U} \times \mathcal{O} \to \mathbb{R}^+\) 度量系统输出与用户真实意图的偏离;损失函数 \(L: \mathcal{A} \times \mathcal{O} \times \mathcal{U} \to \mathbb{R}^+\) 度量该偏离造成的实际代价。二者由领域专家或任务本体给定(A4),信息论不推导它们。
用户发出信号 s,系统输出行动 a,观测到结果 y。系统的目标是最小化期望失真 \(\mathbb{E}[d(D, \hat{D})]\),同时受期望损失 \(\mathbb{E}[L]\) 约束。
3.4 需求分解与残差熵
定义 3.1(需求分解)●
给定系统先验 K,需求 D 可分解为 \(D = (D_{\mathrm{pred}}, D_{\mathrm{res}})\),其中 \(D_{\mathrm{pred}}\) 可由 K 完全确定,\(D_{\mathrm{res}}\) 为条件残差,满足 \(H(D_{\mathrm{res}}) = H(D \mid K) > 0\)。\(H(D \mid K)\) 称为需求残差熵。
直观地说:\(D_{\mathrm{pred}}\) 是“系统已经知道的”,\(D_{\mathrm{res}}\) 是“系统还不知道、必须由用户补充的”。交互的全部信息成本都花在 \(D_{\mathrm{res}}\) 上。
推论 3.2 ●:系统先验越强(K 越丰富),\(H(D \mid K)\) 越小,用户需要表达的信息越少;当 K 完全决定 D 时 \(H(D \mid K) = 0\),理想交互信息成本为零(但此时系统行为退化为猜测,见第 5 节)。
3.5 交互代价的联合度量与关键拆分
定义 3.3(交互代价)
- \(C_{\mathrm{info}}\):信息编码成本——用户组织并产生信号 s 以传递 \(D_{\mathrm{res}}\) 的成本。其信息论代理量为 \(I(D; s \mid K)\)。
- \(C_{\mathrm{cog}}\):认知成本——记忆检索、决策、表述组织、注意力切换、以及监控系统输出的成本。
这是本文方法论修正的第一处落点。早期表述将 Fano 下界直接施加于 \(C_H\)。但 Fano 不等式是信息量的不等式,它只能约束 \(C_{\mathrm{info}}\)(严格地说,约束 \(I(D;s \mid K)\));\(C_{\mathrm{cog}}\) 与互信息之间从未被建立起任何理论关系。
公理 3.4(成本异质性)●
\(C_{\mathrm{info}}\) 具有信息论下界(第 4.1 节);\(C_{\mathrm{cog}}\) 无信息论下界,只能通过经验律(Fitts、Hick-Hyman、KLM、MHP)估计(◎)。二者的量纲不同、可优化手段不同,不得合并后施加统一的信息论约束。
这一分离不仅有信息论依据,也有认知科学的独立支持:均匀信息密度(UID)理论表明,说话者优化的是惊讶度的平滑性而非总量(详见第 7.5 节),因此同一信息总量可以对应差异极大的认知成本。换言之,\(C_{\mathrm{cog}}\) 并非 \(C_{\mathrm{info}}\) 的函数,二者必须由不同的理论工具分别刻画。
3.6 置信度与不可逆性
定义 3.5(置信度)○
系统对估计 \(\hat{D}\) 或行动 a 的置信度 \(c(a) \in [0,1]\),需满足校准性:在所有 \(c(a) = p\) 的实例上,实际正确率应约为 p。校准误差以 ECE(Expected Calibration Error)度量 [11]。
定义 3.6(不可逆动作与风险)●
由 A9,\(\mathcal{A}_{\mathrm{irr}} \subseteq \mathcal{A}\) 为不可逆动作子集(如发送邮件、下单支付、删除文件),每个动作的风险 \(\rho(a) \in \mathbb{R}^+ \cup \{\infty\}\)。
不可逆性决定了错误是否可挽回,从而决定最优阈值(第 5.2 节):可逆动作的错误可在后续轮次修正(代价低),不可逆动作的错误不可修正(代价极高)。
4 信息论下界与可达性
4.1 Fano 下界的正确表述
修正一:对象错置(承接 1.3 节)
早期表述把 Fano 下界直接安在总交互代价 \(C_H\) 上,写作 \(C_H \ge H(D \mid K) - \cdots\)。这是对象错置:Fano 不等式是信息量的不等式,它约束的是互信息 \(I(D;s \mid K)\),而 \(C_H\) 还包含认知成本 \(C_{\mathrm{cog}}\)(决策、记忆检索、表述组织、注意力切换),后者与互信息之间从未被建立起任何理论关系。把二者混为一谈属于层级滑移——用信息论的结论去约束一个信息论无权约束的量。修正后的做法是:先对 \(C_{\mathrm{info}}\) 施加严格下界,再把 \(C_{\mathrm{cog}}\) 作为经验项加到右侧(定理 4.2)。
定理 4.1(Fano 下界,正确表述)●
设用户发出信号 s,系统估计需求 \(\hat{D}\),错误概率 \(P_e = \Pr[\hat{D} \ne D] \le \delta\)。则用户信号中必须携带的关于需求 D 的新信息(条件于先验 K)满足:
其中 \(h(\cdot)\) 为二元熵函数;当 \(\delta \to 0\) 时,下界趋于需求残差熵 \(H(D \mid K)\)。
证明:由标准 Fano 不等式,对任意估计量 \(\hat{D}\) 有 \(H(D \mid \hat{D}) \le h(P_e) + P_e \cdot \log(|\mathcal{D}| - 1)\)。由马尔可夫链 \(D \to s \to \hat{D}\)(给定 K 时同样成立:\(D \to (s, K) \to \hat{D}\))与数据处理不等式,\(I(D; s \mid K) \ge I(D; \hat{D} \mid K) = H(D \mid K) - H(D \mid \hat{D}, K)\)。又 \(H(D \mid \hat{D}, K) \le H(D \mid \hat{D}) \le h(\delta) + \delta \cdot \log(|\mathcal{D}| - 1)\),代入即得。\(\blacksquare\)
定理 4.2(交互代价的正确拆分)●
左项:严格信息论下界,约束 \(C_{\mathrm{info}}\);右项:经验下界,非信息论。
推论 4.3(全懂型 AI 的可证伪判据)○
任何宣称“用户什么都不用说”的交互方案,若满足 \(H(D \mid K) > 0\) 且错误率 \(\delta\) 有界,则必然满足以下三者之一:(1)使用了超出 s 的信息源(偷用用户历史数据、环境监测、第三方数据);(2)把任务空间压缩得足够小(限制了用户能做的事);(3)错误率实际上不可控(\(\delta\) 很大,或以用户的纠错劳动掩盖)。
意义:这一定理为“全懂型 AI”的宣传提供了可证伪的判据。
讨论:为什么这个拆分是贡献而非削弱
把下界从 \(C_H\) 收窄到 \(C_{\mathrm{info}}\),看似削弱了结论,实则使其可证、可用:信息编码成本有严格的、与实现无关的下界,因此可以判定一个方案是否接近最优;认知成本没有信息论下界,它依赖交互技术(键盘、语音、眼动)、界面设计与用户熟练度,只能实验标定。混为一谈会导致虚假的强结论——例如声称“因为 \(C_H \ge H(D \mid K)\),所以任何交互都不可能少于 N 比特”,这是错的,因为用户可以通过指向、示例、接受系统提案等低信息量方式,使 \(C_{\mathrm{cog}}\) 极低,同时 \(I(D;s \mid K)\) 恰好等于下界。
4.2 可达性:三种信息结构与 Wyner-Ziv 类比澄清
本节先以表 2 给出三种信息结构的导航图(它同时是本节与第 6 节的路线图),随后依次给出可达性定理(定理 4.4)与 Wyner-Ziv 近似定理(定理 4.5),最后讨论本节的修正二。
| 信息结构 | 应选模型 | 最小速率 | 产品含义 |
|---|---|---|---|
| 系统与用户都知道 K(共有先验) | 条件率失真 \(R_{D \mid K}(\varepsilon)\) | 最低 | 系统向用户展示记忆 |
| 只有系统知道 K,用户不知道 | Wyner-Ziv \(R_{\mathrm{WZ}}(\varepsilon)\) | 较高 | 黑箱式记忆 |
| 用户与系统各有部分私有信息 | 交互式率失真 | 取决于轮数 | 多轮澄清对话 |
表 2:三种信息结构及其对应模型
修正二:类比错配(承接 1.3 节)
早期表述将“人不知道 K、系统知道 K”直接等同于 Wyner-Ziv 设定。这是类比错配:Wyner-Ziv 要求边信息是与 D 联合分布的观测序列 \(Y^n\),而 K 是系统的参数化知识(用户画像、历史行为、环境状态),不是一个采样自 \(P(D, Y)\) 的序列。
正确的建模是条件率失真(解码端与编码端均可以 K 为条件,区别在于编码端是否知道 K 的内容)。Wyner-Ziv 是其在“编码端完全不知 K”情形下的保守近似。
定理 4.4(H2H 可达性)○
在 A1–A6、A8 下,设系统拥有先验 K,失真约束为 \(\mathbb{E}[d(D, \hat{D})] \le \varepsilon\)。则存在 H2H 方案使 \(C_{\mathrm{info}} \to R_{D \mid K}(\varepsilon)\),即在满足失真约束的所有条件编码中互信息的最小值;当 \(\varepsilon \to 0\) 时 \(C_{\mathrm{info}} \to H(D \mid K)\),达到定理 4.1 的下界。
证明思路:由条件率失真编码的构造性证明(随机码本 + 条件典型集译码),存在编码使速率任意接近 \(R_{D \mid K}(\varepsilon)\) 且失真不超过 \(\varepsilon\)。此处的关键假设是 K 在编码与译码两端均可用作条件;当用户不知道 K 时,需退化为定理 4.5 的情形。\(\blacksquare\)
定理 4.5(Wyner-Ziv 是保守近似)●
其中 \(R_D(\varepsilon)\) 为无知先验时的率失真函数。特别地,对高斯信源与二次失真,\(R_{\mathrm{WZ}}(\varepsilon) = R_{D \mid K}(\varepsilon)\)(等号成立,无速率损失 [15]);一般分布下该不等式可能严格。
证明:第一个不等式由“编码端已知边信息”的可行码本集合严格包含“编码端未知”的可行码本集合直接得到;第二个不等式由“忽略边信息”是一可行策略得到。高斯二次情形的等号由 Wyner-Ziv 的经典结果给出。\(\blacksquare\)
高斯特例(可解析的直觉)○
设条件残差 \(D_{\mathrm{res}} \sim \mathcal{N}(0, \sigma^2_{\mathrm{res}})\),失真为均方误差。则:
即:允许的失真 \(\varepsilon\) 每扩大 4 倍,用户可少说 1 比特;系统先验每使残差方差 \(\sigma^2_{\mathrm{res}}\) 缩小一半,用户少说 0.5 比特。这给出了“先验强度”与“表达量”之间的定量兑换率。
4.3 共有先验优势定理
定理 4.6(共有先验优势)○
设解码端(系统)拥有先验 K。若编码端(用户)也知道 K,则最小可达速率为 \(R_{D \mid K}(\varepsilon)\);若编码端不知道 K,最小可达速率为 \(R_{\mathrm{WZ}}(\varepsilon)\)。恒有:
当 K 仅包含 \(D_{\mathrm{pred}}\) 的确定信息、且 \(D_{\mathrm{res}}\) 的编码独立于 K 时,等号成立。
证明:两种情形的可行码本集合分别为 \(\mathcal{C}_{\mathrm{shared}}\) 与 \(\mathcal{C}_{\mathrm{private}}\)。编码端已知 K 时,可将码本索引按 K 分簇(binning over the conditional type),这是 \(\mathcal{C}_{\mathrm{private}}\) 中所没有的自由度,故 \(\mathcal{C}_{\mathrm{private}} \subseteq \mathcal{C}_{\mathrm{shared}}\),最小化得 \(R_{D \mid K} \le R_{\mathrm{WZ}}\)。等号条件:若 \(D_{\mathrm{res}} \perp K\),则按 K 分簇不带来额外收益,两集合的最优值相等。\(\blacksquare\)
产品含义(论文化表述)○
系统向用户显式展示其已记住的信息(“记忆可见性”),可将交互的信息速率从 \(R_{\mathrm{WZ}}\) 降低到 \(R_{D \mid K}\)。这不是 UX 优化,而是信息论意义上的下界降低。反之,黑箱式记忆(系统默默使用先验但不告知用户)在原理上更差:用户无法判断哪些已知、哪些需补充,只能重复表达已被系统掌握的背景,从而支付 \(R_{\mathrm{WZ}}\) 而非 \(R_{D \mid K}\)。
推论 4.7(三种交互原语的下界排序)○
设系统已掌握 \(D_{\mathrm{pred}}\):
- 黑箱记忆(系统默默预填):\(C_{\mathrm{info}} = R_{\mathrm{WZ}}\)。
- 记忆可见(侧栏展示“我记了这些”):\(C_{\mathrm{info}} = R_{D \mid K}\)。
- 主动确认(“你要的是 X 吗?”):\(C_{\mathrm{info}} = H(\text{yes/no}) \approx h(\delta) \ll R_{D \mid K}\),是最省力的形式,但仅当 \(D_{\mathrm{pred}}\) 正确的概率足够高时有效。
边界:主动确认引入了新的认知成本(用户需判断“是/否”,而非直接表达),且当 \(D_{\mathrm{pred}}\) 错误时会引入修正轮次。第 5.2 节给出其最优触发条件。
5 混合策略与安全边界
前节假设目标完全对齐。现实并非如此:系统可能误解、先验可能过期、目标可能偏离。本节放松该假设(A7:\(\delta_{\mathrm{align}}\) 为可调参数)。
5.1 对齐误差容忍界
命题 5.1(对齐误差容忍界)○
设:(i)失真函数 \(d(D, \cdot)\) 关于第二自变量 L-Lipschitz,即 \(|d(D, \hat{D}_1) - d(D, \hat{D}_2)| \le L \cdot |\hat{D}_1 - \hat{D}_2|\);(ii)用户的(负失真)目标函数 \(g(\hat{D}) := -d(D, \hat{D})\) 关于 \(\hat{D}\) 为 \(\mu\)-强凹,\(\mu > 0\);(iii)系统目标相对用户目标的偏离可写为有界扰动 \(\Delta(D, \hat{D})\),满足 \(\sup |\Delta(D, \hat{D})| \le \delta_{\mathrm{align}}\)(A7)。
记 \(\hat{D}_H := \arg\max g(\hat{D})\)(用户最优行动)、\(\hat{D}_S := \arg\max \{\, g(\hat{D}) + \Delta(D, \hat{D}) \,\}\)(系统最优行动)、\(\kappa := |\hat{D}_S - \hat{D}_H|\)。则:
- 对齐误差—行动偏差关系:\(\kappa \le 2\sqrt{\delta_{\mathrm{align}} / \mu}\);
- 容忍条件:H2H 帕累托占优于非 H2H 均衡,当且仅当 \(\lambda \cdot I_{\mathrm{add}} > L \cdot \kappa + \delta_{\mathrm{align}}\),其中 \(I_{\mathrm{add}}\) 为用户额外表达所减少的歧义,\(\lambda\) 为其单位价值。
证明:
(1) 的推导:由 g 的 \(\mu\)-强凹性及 \(\nabla g(\hat{D}_H) = 0\),强凹性的一阶刻画给出:对任意 \(\hat{D}\),\(g(\hat{D}_H) - g(\hat{D}) \ge (\mu/2) \cdot |\hat{D} - \hat{D}_H|^2\)。由 \(\hat{D}_S\) 对 \(g + \Delta\) 的最优性,\(g(\hat{D}_H) + \Delta(\hat{D}_H) \le g(\hat{D}_S) + \Delta(\hat{D}_S)\),于是 \(g(\hat{D}_H) - g(\hat{D}_S) \le \Delta(\hat{D}_S) - \Delta(\hat{D}_H) \le |\Delta(\hat{D}_S)| + |\Delta(\hat{D}_H)| \le 2\delta_{\mathrm{align}}\)——末项用到 \(|\Delta| \le \delta_{\mathrm{align}}\) 在两个点上分别成立,这正是右端出现因子 2 的原因。取 \(\hat{D} = \hat{D}_S\) 联立两式,得 \((\mu/2) \cdot \kappa^2 \le 2\delta_{\mathrm{align}}\),即 \(\kappa \le 2\sqrt{\delta_{\mathrm{align}} / \mu}\)。
(2) 的推导:以 H2H 相对非 H2H 的期望代价差为判据。采用 H2H 可省下用户为消除歧义而额外表达的信息,其价值为 \(\lambda \cdot I_{\mathrm{add}}\);代价包含两部分:其一是系统行动偏差 \(\kappa\) 经 L-Lipschitz 失真放大后的失真增量,至多 \(L \cdot \kappa\);其二是目标不对齐本身直接造成的效用损失,至多 \(\delta_{\mathrm{align}}\)。故 H2H 占优当且仅当 \(\lambda \cdot I_{\mathrm{add}} > L \cdot \kappa + \delta_{\mathrm{align}}\)。\(\blacksquare\)
注 5.2(修正四:对早期表述的修正)
早期表述写作 \(\kappa \le 2 \cdot \delta_{\mathrm{align}} \cdot L\)。该式在两个方面不成立:
- 其一,量纲不一致。 \(\delta_{\mathrm{align}}\) 的量纲为效用(失真),L 的量纲为“失真/\(\hat{D}\)”,二者之积的量纲为“失真²/\(\hat{D}\)”;而 \(\kappa\) 的量纲是 \(\hat{D}\)。量纲不同,该不等式不可能成立。反观修正后的 \(2\sqrt{\delta_{\mathrm{align}} / \mu}\):\(\mu\) 的量纲为“失真/\(\hat{D}^2\)”,故 \(\delta_{\mathrm{align}} / \mu\) 的量纲为 \(\hat{D}^2\),开方后为 \(\hat{D}\),与 \(\kappa\) 一致。
- 其二,假设不足。 仅凭 d 的 L-Lipschitz 条件无法约束有界扰动下极大值点的位移。反例:取 g 在区间 \([-M, M]\) 上为常值、区间外陡降(此时 \(d = -g\) 可取为满足 L-Lipschitz 的形式),则任意小的有界扰动 \(\Delta\) 都可使极大值点从 \(-M\) 跳到 \(+M\),\(\kappa = 2M\) 可任意大,而 \(\delta_{\mathrm{align}}\) 与 L 保持不变。因此必须额外引入曲率下界(此处取 \(\mu\)-强凹)才能得到非平凡的界。
- 关于替代形式:若改用“扰动项 \(\Delta\) 本身 G-Lipschitz”这一不同的假设,同法可得 \(\kappa \le 2G/\mu\)(线性形式,无平方根)。本文采用更弱、也更符合 A7 表述的有界扰动假设,故取平方根形式。二者定性结论一致:\(\kappa\) 随 \(\delta_{\mathrm{align}}\) 单调不减、随曲率 \(\mu\) 单调不增,且当 \(\delta_{\mathrm{align}} \to 0\) 时 \(\kappa \to 0\)。
含义:当系统与人目标偏离(\(\delta_{\mathrm{align}}\) 上升)或目标函数更平坦(\(\mu\) 下降)时,\(\kappa\) 随之上升,H2H 的优势被侵蚀,直到容忍条件失效——此时必须回退到人在回路的监督控制。Sheridan 的自动化层级选择由此获得定量判据。
5.2 置信度、校准与安全边界
定义 5.2(置信度门控策略)○
给定置信度 \(c(a)\) 与不可逆性 \(\rho(a)\),混合策略 \(\pi\) 为:当 \(c(a) \ge \tau(\rho(a))\) 时自动执行;当 \(c(a) < \tau(\rho(a))\) 时转人工确认或接管。
命题 5.3(最优阈值)○
在期望代价最小化准则下,最优阈值由下式给出:当“置信不足的期望损失”超过“打扰用户的代价”时,才应求助用户,即:
\(C_{\mathrm{human}}\) 为触发一次人工干预的总代价(信息 + 认知 + 延迟);\(\rho\) 为错误损失。
推论 5.4(不可逆动作的阈值刚性)●
对 \(a \in \mathcal{A}_{\mathrm{irr}}\) 且 \(\rho(a) \to \infty\)(如删除全部数据、对外发送),由命题 5.3,\(\tau^* \to 1\):任何置信度不足 1 的不可逆操作都必须人工确认。这为“高风险操作强制二次确认”提供了原理性依据,而非仅是合规惯例。
命题 5.5(校准的必要性)○
命题 5.3 的阈值策略以置信度已校准为前提。若置信度未校准,则实际风险与名义风险偏离,阈值失效。采用温度缩放 [11] 等方法校准后,ECE 下降,阈值策略的实际代价单调改善。
5.3 对抗先验下的退化与安全回退
命题 5.6(对抗先验下的率失真退化)○
设被污染先验为 \(K_{\mathrm{adv}}\),真实分布为 \(P_D\)。污染前后条件熵满足:
攻击使系统的有效残差熵被虚假降低(系统误以为自己知道得更多),导致率失真函数下移,进而造成不可控的失真膨胀:
\(W_1\) 为 1-Wasserstein 距离。
机制:攻击者(或漂移、过期数据)向 K 注入错误条目,使 \(H(D \mid K_{\mathrm{adv}})\) 看似下降,系统因此减少向用户的提问(认为无需澄清),导致残差未被传递就被执行。
安全回退策略 ●(基于 A8 先验可审计)
- 先验条目带来源与时间戳,超期条目自动降权(抵御漂移)。
- 新写入条目与用户显式反馈冲突时,触发一致性校验(抵御注入)。
- 当 \(H(D \mid K)\) 的下降未被用户的实际表达量下降所验证时,判定先验可疑,回退到更高的提问频率。
6 多轮交互下的下界修正
A5 假设“单任务独立需求”。真实的 Agent 场景几乎全是多轮、多目标、上下文强耦合的。本节放宽 A5,给出严格证明(含多变量互信息项的显式处理),并纠正早期表述中一处数学上不成立的处理。
6.1 因果模型与假设
设交互进行 T 轮。第 t 轮用户发出 \(s_t\),系统回应 \(r_t\)。记 \(\mathbf{s}_{1:t} = (s_1, \ldots, s_t)\),\(\mathbf{r}_{1:t-1} = (r_1, \ldots, r_{t-1})\),\(\mathbf{r}_{1:0} = \emptyset\)。我们采用如下因果图(DAG)假设:
- (M1) 用户侧:\(s_t \sim P(s_t \mid D, K, \mathbf{s}_{1:t-1}, \mathbf{r}_{1:t-1})\),即用户依据自身需求、对先验的了解与此前全部对话历史产生第 t 轮表达。
- (M2) 系统侧:\(r_t \sim P(r_t \mid K, \mathbf{s}_{1:t}, \mathbf{r}_{1:t-1})\),即系统回应仅由其先验与已观测到的用户表达决定,故 \(r_t \perp D \mid (K, \mathbf{s}_{1:t}, \mathbf{r}_{1:t-1})\)。
- (M3) 终局估计:\(\hat{D} \sim P(\hat{D} \mid K, \mathbf{s}_{1:T}, \mathbf{r}_{1:T})\),且 \(\Pr[\hat{D} \ne D] \le \delta\)。
【修改说明 P2-1】 原稿此处为转换残留
[[r]]₁:₀ = ∅,已统一为 LaTeX 记法 \(\mathbf{r}_{1:0} = \emptyset\);同段 \(s_{1:t}\)、\(r_{1:t-1}\) 全部统一为粗体向量记法 \(\mathbf{s}_{1:t}\)、\(\mathbf{r}_{1:t-1}\),并将 (M3) 中的终局轮次统一为大写 T(原稿误作小写 t,与“终局估计”语义不符)。
(M2) 是本节的关键:系统不知道 D,它的任何输出都是对已观测信号的(确定性或随机化)函数,因此系统回应本身不携带关于 D 的额外信息。这一点使多轮下界的推导得以闭合。
6.2 信息总量下界:多轮不降低下界
引理 6.1(转录本可加性)●
在 (M1)—(M2) 下,\(\sum_{t=1}^{T} I(D; s_t \mid K, \mathbf{s}_{1:t-1}, \mathbf{r}_{1:t-1}) = I(D; \mathbf{s}_{1:T} \mid K)\)。
证明:第一步,对交错序列 \((s_1, r_1, s_2, r_2, \ldots, s_T, r_T)\) 反复应用互信息链法则:\(I(D; \mathbf{s}_{1:T}, \mathbf{r}_{1:T} \mid K) = \sum_t \left[ I(D; s_t \mid K, \mathbf{s}_{1:t-1}, \mathbf{r}_{1:t-1}) + I(D; r_t \mid K, \mathbf{s}_{1:t}, \mathbf{r}_{1:t-1}) \right]\)。第二步,由 (M2),\(r_t\) 与 D 在给定 \((K, \mathbf{s}_{1:t}, \mathbf{r}_{1:t-1})\) 时条件独立,故每一项 \(I(D; r_t \mid K, \mathbf{s}_{1:t}, \mathbf{r}_{1:t-1}) = 0\),于是 \(I(D; \mathbf{s}_{1:T}, \mathbf{r}_{1:T} \mid K) = \sum_t I(D; s_t \mid K, \mathbf{s}_{1:t-1}, \mathbf{r}_{1:t-1})\)。第三步,换一个顺序再次应用链法则:\(I(D; \mathbf{s}_{1:T}, \mathbf{r}_{1:T} \mid K) = I(D; \mathbf{s}_{1:T} \mid K) + I(D; \mathbf{r}_{1:T} \mid K, \mathbf{s}_{1:T})\),而末项同样由 (M2) 为 0。联立即得。\(\blacksquare\)
引理 6.2(带条件的 Fano 不等式)●
在 (M3) 下,\(I(D; \hat{D} \mid K) \ge H(D \mid K) - h(\delta) - \delta \cdot \log(|\mathcal{D}| - 1)\)。
证明:\(H(D \mid \hat{D}, K) \le H(D \mid \hat{D}) \le h(\delta) + \delta \cdot \log(|\mathcal{D}| - 1)\),故 \(I(D; \hat{D} \mid K) = H(D \mid K) - H(D \mid \hat{D}, K) \ge H(D \mid K) - h(\delta) - \delta \cdot \log(|\mathcal{D}| - 1)\)。\(\blacksquare\)
引理 6.3(条件数据处理不等式)●
\(I(D; \hat{D} \mid K) \le I(D; \mathbf{s}_{1:T} \mid K)\)。
证明:由 (M3) 与 (M2),给定 \((K, \mathbf{s}_{1:T})\) 后,\(\mathbf{r}_{1:T}\) 与 \(\hat{D}\) 均为系统侧核的(随机)函数,独立于 D,故 \(D \to (K, \mathbf{s}_{1:T}) \to \hat{D}\) 构成条件马尔可夫链。由条件数据处理不等式,\(I(D; \hat{D} \mid K) \le I(D; \mathbf{s}_{1:T}, \mathbf{r}_{1:T} \mid K) = I(D; \mathbf{s}_{1:T} \mid K)\)(末等号见引理 6.1 证明第三步)。\(\blacksquare\)
定理 6.4(多轮信息总量下界)○
在 (M1)—(M3) 下,用户在各轮中提供的新增信息总量满足:
换言之:无论分多少轮,用户必须提供的关于 D 的新信息总量不因多轮而减少。
证明:由引理 6.1,左端 \(= I(D; \mathbf{s}_{1:T} \mid K)\);由引理 6.3,\(I(D; \mathbf{s}_{1:T} \mid K) \ge I(D; \hat{D} \mid K)\);由引理 6.2,\(I(D; \hat{D} \mid K) \ge H(D \mid K) - h(\delta) - \delta \cdot \log(|\mathcal{D}| - 1)\)。三步串联即得。\(\blacksquare\)
6.3 多变量互信息项的显式处理:为什么条件集必须包含用户自己的历史
定理 6.4 中的条件集包含 \(\mathbf{s}_{1:t-1}\)(用户此前的表达)。若把它从条件集中去掉,只保留“公开可见”的上下文 \((K, \mathbf{r}_{1:t-1})\)——这正是外部观察者、或只记录系统侧日志的度量方式——则总和会多出一组条件交互信息(conditional interaction information,又称 co-information)项。
定义 6.5(条件交互信息)●
对随机变量 A、B、C 与条件 Z,定义 \(\mathrm{CoI}(A; B; C \mid Z) := I(A; B \mid Z) - I(A; B \mid Z, C) = I(A; C \mid Z) - I(A; C \mid Z, B)\)。两式相等(交互信息对 A、B、C 对称),且 CoI 符号不定:可为负(协同/synergy),可为正(冗余/redundancy)。
推论 6.6(公开上下文版本)●
令 \(\iota_t := \mathrm{CoI}(D; s_t; \mathbf{s}_{1:t-1} \mid K, \mathbf{r}_{1:t-1})\),则:
证明:在定义 6.5 中取 \(A = D\)、\(B = s_t\)、\(C = \mathbf{s}_{1:t-1}\)、\(Z = (K, \mathbf{r}_{1:t-1})\),得 \(I(D; s_t \mid K, \mathbf{r}_{1:t-1}) = I(D; s_t \mid K, \mathbf{s}_{1:t-1}, \mathbf{r}_{1:t-1}) + \iota_t\)。对 t 求和并代入引理 6.1 即得。\(\blacksquare\)
注 6.7(\(\iota_t\) 的符号与含义)
\(\iota_t > 0\)(冗余):用户第 t 轮重复了此前已说过的内容。此时“公开上下文”口径下的信息量虚高——它把重复计作了新信息,而这正是交互冗余 \(\Delta_{\mathrm{interact}}\) 的来源。\(\iota_t < 0\)(协同):第 t 轮的表达只有与此前表达结合才有意义(如“不是第二个”这类依赖前文的指代),此时公开上下文口径会低估该轮的贡献。
例 6.8(协同反例:公开上下文口径可低于 Fano 下界)●
设 \(D = (B_1, B_2)\) 为两个独立均匀比特,\(K = \emptyset\),要求 \(\delta = 0\)(完全恢复)。令 \(s_1 = B_1\),\(s_2 = B_1 \oplus B_2\)。则 \(I(D; s_1, s_2) = H(D) = 2\);而 \(I(D; s_1) = 1\),\(I(D; s_2) = 0\)。若系统首轮无实质回应(\(r_1\) 与 D 独立),则公开上下文口径的总和为 \(1 + 0 = 1 < 2 = H(D)\)。
可见:公开上下文口径不满足 Fano 下界;下界只在把各轮的协同贡献(此处 \(\sum \iota_t = -1 < 0\))加回后才恢复。因此,用于交互代价核算的正确口径是定理 6.4 的全上下文版本。
这一反例也解释了为什么早期把多轮效应写成“下界减去 \(\Delta_{\mathrm{interact}}\)”是不成立的:那一写法相当于宣称多轮可以从 Fano 下界中扣除一部分,而例 6.8 表明,被“扣除”的恰恰可能是多轮协同所必需的信息。
6.4 交互冗余与多轮的代价分解
命题 6.9(交互冗余是多轮的加项代价)●
定义第 t 轮的实际发射成本为该轮表达的条件描述长度 \(C_{\mathrm{info}}(t) := H(s_t \mid K, \mathbf{s}_{1:t-1}, \mathbf{r}_{1:t-1})\)(实践中使用语言模型的条件惊讶度 \(-\log p_{\mathrm{LM}}(s_t \mid K, \mathbf{s}_{1:t-1}, \mathbf{r}_{1:t-1})\) 作为其估计)。由 \(I(D; s_t \mid \cdot) \le H(s_t \mid \cdot)\) 得:
于是总信息成本可分解为:
其中第二项以加项出现:多轮只可能抬高实际成本,不可能压低理论下界。
证明:\(C_{\mathrm{info}}(\text{total}) = \sum_t C_{\mathrm{info}}(t) = \sum_t I(D; s_t \mid K, \mathbf{s}_{1:t-1}, \mathbf{r}_{1:t-1}) + \Delta_{\mathrm{interact}}\);对第一项应用定理 6.4 即得前两项,第三项由定义 3.3 的轮次展开给出。\(\blacksquare\)
6.5 多轮的真实收益:认知成本分摊与错误率
既然多轮不降低信息下界,为什么多轮交互在实践中有效?答案在于约束条件,而非信息总量。
命题 6.10(多轮的收益在于约束松弛)○
单轮交互要求用户在一次表达中产生约 \(H(D \mid K)\) 比特的信息。当用户的工作记忆与表达带宽受限(MHP 的容量限制,◎)时,单轮高信息量表达导致两类后果:(1)用户遗漏约束,实际传递量低于 \(H(D \mid K)\),错误率 \(\delta\) 上升;(2)组织长表述的认知成本 \(C_{\mathrm{cog}}\) 超线性上升。多轮把总信息量分摊到各轮,使每轮传递量不超过用户的舒适带宽 B:\(I(D; s_t \mid K, \mathbf{s}_{1:t-1}, \mathbf{r}_{1:t-1}) \le B, \; \forall t\)。从而在定理 6.4 的总量约束不变的前提下,降低峰值认知成本与错误率。换言之,多轮优化的是 \(C_{\mathrm{cog}}\) 与 \(\delta\),而不是 I 的总量。
命题 6.11(何时追问、何时直接执行)○
系统在第 t 轮是否应追问,取决于边际信息增益与追问代价的比较:
\(\Delta I = \mathbb{E}\left[\, H(D \mid K, \mathbf{s}_{1:t-1}, \mathbf{r}_{1:t-1}) - H(D \mid K, \mathbf{s}_{1:t-1}, \mathbf{r}_{1:t-1}, s_t) \,\right]\) 为期望信息增益。
结合命题 5.3,我们得到完整的策略判据。
| 系统状态 | 先验强度 | 最优策略 |
|---|---|---|
| \(c(a)\) 高、动作可逆 | 强 | 直接执行(H2H) |
| \(c(a)\) 高、动作不可逆 | 强 | 主动确认(一次 yes/no) |
| \(c(a)\) 低、\(\Delta I\) 大 | 弱 | 追问澄清(多轮) |
| \(c(a)\) 低、\(\Delta I\) 小 | 弱 | 交予人工/放弃自动化 |
表 3:追问与执行的策略判据
命题 6.12(多轮并非总是更优)○
引入每轮固定认知开销假设(◎ 经验律;KLM 的算子累加与 MHP 的处理器周期 [4] 均支持“轮次本身具有固定成本”,如话轮切换、注意力重新定向、上下文重载):存在 \(c_0 > 0\),使得对任意轮 t 有 \(C_{\mathrm{cog}}(t) \ge c_0\)。
记单轮方案的认知成本为 \(C_{\mathrm{cog}}(\text{single})\),多轮(\(T \ge 2\))方案相对单轮的净收益为:
依次为:认知分摊收益 − 交互冗余(\(\ge 0\))− 额外延迟(\(\ge 0\))。
符号约定(读 Gain 公式前先固定):设系统先验足够强,使得 \(H(D \mid K)\) 足够小、用户可在单轮内无遗漏地表达残差。此时单轮可行。将单轮认知成本显式分解为固定部分与可变部分:
其中 \(c_0 > 0\) 为开启一轮交互的固定开销,\(\eta \ge 0\) 为可变部分,即组织该轮表达所需的额外认知成本;先验越强、残差越短,\(\eta\) 越小,\(\eta \to 0\) 对应“残差无需组织、可直接确认”的极限。则:
- 对任意 \(T \ge 2\),由每轮固定开销假设,\(\sum_{t=1}^{T} C_{\mathrm{cog}}(t) \ge T \cdot c_0 \ge 2c_0\),故第一项 \(\le (c_0 + \eta) - 2c_0 = \eta - c_0\);
- 由命题 6.9 有 \(\Delta_{\mathrm{interact}} \ge 0\),且 \(C_{\mathrm{delay}}(t) \ge 0\),故后两项之和 \(\le 0\);
- 因此 \(\mathrm{Gain} \le \eta - c_0\)。当 \(\eta < c_0\)——即单轮表达的额外组织成本低于开启新一轮的固定开销,这正是“先验足够强”的含义——时,\(\mathrm{Gain} < 0\):多轮严格更贵。
反之,多轮要划算,其必要条件是 \(C_{\mathrm{cog}}(\text{single}) > \sum_t C_{\mathrm{cog}}(t)\),即认知分摊收益必须为正且足以覆盖冗余与延迟。
证明:第一项由定义直接给出;\(\Delta_{\mathrm{interact}} \ge 0\) 由命题 6.9 保证(因 \(I(D; s_t \mid \cdot) \le H(s_t \mid \cdot)\));\(\sum_{t>1} C_{\mathrm{delay}}(t) \ge 0\) 由延迟成本的非负性给出。三项分别代入即得结论。
关于退化情形的澄清:若取 \(T = 1\) 作为对照,则 \(\sum_t C_{\mathrm{cog}}(t) = C_{\mathrm{cog}}(1)\) 且延迟项为空,此时 \(\mathrm{Gain} = -\Delta_{\mathrm{interact}} \le 0\),在用户单轮内无重复表达时恰为 0。因此本命题的实质内容针对 \(T \ge 2\):多轮至多与单轮持平,且只要存在任意正的轮次固定开销(\(c_0 > \eta\))、交互冗余或额外延迟,多轮即严格劣于单轮。\(\blacksquare\)
这解释了实践中“多轮澄清机器人”令人厌烦的原理性原因:在系统已经知道得足够多时,每一轮追问都是在向用户索取他本不必提供的信息,其净代价为正。
7 设计洞察与可检验命题
本节将前述定理转化为设计原则与研究假设。注意:以下除标注 ● 者外,均为 ○ 或 ◇ 级结论,是设计启发而非数学必然。
7.1 由定理派生的设计原则
- D1 记忆可见性(定理 4.6,● 支持):系统应显式展示其记住的内容(侧栏、开场确认),把交互从 \(R_{\mathrm{WZ}}\) 降到 \(R_{D \mid K}\)。
- D2 主动确认优先(推论 4.7,○):在高置信时,用“你要的是 X 吗?”替代开放式提问,把用户的信息成本压缩到约 1 比特。
- D3 可编辑画像(定义 3.1,● 支持):让用户直接修改 \(D_{\mathrm{pred}}\) 的错误条目,即直接编辑残差,最接近理论最优。
- D4 置信度门控 + 不可逆性感知(命题 5.3、推论 5.4,○):不可逆动作强制人工确认;可逆动作按阈值自动执行。
- D5 先验可审计(A8、命题 5.6,● 支持):先验条目带来源、时间戳、权限,支持用户查看与撤销。
- D6 审慎追问(命题 6.12,● 支持):先验强时不要追问;追问前先估计期望信息增益 \(\Delta I\),只有 \(\Delta I \cdot \lambda\) 超过认知与延迟代价时才追问。
7.2 可检验命题
- RQ1(共有先验优势):系统显式展示记忆(共有先验)相比系统默默记忆(系统独享先验),是否显著降低用户的操作信息量?
- RQ2(置信度校准):置信度校准(如温度缩放)是否提升混合策略的实际性能(降低总代价、提高自动化率而不增加错误)?
- RQ3(追问时机,由命题 6.12 派生):在先验强的任务上减少追问轮次,是否降低总交互代价与用户厌烦度?
7.3 实验方案:RQ1
设计:被试间设计,随机分配至两组,任务与先验内容完全相同。共有先验组:交互开始时系统提示“我记得你上次要的是 A 格式、B 风格、C 受众,这次还对吗?”,并在侧栏持续展示记忆条目。独享先验组:系统使用同样的先验预填内容,但不告知用户。
任务:预订会议室、撰写邮件、查询数据等若干任务,覆盖不同 \(H(D \mid K)\) 水平(通过控制先验与任务的匹配度实现)。
测量指标:
- 操作信息量(主指标):用户输入文本/语音,用预训练语言模型估计其条件熵(surprisal)作为 \(I(D;s \mid K)\) 的代理。
- 认知负荷:NASA-TLX [7]。
- 任务完成时间:从开始到确认结果。
- 纠正频率:用户修改系统预填内容的次数。
- 主观信任与满意度:7 点 Likert。
预期结果 ◇:共有先验组的操作信息量显著低于独享先验组(\(p < 0.05\)),认知负荷与纠正频率更低,任务时间更短。
理论对接:直接检验 \(R_{D \mid K} < R_{\mathrm{WZ}}\) 的实践含义。若结果显著,说明“记忆可见性”确实降低了交互的信息论下界;若不显著,则提示实际的 \(R_{\mathrm{WZ}} - R_{D \mid K}\) 差距在该任务分布下很小(提示高斯等号条件近似成立),这本身也是有价值的负面结果。
预注册与分析计划:本实验方案已在 OSF 预注册(注册链接与 DOI:待补充,投稿前完成)。预注册内容包括:
- 【投稿前必填】OSF 预注册 URL 与 DOI:
https://osf.io/______(请在注册完成后替换本占位符;注册内容须与本条所列的样本量、分析计划、排除标准完全一致,并公开预注册时间戳以证明其先于数据收集)。 - 样本量估算:被试间两独立样本 t 检验,双侧 \(\alpha = 0.05\)、power \(= 0.8\)、效应量 \(d = 0.5\),所需样本量 \(n = 2(z_{1-\alpha/2} + z_{1-\beta})^2 / d^2 = 2(1.960 + 0.842)^2 / 0.25 \approx 63\)(每组)。按 15% 流失率向上取整,计划每组招募 74 人,共 148 人。注:若改用被试内(配对)设计,同参数下 \(n \approx 32\);本方案为避免学习效应采用被试间设计,故取 63/组。
- 主要分析:线性混合效应模型,以操作信息量(条件惊讶度之和)为因变量,条件(共有/独享先验)为固定效应,被试与任务为随机截距,并控制任务难度、先验—任务匹配度、以及惊讶度方差(见第 7.5 节末段)。
- 排除标准:未完成全部任务者;作答时间低于或高于均值三个标准差者;自报未注意到系统提示(操纵检验失败)者。
- 多重比较:主指标仅一个,不做校正;次要指标(认知负荷、时间、纠正频率)采用 Holm 校正。
混淆控制:两组的信息总量(系统展示所消耗的注意力)需匹配——展示记忆本身有认知成本,实验中应通过界面面积与呈现时间控制这一变量。
7.4 实验方案:RQ2
设计:在同一 H2H 原型系统上,比较校准前与校准后的最优阈值策略(命题 5.3)。通过控制实验设置(如让系统在特定比例的任务上给出低置信度),测量:自动执行比例、用户纠正频率、平均操作代价(信息量 + 认知成本)、名义置信度与实际准确率的偏差(ECE)。
预期结果 ◇:校准后在相同错误率下自动化率更高,总代价更低。
预注册与分析计划:与 RQ1 同步在 OSF 预注册(链接待补充)。采用被试内设计:同一批被试在两种阈值策略(校准前/校准后)下完成匹配的任务集,任务顺序随机化以抵消学习效应;样本量按配对 t 检验、\(d = 0.5\)、\(\alpha = 0.05\)、power \(= 0.8\) 计算得 \(n \approx 32\),考虑流失率取 \(n = 40\)。主要分析为以总代价为因变量的线性混合效应模型,控制任务难度与被试随机截距;次要分析检验 ECE 的下降幅度与总代价改善的相关性,以验证命题 5.5 所主张的“校准 → 阈值有效 → 代价下降”因果链。
7.5 测量的可操作化
- \(I(D;s \mid K)\) 的估计:直接计算互信息不可行。实用方案是用大语言模型估计用户表达的条件惊讶度 \(-\log p_{\mathrm{LM}}(s \mid K)\),作为其信息量的代理;或用人工标注的约束项数量(用户表达中显式指明的约束个数)作为离散近似。这一测量本身的效度需先做验证研究。
- \(C_{\mathrm{cog}}\) 的测量:NASA-TLX、任务时间、KLM 预测值、以及眼动/停顿等行为指标的组合。注意这些是 ◎ 经验代理,不是 \(C_{\mathrm{cog}}\) 的定义。
- \(\Delta_{\mathrm{interact}}\) 的估计(RQ3 需要):统计用户在后续轮次中重复提及的约束项占比,或以“首轮已表达约束在后续轮次被再次表述的比例”作为代理。
【修改说明 P2-2】 本节首条原为 Unicode 花体残留
𝟙(D;s|K),已统一为标准 LaTeX 记法 \(I(D;s \mid K)\)。
惊讶度代理的心理学依据与 \(C_{\mathrm{cog}}\) 的关系
用条件惊讶度近似 \(I(D;s \mid K)\) 并非纯粹的工程折衷,它有独立的心理语言学依据:人类说话者会主动管理信息密度,使逐词惊讶度在整个话语中保持均匀(uniform information density, UID)[26,27];惊讶度已被证明与阅读时间、N400 等加工难度指标相关。这一点对本文有两点直接含义:
其一,UID 意味着用户在“最省力”的自然表达中优化的是惊讶度的平滑性而非总量。因此实验中应比较信息总量(各词惊讶度之和),而非逐词惊讶度的峰值;若误用峰值作为指标,会把用户的平滑策略误读为效率低下。
其二,UID 同时说明 \(C_{\mathrm{cog}}\) 与惊讶度序列的形状有关,而 \(C_{\mathrm{info}}\) 只与总量有关——这为公理 3.4(两类成本不可合并约束)提供了又一条独立证据:同一个惊讶度总量可以对应差异极大的认知成本,取决于其分布是否平滑。因此在 RQ1 的分析中,我们建议把惊讶度的方差作为 \(C_{\mathrm{cog}}\) 的协变量纳入模型。
7.6 推论 4.3 的操作化:全懂型 AI 宣传审计清单
推论 4.3 给出了一个可证伪判据,但其价值取决于能否被操作化。本节把它转换为一份可逐条核查的审计清单(表 4)。
审计的基本方法:先固定任务与错误率,再追问信息的来源。具体分三步:(i)固定一个任务分布与一个可接受的误差上限 \(\delta\),据此计算或估计 \(H(D \mid K)\);(ii)测量用户在系统宣称的“零输入”模式下实际提供的信息量 \(I(D;s \mid K)\);(iii)若 I 显著低于 \(H(D \mid K) - h(\delta) - \delta \cdot \log(|\mathcal{D}| - 1)\),则推论 4.3 保证三种情况必居其一,按表 4 逐项排查。
| 宣传声称 | 审计问题(可操作) | 对应情况 | 判定方法 | 误判风险(假阳性/假阴性) |
|---|---|---|---|---|
| “用户什么都不用说” | 系统是否使用了本轮用户未主动提供的数据(历史会话、第三方账号、环境传感、日历/通讯录)?关闭这些数据源后任务成功率是否显著下降? | 情况(1) 偷用信息源 | 数据源消融实验(A/B) | 假阳性:消融后成功率下降也可能源于用户习惯改变或界面扰动,而非信息缺失。须以“关闭数据源但保留界面”作安慰剂对照 |
| “系统全自动完成” | 用户可执行的操作集合是否被限制(限定模板、禁用自由输入、预设选项)?放开限制后成功率是否下降? | 情况(2) 压缩任务空间 | 受限 vs. 开放任务集对比 | 假阴性:开放输入下成功率不降,也可能是用户自发收敛到模板(表达惰性),而非系统真的覆盖了该空间 |
| “零错误/几乎不出错” | 统计用户主动修正、重述、撤回的次数;把纠错劳动折算为信息量后,总信息量是否仍低于下界? | 情况(3) 错误率不可控 | 纠错日志审计 | 假阴性:用户可能放弃纠错而直接重开会话,或错误未被执行前已被系统自检拦截,二者都会低估真实错误率 |
| “无需任何背景设定” | 系统是否依赖默认人群先验?替换为分布外用户后 \(H(D \mid K)\) 是否显著上升、成功率是否下降? | 情况(1)+(2) | 分群测试(in/out-of-distribution) | 假阳性:分布外用户的成功率下降可能来自任务内容差异而非先验失配;须匹配任务难度后再比较 |
| “越用越懂你” | 先验的增长是否同时体现为“用户输入量下降”与“准确率上升”?若只有准确率上升而无输入量下降,则先验可能在被虚假降低(命题 5.6)。 | 交叉验证 | 纵向日志 + 一致性校验 | 假阴性:输入量不降也可能是任务难度同步上升所致;需以单位任务难度的输入量作归一化指标 |
表 4:全懂型 AI 宣传审计清单(推论 4.3 的操作化)
审计清单的局限:该清单只能证伪,不能证实。它可以判定一个“零输入”宣称属于三种情况中的哪一种,但不能判定系统“真的懂用户”——后者需要独立的任务成功率与 \(H(D \mid K)\) 的估计作为外部基准。此外,情况(1)(使用其他数据源)本身并非缺陷,很多情况下是合理设计;审计的目的不是禁止它,而是要求披露——这正是 A8(先验可审计)在宣传层面的对应要求。
8 讨论
8.1 边界:语义与效用外生给定
本理论最根本的边界由 A4 规定:信息论不推导语义与效用,只推导“给定语义与效用后,交互代价的最小值”。这与香农理论的做法一致——香农假设信源分布已知,不推导信源分布本身;本文假设任务本体已知,不推导任务本体。
操作化方案:将任务损失分解为三个可独立标定的分量:
- \(L_{\mathrm{sem}}\)(语义正确性):做对了没有。由任务本体定义(如“邮件是否传达了用户意图”),可人工标注或用 LLM-as-judge 评估。
- \(L_{\mathrm{util}}\)(效用):做得好不好。由用户满意度评分或行为数据标定。
- \(L_{\mathrm{safety}}\)(安全):出事故的代价。由风险分析标定;对不可逆动作,\(L_{\mathrm{safety}} \to \infty\)(对应推论 5.4 的阈值刚性)。
必须诚实说明:纯信息论无法推出“什么是最优交互”。它只能推出“在给定任务与损失定义下,交互代价的下界”。混淆这两者,正是第 1.3 节所批评的“层级滑移”。
8.2 与现有 HCI 理论的关系
| 维度 | Fitts / Hick-Hyman | GOMS / KLM | 本文框架 |
|---|---|---|---|
| 性质 | 描述性 | 描述性 | 规范性(下界) |
| 刻画对象 | 单次动作耗时 | 操作序列耗时 | 信息编码量 |
| 优化方向 | 缩短距离、减少选项 | 减少操作步骤 | 减少用户必须表达的信息 |
| 是否含错误代价 | 否 | 否 | 是(Fano / 率失真) |
| 是否含系统先验 | 否 | 否 | 是(条件于 K) |
| 证据等级 | ◎ 经验律 | ◎ 经验律 | ● 定理/○ 条件定理 |
表 5:本文框架与经典模型的定位对比
互补而非替代:本文刻画 \(C_{\mathrm{info}}\) 的下界,\(C_{\mathrm{cog}}\) 仍需 Fitts/Hick-Hyman/KLM 来估计(公理 3.4)。完整的最优交互设计应同时使用两者:用信息论确定“必须说什么”,用认知模型确定“怎么说最省力”。这也解释了第 6 节的分工——信息论给出多轮的总量不变性,认知模型给出多轮的分摊收益。
8.3 局限性
- 多轮交互的简化:第 6 节的模型未建模指代消解、上下文漂移与话题切换。完整的模型需要交互式率失真理论,其一般情形(含任意轮数的速率区域)仍是开放问题。
- 实验验证尚未完成:第 7 节的实验设计为预注册方案,本文不包含实证数据。定理 4.6 的实践幅度(\(R_{\mathrm{WZ}} - R_{D \mid K}\) 的具体数值)因任务分布而异,需实测。
- 参数标定的跨场景稳定性:\(\sigma^2_{\mathrm{res}}\)、\(C_{\mathrm{human}}\)、\(\rho(a)\) 等参数需逐场景标定,本文不提供通用数值。
- \(I(D;s \mid K)\) 的估计误差:语言模型估计的条件熵只是代理量,其系统偏差尚未被量化。
- A3 与 A5 的脆弱性:需求分布漂移与多目标耦合在真实场景中普遍存在,本文仅给出部分修正。二者已由 ●(定理)降为 ◇(猜想),其经验性应在引用时显式声明。
- 修正四对 \(\mu\)-强凹性的依赖:命题 5.1 的行动偏差界 \(\kappa \le 2\sqrt{\delta_{\mathrm{align}} / \mu}\) 以用户目标函数 g 的 \(\mu\)-强凹性为前提。虽然这是能保证极大值点位移有限的最弱曲率条件(注 5.2 的反例表明仅有 Lipschitz 条件不够),但在效用函数接近线性的场景下 \(\mu \to 0\),该界发散。这意味着:在偏好差异细微、目标函数平坦的任务中,容忍界可能过于保守,实际可用的判据应改用注 5.2 给出的替代形式 \(\kappa \le 2G/\mu\)(若扰动项本身 Lipschitz),或直接以经验方式标定 \(\kappa\)。
8.4 伦理考量
- 记忆可见性 vs. 隐私:D1 要求系统展示记忆,这在共享设备或公共场合可能泄露隐私。设计上需支持分级可见性(敏感条目默认隐藏但可审计)。
- 自动化与技能退化:H2H 的极致形态(用户几乎不表达)可能加剧文献 [9] 指出的监控退化与技能退化问题。命题 5.3 的阈值设计应保留适当的人工参与率,而非一味追求自动化率最大化。
- 先验操纵:由于 \(H(D \mid K)\) 决定用户表达量,系统有动机夸大自己的先验强度以减少提问(因为提问消耗算力与用户耐心)。A8 的可审计性是对抗这一动机的制度性保障。
9 结论
本文建立了自然人机交互的一个规范性下界理论。核心结论可概括为四句话:
-
用户表达量有下界:条件于系统先验 K,用户必须传递的关于需求 D 的新信息至少为
\[I(D; s \mid K) \ge H(D \mid K) - h(\delta) - \delta \cdot \log\left(|\mathcal{D}| - 1\right) \]这是 Fano 不等式的直接推论,与交互技术无关。
【修改说明 P2-3】 原稿此处公式为碎片化行内记法(
$H(D \mid K)$ − h($\delta$) − $\delta$·$\log(|\mathcal{D}|-1)$,数学符号与 Unicode 运算符混排),现已改为与定理 4.1 完全一致的独立 LaTeX 公式环境。 -
下界约束的是信息,不是总代价:\(C_H = C_{\mathrm{info}} + C_{\mathrm{cog}}\) 中只有前者有信息论下界,后者只能经验标定。这一拆分澄清了 HCI 领域一个长期存在的概念混淆。
-
共有先验降低下界:\(R_{D \mid K} \le R_{\mathrm{WZ}}\),因此“让系统展示它记得什么”不是 UX 优化,而是下界的构成要素。Wyner-Ziv 只是条件率失真的保守近似。
-
最优不是全自动化,多轮也不是万能的:目标不对齐、先验被污染、动作不可逆时,必须保留人工监督;而多轮交互并不降低信息总量的 Fano 下界,其收益在于认知成本分摊与错误率下降——先验足够强时,多轮反而更贵(命题 6.12)。
本理论的价值不在于给出一个数字,而在于提供判据:判断一个交互设计是接近最优还是仍有数量级空间,判断一个“全懂型 AI”的宣传在原理上是否成立,以及判断何时该自动执行、何时该追问、何时必须交给人。
后续工作包括:完成第 7 节的预注册实验,将第 6 节的多轮模型扩展到交互式率失真的一般情形,以及在真实 Agent 系统上标定 \(\sigma^2_{\mathrm{res}}\) 与 \(C_{\mathrm{human}}\) 等参数。
附录 A:符号表
| 符号 | 含义 |
|---|---|
| \(D\) | 用户真实需求 |
| \(\hat{D}\) | 系统的需求估计(本文一律以 \(\hat{D}\) 表示估计值) |
| \(\mathcal{D}\)(需求空间;为兼容无花体字形的阅读环境,Word 版记作 D) | 需求的取值空间,其基数 \(|\mathcal{D}|\) 出现在 Fano 下界中 |
| \(D_{\mathrm{pred}}, D_{\mathrm{res}}\) | 可由先验确定的部分 / 条件残差 |
| \(K\) | 系统先验(用户画像、历史、环境状态) |
| \(K_{\mathrm{adv}}\) | 被污染或漂移的先验 |
| \(s, s_t\) | 用户发出的信号;第 t 轮的信号 |
| \(\mathbf{s}_{1:t}\) | 第 1 至 t 轮用户信号序列 |
| \(r_t\) | 系统第 t 轮的回应 |
| \(\mathbf{r}_{1:t}\) | 第 1 至 t 轮系统回应序列(\(\mathbf{r}_{1:0} = \emptyset\)) |
| \(a, \mathcal{A}, \mathcal{A}_{\mathrm{irr}}\) | 系统动作、动作空间、不可逆动作子集 |
| \(d(\cdot,\cdot), L(\cdot)\) | 失真函数 / 任务损失函数 |
| \(\varepsilon, \delta\) | 失真上限 / 错误概率上限 |
| \(C_H, C_{\mathrm{info}}, C_{\mathrm{cog}}\) | 总交互代价 / 信息编码成本 / 认知成本 |
| \(R_{D \mid K}(\varepsilon), R_{\mathrm{WZ}}(\varepsilon)\) | 条件率失真函数 / Wyner-Ziv 率失真函数 |
| \(H(D \mid K)\) | 需求残差熵 |
| \(I(D;s \mid K)\) | 用户信号中关于 D 的新信息 |
| \(c(a), \rho(a), \tau\) | 系统置信度 / 动作风险 / 门控阈值 |
| \(\delta_{\mathrm{align}}, \kappa\) | 目标对齐误差 / 行动偏差 |
| \(\Delta_{\mathrm{interact}}\) | 交互冗余(多轮中的重复与修正浪费,恒 \(\ge 0\)) |
| \(\iota_t\) | 第 t 轮的条件交互信息(co-information),符号不定 |
| \(T, B\) | 交互轮数 / 用户单轮舒适带宽 |
附录 B:主要命题的证据分级索引
本表为全文命题的完整索引。相比前一稿,本表新增“依赖假设”与“是否本文新增”两列:前者用于使每条命题的适用范围可核查,后者用于区分本文相对原始博客框架的新贡献。
“是否本文新增”列的图例:
- 是:本文相对原始框架新增的命题或表述。
- 否(沿用):沿用原始框架,实质内容未变。
- 否(修正一/二/三/四):沿用原始框架的命题,但其表述或证明被 1.3 节列出的四项修正之一改动。
- 修正一(4.1 节):Fano 不等式对象错置——下界应约束 \(I(D;s \mid K)\),而非 \(C_H\)。
- 修正二(4.2 节):Wyner-Ziv 类比错配——应建模为条件率失真,Wyner-Ziv 仅为其保守近似。
- 修正三(第 6 节):多轮下界符号错误——\(\Delta_{\mathrm{interact}}\) 应为加项而非减项。
- 修正四(5.1 节注 5.2):对齐偏差界的量纲错误——\(\kappa \le 2 \cdot \delta_{\mathrm{align}} \cdot L\) 修正为 \(\kappa \le 2\sqrt{\delta_{\mathrm{align}} / \mu}\)。
- 否(降级):由原始的“定理”降级为“条件定理”,命题内容未变但适用范围被收紧。
| 编号 | 命题 | 证据等级 | 依赖假设 | 本文新增 |
|---|---|---|---|---|
| 定义 3.1 | 需求分解与残差熵 | ● 定理 | A2 | 否(沿用) |
| 公理 3.4 | 成本异质性 | ● 定理 | —(定义性) | 是 |
| 定理 4.1 | Fano 下界(正确表述) | ● 定理 | A1–A3 | 否(修正一) |
| 定理 4.2 | \(C_H^{\min}\) 的正确拆分 | ● 定理 | A1–A3、公理 3.4 | 是 |
| 推论 4.3 | “全懂型 AI”可证伪判据 | ○ 条件定理 | A1–A5、A8 | 是 |
| 定理 4.4 | H2H 可达性(条件率失真) | ○ 条件定理 | A1–A6、A8 | 否(降级) |
| 定理 4.5 | Wyner-Ziv 是保守近似 | ● 定理 | A2、A6 | 是(修正二) |
| 定理 4.6 | 共有先验优势 | ○ 条件定理 | A2、A6、A8(需 K 对编码端可见) | 是 |
| 推论 4.7 | 三种交互原语的下界排序 | ○ 条件定理 | 定理 4.6 | 是 |
| 命题 5.1 | 对齐误差容忍界 | ○ 条件定理 | A7 + 强凹性 \(\mu > 0\) | 否(证明补全、量纲修正) |
| 注 5.2 | 偏差界量纲修正 | ● 定理 | —(量纲分析) | 是(修正四) |
| 命题 5.3 | 最优置信度阈值 | ○ 条件定理 | A9 + 置信度已校准 | 是 |
| 推论 5.4 | 不可逆动作的阈值刚性 | ● 定理 | A9、命题 5.3 | 是 |
| 命题 5.5 | 校准的必要性 | ○ 条件定理 | 命题 5.3 | 是 |
| 命题 5.6 | 对抗先验下的率失真退化 | ○ 条件定理 | A8 | 否(沿用) |
| 引理 6.1–6.3 | 转录本可加性等 | ● 定理 | (M1)–(M3) | 是 |
| 定理 6.4 | 多轮信息总量下界 | ○ 条件定理 | (M1)–(M3) + A5 放宽 + A2 | 是(修正三) |
| 推论 6.6 | 公开上下文版本(含交互信息项) | ● 定理 | (M1)–(M3) | 是 |
| 例 6.8 | 协同反例 | ● 定理 | —(构造性) | 是 |
| 命题 6.9 | 交互冗余是加项代价 | ○ 条件定理 | (M1)–(M3) | 是 |
| 命题 6.10 | 多轮收益在于约束松弛 | ○ 条件定理 | (M1)–(M3) + 带宽 B(经验律) | 是 |
| 命题 6.11 | 何时追问、何时执行 | ○ 条件定理 | 命题 6.10、A7 | 是 |
| 命题 6.12 | 多轮并非总是更优 | ○ 条件定理 | 命题 6.9 + 每轮固定开销 \(c_0\)(经验律) | 是(证明修正) |
| D1–D6 | 设计原则 | ○ 条件定理 | 见各条对应命题 | 是 |
| 表 4(7.6 节) | 全懂型 AI 审计清单 | ○ 条件定理 | 推论 4.3 | 是 |
| RQ1–RQ3 | 预期结果 | ◇ 猜想 | — | 是 |
参考文献
【修改说明】 原 Markdown 版本节为空(转换丢失),现已从 Word 版(自然人机交互的信息论下界_论文稿.docx)完整补入 [1]–[27] 全部文献。
[1] Fitts, P. M. The information capacity of the human motor system in controlling the amplitude of movement. Journal of Experimental Psychology, 47(6):381–391, 1954.
[2] Hick, W. E. On the rate of gain of information. Quarterly Journal of Experimental Psychology, 4(1):11–26, 1952.
[3] Hyman, R. Stimulus information as a determinant of reaction time. Journal of Experimental Psychology, 45(3):188–196, 1953.
[4] Card, S. K., Moran, T. P., Newell, A. The Psychology of Human-Computer Interaction. Lawrence Erlbaum Associates, 1983.
[5] Tishby, N., Pereira, F. C., Bialek, W. The information bottleneck method. Proc. 37th Allerton Conference on Communication, Control, and Computing, 368–377, 1999.
[6] Wickens, C. D. Multiple resources and mental workload. Human Factors, 50(3):449–455, 2008.
[7] Hart, S. G., Staveland, L. E. Development of NASA-TLX: results of empirical and theoretical research. Advances in Psychology, 52:139–183, 1988.
[8] Sheridan, T. B., Verplank, W. L. Human and Computer Control of Undersea Teleoperators. MIT Man-Machine Systems Lab Report, 1978.
[9] Parasuraman, R., Riley, V. Humans and automation: use, misuse, disuse, abuse. Human Factors, 39(2):230–253, 1997.
[10] El-Yaniv, R., Wiener, Y. On the foundations of noise-free selective classification. Journal of Machine Learning Research, 11:1605–1641, 2010.
[11] Guo, C., Pleiss, G., Sun, Y., Weinberger, K. Q. On calibration of modern neural networks. Proc. ICML, 1321–1330, 2017.
[12] Shannon, C. E. Coding theorems for a discrete source with a fidelity criterion. IRE National Convention Record, 4:142–163, 1959.
[13] Blahut, R. E. Computation of channel capacity and rate-distortion functions. IEEE Transactions on Information Theory, 18(4):460–473, 1972.
[14] Arimoto, S. An algorithm for computing the capacity of arbitrary discrete memoryless channels. IEEE Transactions on Information Theory, 18(1):14–20, 1972.
[15] Wyner, A. D., Ziv, J. The rate-distortion function for source coding with side information at the decoder. IEEE Transactions on Information Theory, 22(1):1–10, 1976.
[16] Weaver, W. Recent contributions to the mathematical theory of communication. ETC: A Review of General Semantics, 10(4):261–281, 1953.
[17] Hu, J., Guo, J., Tang, N., Ma, X., Yao, Y., Yang, C., Xu, Y. Designing the conversational agent: asking follow-up questions for information elicitation. Proc. ACM Human-Computer Interaction, 8(CSCW1), Article 43, 1–30, 2024. https://doi.org/10.1145/3637320
[18] Houde, S., Brimijoin, K., Muller, M., Ross, S. I., Silva Moran, D. A., Gonzalez, G. E., Kunde, S., Foreman, M. A., Weisz, J. D. Controlling AI agent participation in group conversations: a human-centered approach. Proc. IUI '25, 390–408, 2025. https://doi.org/10.1145/3708359.3712089
[19] Overney, C., Kessler, D. T., Fulay, S. P., Jasim, M., Roy, D. Coalesce: an accessible mixed-initiative system for designing community-centric questionnaires. Proc. IUI '25, 366–389, 2025. https://doi.org/10.1145/3708359.3712118
[20] Cao, S., Liu, A., Huang, C.-M. Designing for appropriate reliance: the roles of AI uncertainty presentation, initial user decision, and user demographics in AI-assisted decision-making. Proc. CSCW '24, 2024.
[21] Chen, C., Molina, M. D., Liao, M., Cho Snyder, E. Relational gains, privacy strains: exploring users' perceptions and experiences with ChatGPT's memory feature. Proc. CHI '26, Article 912, 1–17, 2026. https://doi.org/10.1145/3772318.3791635
[22] Jones, B., Stemmler, K., Su, E., Kim, Y.-H., Kuzminykh, A. Users' expectations and practices with agent memory. Proc. CHI EA '25, Article 563, 1–8, 2025. https://doi.org/10.1145/3706599.3720158
[23] Lee, C. P., Choi, J., Mutlu, B. MAP: multi-user personalization with collaborative LLM-powered agents. Proc. CHI EA '25, Article 384, 1–11, 2025. https://doi.org/10.1145/3706599.3719853
[24] Nayebi, A. Intrinsic barriers and practical pathways for human-AI alignment: an agreement-based complexity analysis. Proc. AAAI '26, 37775–37782, 2026. https://doi.org/10.1609/aaai.v40i44.41113 (扩展版见 arXiv:2502.05934)
[25] Hu-Bolz, J., Stovold, J. Can we tell if ChatGPT is a parasite? Studying human-AI symbiosis with game theory. arXiv:2508.11359, 2025.(预印本)
[26] Levy, R. Expectation-based syntactic comprehension. Cognition, 106(3):1126–1177, 2008.
[27] Jaeger, T. F. Redundancy and reduction: speakers manage syntactic information density. Cognitive Psychology, 61(1):23–62, 2010.
对HCI/UX领域进行理论探索尝试,不是很理想。HCI/UX有很强的实践指导理论特性且跟人的感受紧密结合。只有人了解人自己,HCI/UX领域是人类在AI时代下还需自己努力的价值方向之一。
浙公网安备 33010602011771号