导语

随着Agent类AI工具普及，文本不再是"一次性生成"的，而是经过多轮迭代、反复编辑修改的产物。传统针对单篇文本的AI检测器，在面对多轮编辑的文本时迅速失效。近期有研究论文提出"基于diff的文本溯源"方法，通过分析编辑行为轨迹来区分人类与AI。本文深度解读这一技术思路。

一、问题背景：Agent编辑让文本检测失效

传统AI文本检测的思路是：拿一篇完整的文本，分析其用词、句式、统计特征，判断是不是AI生成的。这种方法在AI一次性生成整篇内容时还有一定效果。

但Agent时代改变了游戏规则：

  • AI可以像人一样，分多次修改文本；

  • 可以只修改局部段落、调整措辞；

  • 可以模仿人类的修改习惯。

经过多轮迭代编辑的文本，统计特征被"洗"过了，非常接近人类文本。传统的整篇检测器准确率大幅下降。

更复杂的场景是"人机混合编辑"：人写一部分，AI改一部分，反复交替。这种情况下，想要精准溯源每一句话的来源，几乎不可能。

二、diff-based provenance：从看结果到看过程

针对上述问题，学术界提出了一个新思路：不要只看最终文本，要看编辑过程。也就是diff-based provenance（基于差异的来源溯源）。

核心思想：
人类和AI的编辑行为模式是不一样的。即使最终文本看起来差不多，修改过程也会呈现不同的统计特征。通过保存每一次编辑的diff记录，分析修改行为模式，就能反推修改者是人还是AI。

三、编辑行为的特征差异

研究者总结了人类与AI Agent在文本编辑上的几类典型差异：

1. 修改幅度分布不同

  • 人类修改：修改幅度不均匀，有时改很多，有时只改一两个词；修改位置比较随机；

  • AI修改：修改幅度更均匀、更规整；倾向于整体重写段落，而不是零星修改。

2. 修改语义特征不同

  • 人类修改：经常有口语化调整、个性化表达、甚至错误修改；

  • AI修改：更规范、更书面、逻辑更连贯，修改方向更"正确"。

3. 迭代节奏不同

  • 人类编辑：节奏不规律，有长时间停顿、大段删改、反复修改同一处；

  • AI编辑：每轮修改量稳定，迭代节奏均匀。

4. 错误模式不同

  • 人类会犯各种类型的错误，修改时也可能改错；

  • AI的错误类型更固定，通常是事实性错误，很少有笔误类错误。

这些特征组合起来，就构成了区分人与AI的行为指纹。

四、技术实现与检测精度

实现方式

  1. 保存文本的每一次编辑历史，记录每次修改的diff；

  2. 提取修改幅度、修改位置、语义变化、迭代频率等特征；

  3. 训练分类器，判断编辑序列来自人类还是AI。

检测精度
在受控实验环境下，该方法可以达到较高的准确率，明显优于传统的单文本检测。

但也有明显局限：

  • 严重依赖编辑历史数据。如果拿不到diff记录，方法就无从谈起；

  • 对抗性场景下，AI可以刻意模仿人类编辑模式，降低检测准确率；

  • 人机混合编辑场景，溯源精度仍然不高。

五、对抗鲁棒性与现实局限

这一技术最大的挑战是对抗鲁棒性。一旦攻击者知道检测依据的特征，就可以针对性地伪造编辑行为。

比如：

  • 让AI分多次小幅度修改，而不是一次性改完；

  • 故意加入一些无意义的修改、回退操作；

  • 模拟人类的修改节奏和错误模式。

只要AI愿意伪装，总能找到绕过检测的方法。目前没有任何一种文本溯源技术是100%可靠、无法绕过的。

结语

基于diff的文本溯源，是AI内容检测领域的一个重要方向。它把检测视角从"文本本身"拓展到了"生成过程"，提供了新的判别维度。但我们必须清醒认识到：不存在银弹级的AI检测技术。道高一尺魔高一丈，检测与反检测会是一场长期的军备竞赛。对于真实场景，更重要的是建立流程与制度，而不是单纯依赖技术检测。