AIGC标识 越认真的人,越像机器 ## ——AIGC 检测的病根是范畴错误,不是精度不够

摘要:王勃《滕王阁序》写于公元 675 年,在部分 AI 检测系统里的读数是 100%;同一篇《背影》,三个工具给出 18.21% 与不足 1%。本文要论证的是:这不是精度问题——那道门槛从立起来的那一刻起,位置就是错的。它查的是"人的特征",而人之所以为人,不在特征,在投入。


一、先看那组读数

2025 年 5 月,有媒体拿经典文本实测了几款主流的论文 AI 检测系统:

  • 王勃《滕王阁序》——写于公元 675 年,在部分系统的读数里是 100%;
  • 朱自清《荷塘月色》——被判 AIGC 疑似度 62.88%;
  • 同一篇《背影》——一个工具给出 18.21%,另两个工具给出的 AI 率不足 1%。

这些数字来自不同工具、不同版本,彼此并不构成可比数值。我要用的不是它们的高低,而是它们之间的离散度:同一篇文本,从不足 1% 到 100%。

一篇写于 675 年的骈文被判为 AI 生成,这件事不需要辩论。所以真正的问题不是"哪款工具准不准":

当同一篇文章在不同工具里得到从不足 1% 到 100% 的读数,我们测量的到底是什么?

我的回答是:那道门槛从立起来的那一刻起,位置就是错的——它查的是人的特征,不是人的投入。

二、两个"注意力",不是一回事

先说清两个词,因为它们同名而不同物。

注意力机制(attention mechanism):工程侧的一个运算规则——决定模型在处理一段输入时,把多少权重放在哪里。它是 2017 年前后随那篇著名的论文才流行起来的叫法,论文题目就叫 Attention Is All You Need。

人类原生注意力(native attention):心理学意义上的"注意"——有主体、有意识、有消耗;这个概念被当作术语使用已经一百多年。

命名上谁先谁后没什么可争:新东西借旧词是常事,命名从来各取所需。要指清的只有一件事——一个是借了名字的运算,一个是本来意义上的注意。 用"原生"只是想把这个借出去的名字放回原主身上。

工程注意力机制 人类原生注意力
本体 加权分配的运算规则 主体的生命行为
主体 无独立主体,依附模型参数 依附于单一生物个体
时间性 无时间厚度的一次前向传播 物理时间的不可逆消耗
感受质 无 有主观体验与认知投入
品质约束 概念无意义 总量稀缺;广度、稳定、分配、转移受约束
痕迹 产出数据 产出注意力痕迹

两侧各有一句要紧的话。

机制那一侧:它可以在毫秒级生成带感叹号、带吐槽、长短句交错的文本。这是拟合,不是经历。 它能在文字上模仿"纠结",但它没有纠结过。

人类那一侧:注意力是总量稀缺、会消耗、会衰减的生物资源。因为稀缺,投入才有成本;因为消耗不可逆,才存在"我在这上面花了多少时间"这件可计量、不可伪造的事。

(补一句术语:认知心理学另有"内源性/外源性注意"的对举,讲的是注意被什么牵引。本文要问的不是朝哪儿看,是费了多少,所以不借那组词。)

三、病根不是"混淆",是范畴错误

行业内的通常说法是"混淆了两个概念"。这个诊断不够准。

混淆是同一范畴里用串了词;这里发生的是把两个不同范畴的对象放到同一把标尺上量——哲学上有个现成的名字,叫范畴错误。

这个区分直接决定整改方向:混淆只需澄清定义;范畴错误则标尺本身必须换掉。 你不是量错了,你是拿温度计量长度。

由此可以推出一句更狠的:

凡是基于文本表层特征构建的检测器,在选定标尺的那一刻就已经失败了。

准确率可以调,误报率可以降,跨模型泛化可以改进——这些都是真实的工程进步,但都不触及那个先天的错位。在错误的坐标轴上做优化,优化得再好也是徒劳。

它为什么能被轻易绕开?加几句口语、打乱几个长短句、插几个情绪词,读数就掉下去了。成本低到不像一场攻防。原因很简单:

对手从来没有在攻击这道防线,它只是在模仿这道防线所测量的东西。

真正的错位在这里:它要抓的是"人的特征",而人之所以为人,不在特征,在投入。特征是可以用一次前向传播拟合出来的;投入是一段回不来的时间,拟合不出来。

四、还有一层没被说破:越认真的人,越像机器

那些被判为"像 AI"的文本,恰恰常常是人类把注意力用到极致的样子。

要把情绪表达抹平、把句式收齐、把术语统一、把推导一步一步卡住——这本身就是高度调控的产物:需要执行控制系统持续抑制无关输出,需要有意识注意在很长的时间里维持同一个目标。刻意删减抒情、构建统一的公理化体系,是原生注意力最吃力的用法之一。

所以,刻意克制是高阶注意力调控的证据,不是注意力缺失的证据。

现行体系犯的错因此不只是"误判",而是归因方向的颠倒:它把人类最高阶的那批注意力特征,读成了"非人特征"。这不是判错了一个样本,这是把标准读反了——

越认真的人,越像机器。

五、从"测不准"到"不予理睬",只有一步

判别既然不可靠,又不能不用——稿件在涨,审读能力没涨——于是各关卡普遍采取了一种权宜处理:不去逐篇判断内容,而是先按来源标签划档;检测值超过某条预设线,就不再进入实质审读。

这个动作在程序上可以自洽,它确实省下了审读成本。但它同时把一件本该由内容决定的事,交给了出身。

这里必须说清一层:这样处理的,不只是哪一家刊物、哪几个平台,而是整个社会——并且包括期刊自己。 期刊不是普通的商业渠道,它是人类的公共频道:一个领域的成果要在公共视野里成立,至今仍主要经由它。正因为它是公共设施,它的权宜之计就不是它一家的私事;它省下的那部分审读成本,会作为误判,由整个社会分担。期刊自己也在分担——它同样拿不到它真正需要的那样东西。

六、四条限定

第一,不是"检测工具全无用处"。 说"标尺选错了",不等于说它在任何场景下都无价值。在边界明确、后果可控的场景里,它可以是一个参考读数;本文反对的是把它用作"这是不是人写的"这个判定的依据。

第二,"不可通约"是概念论证,不是实验结论。 它说的是二者不属于同一范畴,因而不能互相测量;这不排除将来有人造出真正指向"投入"的指标——那将是另一套标尺,不是这一套的升级版。

第三,本文只做拆除,不做替代。 正面回答(问投入、三个环节、痕迹位次)自成一篇,见文末延伸阅读;那是另一条论证线,不是本篇的结论。

第四,不针对任何具体产品。 文中所指是"基于表层特征的检测路线"这一类做法,不对应任何具体厂商;引用读数只为说明离散度,不为评价工具优劣。

七、小结

现行 AIGC 判定的病根,不是参数没调好,是范畴搞错了:拿机器那一侧可观测的表层特征,去测人类这一侧不可观测的认知投入。 换参数解决不了,只能换标尺。

而它造成的方向性错误,比"不准"麻烦得多:它把人类最认真、最克制的那一批写作,读成了最像机器的证据。


附:出处与口径。 检测读数出自扬子晚报/紫牛新闻记者实测(2025-05-10),光明网等转载(05-11):《荷塘月色》62.88%;《背影》18.21%,另两家网站均小于 1%;《滕王阁序》部分系统显示 100%。这些数值来自不同工具、不同版本、不同批次,彼此不构成可比数值——引用它们不是为了比高低,而是用同一篇文本从不足 1% 到 100% 的离散度,说明该读数不能充当判定依据。同批报道中从业者表述:AI 检测本质上是分类模型的概率预测,误判率可降低但不可消除,不宜作为唯一评判标准。学理锚点:Vaswani A, et al.(2017)Attention Is All You Need;Simon H.(1971)注意力匮乏;Kahneman D.(1973)Attention and Effort;Corbetta & Shulman(2002);Itti & Koch(2001)。

延伸阅读(可选):《换一把尺子:不问"像不像人写的",问"有没有人花过回不来的时间"》【链接】

独立研究者个人观点,不追求期刊发表,只求概念边界清晰、架构自洽、可被结构性检验与反驳。凡结论强度超出证据上限之处,欢迎直接指出。

*标签:人工智能 / AIGC治理 / 认知科学 / 注意力机制 / 学术评价

posted @ 2026-10-12 22:41  魔法徽章  阅读(1)  评论(0)    收藏  举报