【翻译：验证不等于知识】

原文：Verification Is Not Knowledge
作者：Jessica Hullman
发布时间：2026 年 10 月 30 日

本文是西北大学计算机科学 Ginni Rometty 讲席教授、政策研究员 Jessica Hullman 的特邀文章。

迭戈·委拉斯开兹，《阿拉克涅的寓言》（约 1657 年）

比尔·瑟斯顿在一篇讨论严格证明对数学进步有何作用的文章中写道，衡量数学研究成功与否的标准，是“我们所做的事情能否让人们更清楚、更有效地理解和思考数学”。近期关于人工智能用于科学的许多讨论，都围绕着理解与答案之间的张力：科学究竟是让人获得洞见，还是把可验证的解答存档？

一方把成果放在首位。在他们看来，无论人是否参与了发现过程，长期悬而未决的猜想得到了可验证的证明，疾病有了治愈方法，进步就显而易见。另一方认为人的理解至关重要，因为它促使新发现融入既有知识体系，也塑造并启发下一代，等等。但强调正确成果的前一方，往往把这种主张视为设门槛或怀旧。

特里·陶在最近的一次演讲中提出一个思想实验：如果某种癌症疗法由 AI 研发，附有正式的正确性证明，并且通过了 III 期临床试验，但没有人理解它是如何被发现的，人们会多愿意接受它？批评者认为陶的推理没有抓住重点：一位四期癌症患者当然愿意接受这种治疗。

另一些例子涉及作者身份的模糊。汤姆·迪特里希谈到 arXiv 日益严重的问题：有些论文由人类作者投稿，但这些人似乎缺乏理解论文主张所需的专业知识。许多人随即质疑：如果验证问题已经解决，问责为什么还重要？这里的问责，指的是能够对一项主张负责，说明它依据什么，并在受到质疑时作出回应。我曾建议，同行评审者把专业判断留给那些没有被标记为大量由 AI 撰写的文本，让评审优先成为人与人之间的交流；但也有人认为，这阻碍了对真理的追求，而非保护它。

问题在于，如果我们都同意成果重要——确实在意长期猜想的解答，也终究想知道怎样治愈疾病——那么“理解”看起来就成了另一回事。与疗法或证明本身相比，它被描绘成一种可有可无的心理状态，很容易被当作次要限制而抛开，仿佛我们只是因为过去必须依靠理解才能得到答案，才额外附加了这一要求。

为理解辩护的人如果不反对这种割裂，就会立刻输掉争论。重视成果的一方很容易说，他们不过是不够努力去想象一种新的未来。但我们反复采用的这种浅表理解框架，掩盖了上述例子共同涉及的更深层问题。它们关心的与其说是某人的心理状态，不如说是出错之后会怎样。陶的情景取决于一种可能性：AI 利用临床试验本身的漏洞通过了试验。如果一篇论文的作者说不清自己的主张，一旦主张站不住脚，就没有人可供追问。

我们究竟是从什么时候开始相信，科学的价值只在于正确？

这种直觉归根结底与 AI 的关系没有表面上那么大。让 AI 主导科学的倾向，与其说表明一个人对 AI 未来多么有前瞻性，不如说是自冷战时期以来影响我们思考的“价值无涉理想”的表现：在判断证据表明了什么时，只有认识论标准才应占有一席之地，伦理和社会价值则不应介入。它弥漫于有关 AI 与科学的争论，也不足为奇；毕竟直到近几十年，拒绝价值无涉理想才成为科学哲学界的主流。

这一理想催生不切实际的期待，也使我们看不到：抵制 AI 生成内容迅速渗入科学记录，并不等于反 AI 或反科学。利害关系超出任何单场争论或单一学科。价值无涉理想扭曲了我们追求真理的方式，使我们误把经验证的结果当作知识。它威胁着支撑科学的人类能力，让我们把批评与问责视为烦人的额外负担，而非知识生产的运作机制。它还使我们弄不清理解是什么，进而弄不清理解为何重要。

科学的社会契约体现了二战后美国出现的一种科学与社会之间的理想化关系：科学家获得公共资助和自主权，社会则获得其探索带来的益处。这一契约以纯科学与应用科学的区分，以及基础研究为应用研究提供输入的“线性模型”为基础，用实际的社会效益取代了关于理解之价值的抽象论证，重塑了我们看待科学的方式。它还借鉴了 19 世纪末一些忧心忡忡的科学家的论点：他们担心，公众对电灯、蒸汽机等新发明的赞誉，会挤掉对他们认为更根本的科学贡献的尊重。这也帮助塑造了一种价值无涉理想，认为科学在其核心必须排除伦理或社会关切等“情境价值”。要让科学的社会契约作为科学进步的模型得到社会广泛认同，并因此巩固政府对科研的投资，我们就必须把求真想象成一种不受政治或社会压力影响的、非个人化的方法应用。

科学哲学家曾追求一种只依据“认识论”或“认知”价值的研究。科学家的意图或价值观带来的任何影响，都被视为应通过恰当方法尽量降低的风险。这为今天的疑问铺平了道路：只要主张正确，提出它的人是谁为什么重要？

关于 AI 在科学中应扮演什么角色的许多争论，归根结底是对科学真理能否仅凭正确程序实现的分歧。从 19 世纪末到 20 世纪初，几乎存在一种带有道德训诫意味的冲动：尽可能从科学过程中消除科学家的个人因素，以对系统的信任取代对个人的信任。

让 AI 智能体在科学文献中自由探索、自行验证并开展实验干预，看起来像是 19 世纪科学伦理长久以来期待的实现。许多“AI 赋能科学”的说法都继承了我所谓“科学天然对齐”的前提：只要大规模施行科学方法及其各种论证程序，我们就能达到无需人类判断也能产出真理的境地。

真实的东西真的能与理解或问责如此分离吗？数学成为近期争论的焦点，是因为它提供了一个看似可以明确分离正确性的案例：AI 可以验证一个证明，而没有任何人理解它如何成立。数学家在验证之后依然想要的东西，提示了机械客观性无法提供什么。

如今，科学哲学家大多不再认为价值无涉理想适当或有益。价值之所以不可避免，是因为我们是否拒绝或接受某个假设，取决于如何权衡后果。即便在数学这样抽象的领域，可能成立的真命题往往多得惊人，筛选时也不可能不考虑价值。数学家很早就承认，原则上，机器能够枚举从一组给定公理可证明的定理。但这个空间极其庞大，促使人们寻找巧妙的捷径去探索它。

即使能够大规模自动证明定理，也并非所有定理在人看来都同样有趣。某些开放问题之所以广受关注，以及社群如何逐渐接受并消化结果，其中的选择都包含价值判断。费马大定理最初引起关注，并不是因为它本身是一条格外重要的猜想，而是因为费马声称自己找到了证明，却从未给出证明，于是引得别人纷纷尝试。后来人们发现它可由模性猜想推出，而后者提出了数学不同领域之间此前未被预见的联系，它才变得举足轻重。同行评审发现原证明中的错误，并促成修订版后，人们就认为问题得到了解决，尽管形式化验证直到最近才出现。我们之所以培养认识上的鉴赏力，是因为缺少它时，面对的只会是一股不加区分的事实洪流。我们在选择问题、追究其中一些问题，并观察哪些问题带来新理解或新想法的过程中，逐渐形成这种能力。

如果由 AI 接管选择，我们可能失去个人成就感与社群协作，而这些恰恰促使许多人想要培养科学判断力。陶提出了类似观点：开放问题是灯塔，而非终点。借助 AI 过早抵达那里，可能使周围的研究领域失去生机。如果各领域在 AI 的改变下，不再培养能够判断什么有趣、什么符合人类愿望的人，我们最终得到的科学或许无法服务于人的基本利益。其成果会占用目标受众的注意力，却既不能为后续发现提供养料，也不能参与塑造下一代的过程。

这似乎在提示一种新的科学线性模型：即便 AI 比普通数学家更强，也要保证人的反思与探究得以延续。任何大量依赖智能体完成工作的人都知道，没有人介入时，工作就可能逐渐偏离方向。即使你以为自己为一个想法的实现和验证设计了明确的流程，也很容易陷入某个意想不到的分支中的微妙问题。如果你不主动行使认识主体性，很容易落入一种“无处之视角”——那不是纯粹的客观性，而是一个没有对应问题的答案。维持方向的一致，并非解决一次就能一劳永逸；它需要有人能够阐明不同价值，并在它们之间作出判断。

机械客观性试图以对程序的信任取代对个人的信任，但这种替代从未如预期那样发生。要明白为什么，我们需要看看求真所依赖的人际互动。

人们倾向于把科学的社会面与理性对立起来。社会面确实可能产生不良惯例、从众行为或对声望的盲从等弊病。但我们所认识的科学知识，始终是众多认识主体运用价值判断与专业知识，并在受到质疑时修正自身观点的产物，而不是某个外部验证引擎的产物。

正如哲学家海伦·朗基诺所论证的，客观的公共知识以共同语言，以及相信我们所描述的事物独立于我们的感知而存在为基础。如果我们能就世界的描述达成共识，两件事就成为可能：我们可以借助他人的经验获取知识，也可以有意义地批评科学主张。

科学共同体形成共同的标准和词汇，使我们能够在彼此的发现之上继续前进。我们无须事事亲自验证；有时依赖别人的发现，比亲自调查更能为我们的信念提供依据，尤其当对方掌握我们缺少的证据或专业知识时。

没有批评，就没有客观性。用朗基诺的话说，它“取决于任何特定科学共同体中发生的、能够带来转变的诘问有多深、多广”。要让批评真正带来转变，必须有人承担回应批评的责任。

同行评审和发表后的批评，不只是筛除误报的事实核查。它们意味着共同体成员要彼此追究各自主张所包含的承诺，并协商个人偏好的影响应止于何处。朗基诺解释说：“同行评审的作用不只是检查数据看起来是否正确、结论推理是否合理，还要为现象带来另一个观察视角；这个视角的提出，可能促使原作者修改他们思考和呈现观察与结论的方式。”

方法本身最好被理解为一个社会过程：进步取决于共同体能否维持批判性对话。这种对话也塑造参与其中的人，影响他们如何理解、如何运用判断力，同时生成知识。

如果批评和信任他人主张的能力是知识生产不可缺少的部分，我们就可以问：AI 能否履行同样的作用？没有人的参与，模型能否展开能够带来转变的批评？我们自己没有直接理解时，能否信任 AI 智能体的主张？如果能，我们自身提问、批评并为结果负责的能力又会怎样？

“只要结果正确，谁提出它并不重要”的观点，对应哲学中的可靠主义认识论。传统认识论坚持，真实的信念只有在持有者能够给出理由时才算知识。与之相对，可靠主义认为，至少在某些情况下，即便持有者说不出正当化的理由，真实信念仍可构成真正的知识，前提是他们凭借在相应情境下能够可靠地产生真实信念的能力，形成了这一信念。

但可靠性能提供的东西有其限度。哲学家罗伯特·布兰顿设想了一个共同体：其成员通过可靠途径获得真实信念，却无法为任何一个信念给出理由。因为认定这些信念的来源可靠，本身就会提供一种基于推论的正当化，而这个共同体做不到这一点，所以他们无法知道自己是可靠的。作为指示周围环境某些情况的工具，他们是可靠的；但他们无法认识到自身的可靠性。布兰顿得出结论：他们甚至不具备“可靠性”这一概念，因此也不可能拥有知识。

如果仅靠可靠性无法产生知识，什么才能做到？布兰顿的回答是：称某事为知识，是一种社会行为。要说一个人“知道”某事，我们必须赋予他一项承诺（他相信此事），以及持有这一信念的资格（该信念有正当理由）。但我们自己也必须承担这项承诺，也就是认可这一信念。

最初提出主张的科学家，使我们能够重复该主张，并从中推得结论；如果有人质疑，证明其合理性的责任仍由他承担。在人类科学中，我们比较容易做到这一点，因为如果最初的主张有问题，我们能找到一个有责任回应的来源，一起查明并解决。主张具有社会意义，是因为我们能要求原作者为所说的话负责。这才是对科学最重要的那种理解：数学家在证明得到验证后还想要的，也是陶所设想的病人同样需要的——结果在必要时能够接受追问和重新认识，以免我们把无法实现自身目标的东西误认为进步。

但当我们依赖自己并不理解的 AI 结果时，能追问的就只剩结果署名的人。这正是 arXiv 担忧的问题：作者无法为自己不理解的东西负责，因此受到批评时，也无法说明主张依据何在，或者是否应该撤回。换句话说，形式上的作者身份还在，实质性的作者身份却在弱化。于是我们失去了批评促成真正转变的可能，而这种可能恰恰首先支撑着我们对“客观”结果的理解。

一个自然而然的问题是：能否把批评直接交给 AI 智能体，让它自行决定捍卫结果，还是承认问题并修订？要让 AI 成为能够对自己的主张作出承诺的认识主体，究竟意味着什么？

今天的智能体要做到这一点，还需要克服几项挑战。其中之一，是它们缺乏我们赋予人的那种持续性和身份。同一个智能体在一次会话中撤回了某项主张，并不意味着它在下一次会话中仍会保持这一修正及其理由。如果每项新结果都由一套临时定制的多智能体基础设施产生，就很难像在人类科学家网络中那样，自然而然地记录和追踪各方的表现。

科学知识的生产依赖有所利害牵涉的认识主体。提出糟糕的主张会改变科学家在共同体中的地位，因此人们对个人的信任能够不断得到校准。尤其考虑到智能体缺乏持续性，它撤回主张时究竟会遭受什么可比的损失，并不清楚。

要克服这些限制，我们开发 AI 的方式必须发生重大转变：不再只追求每一次交互中尽可能有用，而要像人类科学家通常做的那样，跨越多次交互承担责任。这完全可能实现。但在我看来，即使 AI 能够负责，也不足以从人的角度维系有意义的科学。

假设我们成功开发了能够解释自己主张的智能体。这只满足了问责的一半要求；我们还需要有人有能力要求它们负责：索取证据、质疑假设、识别回避问题的回答。我们认可他人主张的质量，取决于我们能在多大程度上理解并检验自己所认可的东西。

这些能力是在运用中培养出来的：选择问题、为自己的工作辩护、评审论文、质疑他人的结果。不运用，就会失去。如果没有人能够判断 AI 回答的好坏，那么即便有一个完全能够负责的 AI，我们能得到什么也并不清楚。理论上我们拥有求真的机制，却没有能够实践求真的人。

瑟斯顿关于数学成功的看法，指向他所暗示的一种共同能力：追问、扩展和修补某个领域的知识。正如他说的：“只要这个领域的人确信某个想法行得通，它就不一定需要有正式的书面出处。”验证能告诉我们，某个结果在技术意义上经得起检验；但只有一个愿意为其负责的共同体，才能把它变成知识。

如果我们继续诉诸那种把正确性视为唯一要务的价值无涉理想，就会不断制造优先提供答案的工具，却忽视那些能让答案真正发挥作用的人所进行的求真与理解。

Cosmos Institute 是一所面向哲学家型建设者的学院，汇聚致力于以 AI 促进人类繁荣的技术工作者。我们开展研究员项目，资助快速原型开发，并与牛津大学、阿斯彭研究所和自由基金等机构合作举办研讨会。