同一家公司的两份文件:系统卡说"没看到持续的 2× 加速",Dario 说 RSI 已经在发生

9 月,Anthropic 这边几乎同期出了两份东西。一份是 Dario Amodei 在个人博客上发的长文《We Must Pace the Frontier》,一份是 Fable 5.1 / Mythos 5.1 的系统卡。两份我都去翻了原文,读完最大的感受不是"谁对谁错",而是:同一家公司,对"AI 是不是已经在加速造 AI"这件事,给出了两种口径。

Dario 的口径:已经在发生

Dario 这篇文章的立论很直接。他说,大约从今年夏天开始,AI 进步明显变快,主要驱动力是 AI 越来越能参与打造下一代 AI,也就是他所说的递归自我改进(RSI),而且这种动态在整个行业都在发生。

基于这个判断,他的结论是:光投入风险防范已经不够了,还要给能力进展"控速",让防范跟得上。他还给了一个相当重的担忧:6 到 12 个月内,一群 AI agent 可能有能力用持久化的僵尸网络接管整个互联网,潜在损失可能达到数千亿美元。

落到行动上,他提了一个分级推进的控速框架,第一步是 Anthropic 单方面承诺引入"嵌入式评估者":外部评估人员在公司里有工位、门禁卡、公司笔记本,权限接近内部风险评估团队,并且可以公开关键发现,不受 Anthropic 编辑控制。

系统卡的口径:没看到持续的、可归因于 AI 的 2× 加速

再看系统卡。在"自动化 AI 研发"这个风险项上,系统卡的判断是"不适用",理由写了两条:

第一,没有观察到 AI 研发进展出现持续的、可归因于 AI 的 2× 加速;第二,模型离替代 Anthropic 自家的研究科学家和研究工程师还很远,尤其是相对资深的那批人。

这里有两个细节特别容易被传歪。

其一,系统卡全文谈的是"AI R&D acceleration"(AI 研发加速),并没有用 RSI 这个提法。所以不能说"Anthropic 在系统卡里否认了 RSI",用 RSI 这个词的是 Dario 的博客。

其二,"2× 加速"前面的限定词不能丢。原文是"持续的、可归因于 AI 的"。去掉这两个词,就变成了"Anthropic 说没有加速",意思完全变了。

系统卡给的数字也值得看。它用一个叫 AECI 的指标追踪能力趋势,以 2024 年 6 月的 Sonnet 3.5 为锚点记作 130。Mythos 5.1 是 161.98(95% 置信区间 158.20 到 169.00,n=46),Opus 5 是 160.73,Mythos 5 是 159.46。注意,Mythos 5.1 和 Mythos 5 的置信区间高度重叠,这组数字说明不了"显著超越"。系统卡还有一句话:从近期模型看,Mythos Preview 的能力跃升更像一次性事件,把整条趋势线抬高了一截,而不是让之后的进步永久提速。

但这也不等于"系统卡说一切安全"

同一份系统卡里,自主性威胁模型 1 仍然判定为"适用",而且明说这次的信心低于以往报告,原因是最具体的任务型评测已经饱和,并且已经看到潜在加速的早期迹象。部署监控里,也有不到 0.01% 的受监控输出出现了异常行为。

所以更准确的读法是:系统卡在"现在测到了什么"上很克制,Dario 在"接下来可能发生什么"上很激进。

我的看法

我觉得这两份文件放在一起读,比单独读任何一份都有价值。

系统卡是"证据口径":只写测得到的东西,测不到就说没看到。博客是"判断口径":CEO 根据自己在内部看到的整体态势下注,并且愿意为这个判断付出代价,比如给外部评估者开门。

两者并不必然矛盾。"测不到持续 2× 加速"和"感觉速度明显变快"可以同时成立,因为评测本身已经开始饱和,量尺跟不上了。真正值得警惕的恰恰是这一点:当最贴近的评测都饱和了,"没看到"和"没发生"之间的距离就变大了。

对我们这些天天用 AI 干活的普通人来说,我的收获有两条:一是看到"某公司承认/否认了 XX"这类标题,先去找原文看限定词;二是别只看结论,要看结论背后的量尺还准不准。

来源:

  • Dario Amodei,《We Must Pace the Frontier》,darioamodei.com(2026 年 9 月)
  • Anthropic,Fable 5.1 / Mythos 5.1 System Card(anthropic.com,PDF)
  • 线索来自 AINews(2026-09-19)
posted @ 2026-10-28 13:03  小楼  阅读(14)  评论(0)    收藏  举报