【译】为什么构建人工智能代理大多是在浪费时间

原作：李胜刚

 

过去两年，人工智能领域悄然兴起了一种奇特的观念：智能的未来在于构建智能体。放眼望去，工程师们都在创建 RAG 流水线，将各种工具串联起来，用编排框架封装大型语言模型，并将最终成果称为“人工智能系统”。

它看起来很棒。感觉很有效率。它满足了人们的工程建造本能。

但令人不安的事实是：大多数人工智能代理并非进步，而只是装饰品。

它们并不能真正扩展智能，也不能创造新的经济价值，而且它们很少能存活到下一代基础模型出现之后。在大多数情况下，构建人工智能代理并非迈向未来智能的一步，而只是暂时分散了我们对智能本质的理解。

这不是技术层面的争论，而是结构层面的争论。

一个简单的数学现实

大型语言模型的核心是一个函数逼近器：

LLM 生成的一切都是对输入信号及其学习到的内部表征的转换。它并非凭空创造信息，而是对信息进行重组、压缩和推断。

人工智能代理本质上是：

你添加内存。你添加检索功能。你添加工具。你添加工作流逻辑。

但从结构上看，你并没有创造一种新的智能，而只是在现有的智能之外添加了一个外壳。

这一点至关重要，因为封装器在经济上非常脆弱。基础模型的任何改进都会立即削弱它们的价值。当逻辑逻辑模型（LLM）在推理、记忆或长上下文处理方面变得更强时，大多数智能体逻辑一夜之间就会变得多余。

如果你的系统可以通过更大的上下文窗口和更好的提示符来替代，那么你拥有的就不是一款产品，而只是一种暂时的不便。

代理人不会增加信息

从信息论的角度来看，代理人面临着更加严峻的约束。

香农告诉我们，信息无法在封闭系统内产生。个体不会增加世界的熵，它只会重新分配熵。

您的 RAG 管道不会引入新的事实。它只是在文档、嵌入、提示和标记之间重新排列现有信息。

这意味着智能体并非智能倍增器，而是界面重组。

它们改变的是人体工程学，而不是认知。

它们提升的是便利性，而不是理解力。

为什么 RAG 是一种过渡性技术

如今，检索增强型生成之所以显得强大，是因为基础模型仍然存在局限性：

•   上下文长度是有限的
•   训练数据已冻结
• 幻觉仍然会发生。
• 域记忆是不完美的

RAG 通过注入外部存储器进行补偿。

但这种优势只是暂时的。

  当 LLMs 吸收时：

•   更大的背景
• 实时知识整合
• 更好的内部存储器压缩

RAG 之于 RAG，就像 CD-ROM 之于云存储：一种仅在技术过渡时期才有意义的权宜之计。

RAG 并非未来，而是当前局限留下的伤疤。

智能体降低了专家的智能水平。

这是最容易被误解的部分。

经纪人看似乐于助人，但对专业人士而言，实际上却是一种倒退。他们用自由换取了束缚。

  代理预先定义：

• 可以问哪些问题
•   允许哪些路径
• 允许使用哪些工具
• 预期输出结果

这对初学者很有用，但对专家来说却很危险。

律师不会按工作流程思考。数学家不会按管道推理。科学家不会通过菜单式的认知方式探索真理。

优秀的思维是非线性的、即兴的，并且与情境密切相关。而智能体却将认知固化成模板。

他们将情报转化为官僚主义。

基本价值方程

人工智能的真正方程式并非：

这是：

如果对某个领域的专业知识为零，人工智能的作用就为零。如果对某个领域的专业知识非常精深，人工智能就能成为一种优势。

  原因如下：

人工智能并不会使智能民主化，反而会加剧智能的两极分化。

为什么“周末经纪人”没有经济前景

如果一个城镇可以在一个周末建成，那么它就没有护城河。

它的复制成本几乎为零。它对基础模型的依赖是绝对的。它的生命周期以 API 版本发布次数来衡量。

这违反了所有可持续商业的原则：

•   毫无辩护余地
•   没有专有认知
•   没有复利优势

你不是在建设基础设施，你是在装饰别人的基础设施。

无人愿意承认的教育危机

家长们现在会问：“我的孩子应该学习人工智能吗？”

但他们误解了人工智能的本质。

人工智能领域只有两种真正的职业：

1. 模型构建者——数学家、统计学家和系统工程师
2. 人工智能赋能的专业人士——医生、律师、工程师、科学家、投资者

中间类别——代理商构建者——很大程度上是一种错觉。

它只能提供演示，而无法创造价值。

我们正在培养一代只会修饰界面而不是精通领域的人才。

这是一次灾难性的人才错配。

为什么人们仍然喜欢经纪人

因为经纪人能提供心理安慰：

•   他们感觉自己像个主人。
•   他们感觉自己掌握了某种技能。
•   它们让人感觉像是进步。

在一个智能变得抽象和集中化的世界里，它们给人一种掌控一切的错觉。

但幻觉并不能转化为优势。

对人工智能更诚实的定义

人工智能不是一种职业。人工智能不是一种产品。人工智能不能取代智能。

  人工智能就像一面镜子。

它反映了你本来的样子：

• 如果没有结构，它就变成了娱乐。
• 如果你的结构薄弱，它就会成为一种辅助手段。
• 如果你拥有强大的结构，它就能转化为力量。

  最终原则

人工智能不奖励表面功夫，它奖励的是认知深度。

  更残酷的是：

如果一个人工智能代理可以在一个周末内开发出来，那它可能算不上什么生意，而只是个玩具。

智能的未来不在于将提示信息串联起来，而在于将人类理解与机器增强功能结合起来。

经纪人会逐渐消失，而专业技能会不断积累。

人工智能不会使人类平等，反而会揭露人类的本质。