二、LLM进化史:从“复读机”到“牛马员工”,Agent到底是个什么鬼?
导读:上一篇我们扒掉了大模型的第一层外衣,这篇继续拆解AI能力增强的底层逻辑,扒一扒Agent是如何把“只会接话的天才”变成“能干活的员工”的。
一、Prompt:人类给模型装上的第一层“幻觉”
让我们回到最原始的LLM,它的工作模式只有一句话:输入 → 预测下一个token → 输出 → 结束。很多人忽略了一个事实:LLM天生根本不支持“对话”。
🎭 人类的第一次骚操作:伪造聊天格式
聪明的人类很快发现,如果输入写成这样:
User: 你好
Assistant:
模型就会自然补全:
你好!有什么可以帮你?
于是对话能力“诞生”了,但模型其实什么都没变,它只是在补全一段文本格式而已。
🎩 于是人类发明了一个新词:Prompt
听起来很高端,其实它只是一段输入文本。仅此而已。
🧩 Prompt很快又被拆分出两个新词
人类开始觉得输入里包含两种东西:
- 指令:告诉模型要干什么(写代码、总结、翻译)
- 背景信息:提供额外知识(用户身份、任务环境、对话历史)
于是又诞生了Context(上下文)和System Prompt(系统提示)两个概念,听起来越来越高级,但本质依然只有一句话:往输入里塞更多文字。
二、Memory:模型的“记忆”其实是假的
很快,人类又遇到一个致命问题:模型不会记住之前聊过什么。因为每次调用都是一次全新的推理,它没有会话状态。
🧪 解决方案:伪造记忆
人类再次发挥聪明才智:把历史聊天记录复制到新的输入里。于是Memory概念诞生了,听起来像模型有大脑记忆区,实际上只是复制粘贴历史对话。

图:对话能力的真实结构流程图
所谓“连续对话能力”,本质就是不断重复塞旧内容。没有记忆模块,没有长期状态,只有上下文工程。
三、模型的致命缺陷:它啥也干不了
到了这里,LLM看起来已经像个能聊天的员工,但很快问题暴露了,它有三个致命硬伤:
- ❌ 不会上网:知识只停留在训练数据里
- ❌ 不会执行操作:不能调API、查数据库、读取文件
- ❌ 会胡说八道:只做概率预测,不做事实判断
四、Agent的诞生:给模型配一个“秘书”
人类第三次骚操作来了:既然模型不会查资料,那就让它“请求帮助”。于是给它一个规则:如果需要信息,请告诉我。模型就会输出类似“我需要查询天气数据”的请求,人类帮它查再喂回去——这就是工具调用的最原始形态。
但很快人类发现自己成了牛马,于是Agent诞生了。

图:Agent的真实结构示意图
Agent干的事情其实只有三件:
- 帮用户构造Prompt
- 帮模型调用工具
- 在两者之间传话
就像一个不会思考的秘书。
🎯 关键真相:Agent并没有智能,真正有“理解能力”的只有LLM本身,Agent只是自动化流程控制器。
五、Function Calling:让模型说“程序能听懂的话”
早期Agent有个巨大问题:模型用自然语言表达工具需求(比如“我想调用天气API”),程序根本无法解析。于是诞生了Function Calling。

图:Function Calling流程时序图
本质其实就是规定模型必须输出固定格式(通常是JSON)。注意:Function Calling并不是新能力,它只是一种格式约定,就像前后端接口协议。
六、RAG:给模型带小抄
接下来人类发现另一个问题:模型知识会过时。解决办法是RAG(检索增强生成),说白了就是:先查资料,再喂给模型。

图:RAG检索增强生成流程示意图
本质依然没变:还是往输入里塞更多文字。
七、终极真相:Agent其实是“所有不需要智能的部分”

现在我们把所有概念串起来:
- Prompt = 输入模板
- Context = 附加信息
- Memory = 复制历史对话
- RAG = 复制外部知识
- Function Calling = 规范输出格式
- Agent = 自动化传话系统
你会发现一个惊人的结论:所有这些技术的核心都是往Prompt里塞东西。而真正需要“智能”的地方只有一个:语言理解与生成,也就是LLM本身。
八、所以Agent的真正定义是:

Agent = 所有不需要智能的部分的集合。
凡是可以用程序确定执行的事情:
- 调API
- 查数据库
- 执行脚本
都交给Agent。凡是需要语义理解的事情,才交给模型。
总结
📌 核心要点:
- Agent 是非智能任务的自动化集合,负责处理规则明确的机械任务
- LLM 专注于智能任务,负责需要语义理解和创造性思考的工作
- 明确分工能让整个系统效率更高、成本更低、结果更可靠
- Agent 就像 LLM 的 "手脚",负责执行;LLM 就像 Agent 的 "大脑",负责决策
- 这种分工模式是未来大模型应用的核心架构

浙公网安备 33010602011771号