零基础认识大语言模型（LLM）工作原理(16.未来的大模型与 AI Agent：从模型竞争到系统竞争)--结尾篇

第十六章 未来的大模型与 AI Agent：从模型竞争到系统竞争

目录

零基础认识大语言模型（LLM）工作原理目录 - GuZhenYin - 博客园

本章导读

过去几年，AI 领域最受关注的指标往往是：

• 参数量有多大；

• 上下文窗口有多长；

• 推理能力有多强；

• 排行榜成绩有多高。

这些指标当然还是很重要，因为它直接反映了模型本身的能力。(包括最新出来的kimi k3 参数已经达到了2.8万亿)

但是，当 AI 开始真正进入企业和软件系统之后，我们就逐渐发现：仅仅拥有一个强大的模型，并不等于拥有一个真正有价值的 AI 系统。

人们实际需要的，通常不是“一个很会聊天的模型”，而是：

• 能连接业务系统；

• 能读取企业知识；

• 能执行复杂流程；

• 能长期记住上下文；

• 能持续完成任务。

这其实标识着，AI 的竞争正在从“单一模型能力”逐渐转向“完整系统能力”。

 

16.1 模型仍然重要，但已经不是全部

大语言模型依然是整个 AI 系统的核心。

因为它提供了：

• 语言理解能力；

• 推理能力；

• 生成能力；

• 规划能力。

没有 LLM，后面的 Tool、Workflow、Memory、Agent 都失去了智能基础。

但是，LLM 更像是：AI 系统中的“大脑”。

然而一个真正能够工作的智能体，还需要：

• 感知外部世界；

• 调用工具执行动作；

• 保存长期记忆；

• 管理任务状态；

• 协调多个能力模块。

因此,我认为 未来的 AI 应用，不是“只有模型”，而是“模型 + 系统”的组合。

 

16.2 从 ChatBot 到 Agent：AI 应用形态的演进

我们可以把 AI 应用的发展过程理解为一个逐步升级的过程。

ChatBot
    ↓
Tool Calling
    ↓
MCP
    ↓
Workflow
    ↓
Memory
    ↓
Skill
    ↓
Agent Runtime
    ↓
Autonomous Agent

 这个演进过程反映了 AI 从“回答问题”到“完成任务”的变化。

阶段	主要能力
ChatBot	回答问题
Tool Calling	调用工具
MCP	连接统一工具生态
Workflow	组织固定流程
Memory	保存长期信息
Skill	封装专业能力
Agent Runtime	持续执行任务
Autonomous Agent	自主规划和完成复杂目标

可以看到：Agent 并不是突然出现的新概念，而是 AI 能力逐步工程化后的结果。

 

16.3 为什么未来比拼的是系统能力？

假设有两家公司。

A 公司拥有一个很强的大模型，但它只能聊天。

B 公司使用同样的大模型，但它还拥有：

• 企业知识库；

• 数据库连接能力；

• ERP 接口；

• Workflow 流程；

• Memory 系统；

• Skill 能力库。

当用户提出一个复杂业务需求时：

A 公司只能给出建议。

B 公司不仅能给出建议，还能：

• 查询数据；

• 执行流程；

• 生成结果；

• 推动任务完成。

显然，B 公司的 AI 系统更有实际价值。

这说明,未来的竞争不只是“谁的模型更聪明”，更是“谁能把模型更好地嵌入真实业务系统”。

这也是为什么各大AI公司相继推出了自己的AI Agent 模型代理.

 

16.4 AI 软件正在发生什么变化？

传统软件通常是：

用户输入
    ↓
固定程序逻辑
    ↓
输出结果

 它的特点是：

• 逻辑由开发者提前编写；

• 流程是确定性的；

• 功能边界比较固定。

而 AI Agent 系统更像：

用户目标
    ↓
Agent Runtime
    ↓
LLM 推理
    ↓
Tool / Workflow / Memory / Skill
    ↓
执行结果

 它的特点是：

• 用户提供的是目标，而不是精确操作步骤；

• 系统需要动态规划；

• 结果可能来自多次推理和工具调用。

因此，我们可以发现， 软件行业正在从“功能驱动”  逐步转向“目标驱动”。

 

16.5 未来企业 AI 系统的典型架构

结合前面几章的内容，一个企业级 AI 系统通常会形成这样的结构：

 

                    用户
                      │
                      ▼
                AI 应用入口
                      │
                      ▼
               Agent Runtime
        ┌───────────┼───────────┐
        ▼           ▼           ▼
     Memory      Workflow     Skill
        │           │           │
        └───────┬───┴───────────┘
                ▼
               LLM
                │
      ┌─────────┴─────────┐
      ▼                   ▼
     MCP              Native Tool
      │
      ▼
数据库 / ERP / 浏览器 / API / 文件系统

 

在这个架构中：

• LLM 提供智能推理；

• Memory 提供长期知识；

• Workflow 保证业务流程稳定；

• Skill 提供专业能力；

• MCP 统一连接工具；

• Runtime 负责整体调度。

真正有价值的企业 AI，通常不是某一个单独组件，而是这些组件协同工作的结果。

 

16.6 开发者应该如何理解这场变化？

作为我们软件开发者来说，这场变化不仅仅意味着“学习一个新模型”。

其实更重要的是,软件系统开始具备越来越强的自主决策能力。

因为这会带来几个明显变化：

第一，Prompt 不再是唯一重点

早期 AI 应用非常依赖 Prompt Engineering。

但在 Agent 系统中，Prompt 只是 Skill 和 Runtime 设计的一部分。

第二，系统设计变得更重要

一个成功的 AI Agent，往往取决于：

• Tool 设计；

• Workflow 编排；

• Memory 管理；

• Context 控制；

• Runtime 调度。

这些都属于软件工程范畴。

第三，业务知识会成为关键资产

通用模型越来越容易获得。

但企业自己的：

• 业务流程；

• 数据结构；

• 历史知识；

• 规则体系；

其实这才是结合 AI 真正发挥价值的地方。

 

16.7 一个重要趋势：AI 不再只是“功能”，而是“系统能力”

未来的软件可能会越来越像这样：

提出目标
    ↓
Agent 规划步骤
    ↓
调用工具
    ↓
执行流程
    ↓
持续反馈
    ↓
完成目标

 也就是说：AI 不再只是软件中的一个功能模块，而会逐渐成为软件系统的核心交互方式。

 

 

16.8 回顾全系列：从 Token 到 Agent

现在，我们可以回顾我们整个系列的逻辑。

其实我们这个系列,可以算是分成了2个部分.

第一部分：模型如何思考

• 什么是文字接龙；

• Token、Tokenizer、Vocabulary；

• Embedding；

• Attention；

• Transformer；

• FFN、SwiGLU、MoE；

• 训练方式；

• Next Token Prediction；

• 幻觉机制。

这些解释了：LLM 为什么能够表现出智能。

 

第二部分：AI 如何做事

• 为什么需要 Agent；

• Tool Calling；

• MCP；

• Workflow；

• Memory；

• Skill；

• Agent Runtime。

这一部分解释了：LLM 如何从“会思考”变成“能完成任务”。

最终本系列形成了一个完整闭环：

Token
    ↓
LLM
    ↓
Reasoning
    ↓
Tool Calling
    ↓
MCP
    ↓
Workflow
    ↓
Memory
    ↓
Skill
    ↓
Agent Runtime
    ↓
Autonomous Agent

 

系列结语

从最开始的 Token，到最终的 Agent Runtime，我们总结了一下AI从开始到现在的技术演进路线：

• 大模型让机器具备了理解和生成语言的能力；

• Tool 和 MCP 让 AI 能够连接现实世界；

• Workflow、Memory 和 Skill 让 AI 能够适应企业业务；

• Agent Runtime 则让这些能力形成一个持续运行的智能系统。

所以,未来的软件开发,可能也不再只是“编写功能代码”，而是需要设计能够理解目标、调用能力、管理状态并持续完成任务的智能系统。

这其实也正是 AI Agent 时代最重要的变化。

写到这里,本系列就结束了.

这里也感谢很多兄弟的支持和指正.

本篇只代表个人对于AI未来的一些畅想,有不同意见的兄弟 也欢迎讨论