霍格沃兹测试开发学社

《Python测试开发进阶训练营》(随到随学!)
2023年第2期《Python全栈开发与自动化测试班》(开班在即)
报名联系weixin/qq:2314507862

Jev 不是万能的:这 5 类任务依然应该交给 LLM

关注 霍格沃兹软件测试开发 公众号,回复「资料」, 领取人工智能测试开发技术合集

摘要:

Jev 擅长分类、路由、评分和风险判断,但这并不意味着 Agent 里的大模型可以被大量替换。

真正的工程难点,不是判断 Jev 和 LLM 谁更强,而是划清两者的任务边界。

一旦任务涉及开放式生成、复杂推理、动态规划、代码修改或者需要完整解释,LLM 依然不可替代。

把快速判断交给 Jev,把复杂思考留给 LLM,可能才是更合理的 Agent 架构。

一、Agent 架构正在遇到一个新的问题
Jev 出现以后,一个很容易产生的想法是:

既然很多 Agent 任务本质上只是分类、路由和判断,那是不是可以少调用一些 LLM?

这个思路本身没问题。

比如:

应该调用哪个 Tool?

应该加载哪个 Skill?

这次操作风险高不高?

当前结果要不要进入 Context?

Agent 是否应该继续执行?
这些任务通常:

输出范围明确
判断频率高
不需要长文本
不需要复杂推理
确实很适合 Decision Model。

但问题也随之出现:

如果什么任务都开始往 Jev 上迁移,又会走向另一个极端。

因为 Jev 的优势,本身就建立在一个前提上:

问题边界相对清晰,而且输出空间能够提前定义。

一旦这个前提不存在,LLM 依然更合适。

二、第一类:开放式内容生成
这是最明显的一条边界。

比如:

根据需求写一份测试方案。

分析这些日志并生成一份故障报告。

根据 PRD 编写完整测试用例。

帮我写一段自动化测试代码。

这些任务的答案没办法提前限定成:

A
B
C
或者:

高风险
中风险
低风险
它需要模型完成:

理解需求
↓
组织信息
↓
生成结构
↓
补充细节
↓
形成完整内容
这里真正需要的是:

生成能力。

这也是 LLM 的核心优势。

三、第二类:复杂多步推理
假设线上支付接口突然出现异常。

输入信息包括:

最近代码 Diff

接口失败日志

调用链

数据库慢查询

历史故障

监控指标
现在要求 Agent:

找出最可能的根因。

这已经不是简单的分类问题了。

它可能需要:

提出假设
↓
寻找证据
↓
验证假设
↓
发现矛盾
↓
重新分析
↓
补充信息
↓
最终定位原因
关键在于:

模型一开始甚至不知道完整的推理路径是什么。

这种问题不是:

A、B、C 选哪个?

而是:

问题到底应该怎么拆?

这仍然是 LLM 更擅长的领域。

Decision Model 可以参与其中的某些节点。

例如:

这个异常值得继续调查吗?
→ Jev

下一步更应该查看日志还是数据库?
→ Jev

真正分析调用链和代码:
→ LLM
两者可以配合,但不能简单互换。

四、第三类:代码生成和代码修改
对测试开发来说,这条尤其重要。

Jev 可以很好地判断:

这个 Diff 风险高吗?

应该执行哪些测试?

这是接口问题还是数据问题?

应该加载哪个测试 Skill?
但如果任务变成:

修复这个接口超时问题。

事情就完全不一样了。

Agent 需要:

理解代码
↓
定位问题
↓
修改实现
↓
生成 Patch
↓
执行测试
↓
根据结果继续修改
这里不仅需要判断。

更需要:

代码生成 + 上下文理解 + 多步推理。

所以未来 Coding Agent 更合理的架构不是:

Jev 替代 LLM
而是:

Jev
负责路由和判断

LLM
负责真正写代码
五、第四类:连问题边界都不清楚的任务
Decision Model 很擅长回答:

这是 A、B 还是 C?

但现实中很多任务根本没有这么清晰。

比如用户只说:

系统最近感觉有点慢,你帮我看看。

这时候 Agent 首先要做的不是分类。

而是:

用户说的“慢”是什么?
↓
页面加载?
↓
接口响应?
↓
数据库?
↓
网络?
↓
某个具体业务?
Agent 可能需要不断:

澄清、探索、提出问题、重新定义问题。

甚至一开始:

候选答案空间都不存在。

这就是 Jev 很重要的一条边界。

可以简单理解成:

Decision Model 擅长在已有边界里做选择。

而:

LLM 更擅长先把问题边界找出来。

六、第五类:需要解释“为什么”的高风险决策
假设 Agent Guardrail 给出了:

高风险:96%
对于程序来说,这个结果可能已经足够。

系统可以:

阻断 Tool Call
但如果这是一次人工审批:

审核人员还会继续问:

为什么高风险?

涉及了什么数据?

哪一步存在问题?

如果放行会有什么后果?

这时候一个:

96%
显然不够。

系统还需要根据:

Tool 参数
执行上下文
用户权限
目标资源
历史行为
业务规则
形成一段完整解释。

所以在很多高风险场景里,可以这样分工:

Jev
↓
做判断

LLM
↓
解释判断
这种组合反而比只使用其中一个更合理。

七、Jev + LLM,可能才是更实用的架构
Agent 工程真正需要解决的,不是:

Jev 和 LLM 到底谁更强?

而是:

什么问题应该交给谁?

图片

这里其实有一个很清晰的分工:

规则
解决:

确定性问题。

Jev
解决:

边界明确的快速判断。

LLM
解决:

复杂推理和开放式生成。

Tool / Skill
负责:

真正执行任务。

这比单纯追求:

“尽可能少调用 LLM”

更合理。

八、怎么判断一个任务该交给谁?
实际做架构设计时,可以先问两个问题。

第一个问题:输出空间能不能提前定义?
比如:

继续 / 重试 / 停止

高 / 中 / 低

Skill A / Skill B / Skill C

保留 / 删除
这种任务非常适合 Decision Model。

因为我们已经知道:

答案可能是什么。

第二个问题:模型需要创造新的内容吗?
例如:

生成代码

制定测试方案

分析复杂故障

解释问题原因

规划多步任务
这些任务的答案无法提前枚举。

通常应该继续交给 LLM。

所以可以先记住一个非常简单的判断方法:

答案空间已知,更适合 Decision Model。

答案空间未知,更适合 LLM。

这不是绝对规则,但对于 Agent 架构设计非常实用。

九、真正危险的是“模型用错地方”
Jev 这类模型真正带来的价值,并不是:

以后少用大模型。

而是让 AI 系统多了一种新的能力选择。

以前我们的架构很容易变成:

遇到智能问题
↓
调用 LLM
以后可以进一步拆成:

确定性问题
→ 规则

高频判断
→ Jev / Decision Model

复杂分析
→ LLM

真实动作
→ Tool / Skill

高风险问题
→ 人工
这样做的核心目标不是:

谁替代谁。

而是让不同类型的问题,使用不同成本、不同能力的组件。

写在最后
Agent 越来越复杂以后,一个成熟的系统不应该只有一个“大脑”。

因为:

分类和写代码不是一类问题。

Tool Routing 和根因分析不是一类问题。

风险判断和制定方案也不是一类问题。

如果所有事情都交给 LLM:

成本高,延迟高,也未必稳定。

但如果为了追求速度,又把大量复杂任务交给 Decision Model:

系统同样会失去真正的推理能力。

所以真正值得关注的,不是:

Jev 能替代多少 LLM。

而是:

能不能把 Jev 和 LLM 放在各自最适合的位置。

这可能才是 Agent 从 Demo 走向生产环境以后,越来越重要的一项架构能力。

推荐学习
智能化测试-测试用例生成公益训练营,从行业大模型特性讲起,带你搞懂AI测试的全链路:大模型能力评测、智能体Harness工程、Skill技能体系、CLI与MCP工具体系、RAG知识图谱——最后直接上手打造一个能自动生成测试用例的智能体。

image

关于我们
霍格沃兹测试开发学社,隶属于 测吧(北京)科技有限公司,是一个面向软件测试爱好者的技术交流社区。

学社围绕现代软件测试工程体系展开,内容涵盖软件测试入门、自动化测试、性能测试、接口测试、测试开发、全栈测试,以及人工智能测试与 AI 在测试工程中的应用实践。

我们关注测试工程能力的系统化建设,包括 Python 自动化测试、Java 自动化测试、Web 与 App 自动化、持续集成与质量体系建设,同时探索 AI 驱动的测试设计、用例生成、自动化执行与质量分析方法,沉淀可复用、可落地的测试开发工程经验。

在技术社区与工程实践之外,学社还参与测试工程人才培养体系建设,面向高校提供测试实训平台与实践支持,组织开展 “火焰杯” 软件测试相关技术赛事,并探索以能力为导向的人才培养模式,包括高校学员先学习、就业后付款的实践路径。

同时,学社结合真实行业需求,为在职测试工程师与高潜学员提供名企大厂 1v1 私教服务,用于个性化能力提升与工程实践指导。

posted @ 2026-09-22 19:17  霍格沃兹测试开发学社  阅读(6)  评论(0)    收藏  举报