为什么有了 GPT、Claude,我们还需要 Jev?

在这里插入图片描述

最近我拿 Jev 做了一个挺有意思的小实验。

我把它塞进了一个 2048 游戏里,让它自己玩。

2048 这个游戏大家都知道,规则并不复杂。每一步能做的事情只有四个:

上
下
左
右

模型不需要写一篇分析,也不需要跟我解释为什么这么走。

它只需要干一件事:

做决定。

把当前棋盘状态交给它,然后告诉它可选的动作,让它判断下一步往哪个方向走。

运行起来以后,右边不断刷出模型的决策日志,左边的棋盘则根据它的判断一步一步变化。

这个 Demo 看起来很简单,但做完以后,我反而觉得它很好地解释了一个问题:

为什么我们已经有 GPT、Claude、Gemini、Codex 这些能力这么强的模型,还需要专门做 Jev 这样的模型?

答案可能就藏在「做决定」这三个字里。


我们好像习惯了什么都问 GPT

现在做 AI 应用,很容易形成一种习惯。

有问题,找 GPT。

写文章,找 GPT。

分析数据,找 GPT。

写代码,可以用 Claude、Codex。

需要理解一个复杂需求,还是把整段内容扔给大模型。

这当然没什么问题。

因为这些模型最擅长的,本来就是:

输入信息
↓
理解、推理
↓
生成新的内容

你给它一段需求,它给你代码。

你给它一堆资料,它给你总结。

你问一个问题,它给你一段答案。

但做 Agent 做久了以后,会遇到一个很现实的问题:

软件系统里的很多任务,根本不需要 AI 给我们写一段话。

比如:

这个请求要不要联网?

这个文件能不能读取?

这段代码有没有风险?

这个任务应该调用哪个工具?

这次操作要不要交给人工审核?

A、B、C、D 四个方案应该选哪个?

程序真正想要的结果,很多时候可能就这么简单:

Yes / No

或者:

A / B / C / D

再或者:

风险:82%

如果最终只需要这么一个结果,那我们真的有必要每次都调用一个擅长长文本生成的大语言模型吗?

这就是 Jev 这类决策模型让我觉得有意思的地方。


它不是来陪你聊天的

如果要用一句话区分,我觉得可以这么理解:

GPT、Claude 更擅长「生成」。

而 Jev 更偏向「判断」。

比如我们给 GPT 一段文字,它最后通常还是返回一段文字。

哪怕你要求它:

不要解释,只返回 JSON。

最后可能得到:

{
  "action": "search_web",
  "confidence": 0.91
}

从工程上看,这已经很好用了。

现在很多 Agent 其实就是这么干的。

先让 GPT 判断用户意图,然后要求它输出固定 JSON,再由程序把 JSON 解析出来,决定下一步调用哪个工具。

但这里有一个很有意思的区别。

JSON 只是我们限制了大模型的输出格式,并没有改变它本身还是在“生成”。

底层仍然是一个 Token 接着一个 Token 往后生成。

只是原来让它生成一段自然语言,现在强制它生成:

{"action":"A"}

而 Jev 的思路不是这样。

它更像是提前把「答案空间」定义好。

比如:

A:联网搜索
B:读取文件
C:调用 API
D:拒绝执行

模型需要做的是:

在这几个确定的结果里面进行判断。

而且除了告诉你最终选择什么,它还可以把这个判断的概率一起交给你。

例如:

A:0.82
B:0.11
C:0.05
D:0.02

这个时候,事情就开始变得有意思了。


很多时候,“有多确定”比答案本身更重要

假设我们做一个风控系统。

收集到一堆用户行为以后,交给模型判断:

这个用户是不是存在欺诈风险?

最简单的结果当然是:

是

或者:

不是

但真实系统一般不会这么干。

因为「是或者不是」太粗了。

我们更关心的是:

你有多确定?

比如模型给出的欺诈概率是 97%。

那系统可以直接拦截。

如果是 78%,可能不应该直接封掉,而是进入人工审核。

如果只有 20%,则可以正常放行。

于是整个流程可能变成:

欺诈概率 > 95%
直接拦截

60% ~ 95%
人工审核

< 60%
正常放行

当然,真实业务里的阈值不可能这么随便拍脑袋决定,这里只是为了方便说明。

重点在于:

真正能落地的自动化系统,很少只关心模型说“是”还是“不是”。

它还需要知道模型对这个结果有多大的把握,然后再由系统决定接下来怎么处理。

因为模型的判断本来就不是数据库里的 1 = 1。

模型面对大量复杂信息时,很多结果天然就是概率性的。

与其假装模型永远正确,不如干脆把这种不确定性暴露出来。

然后把最终控制权留给程序,或者留给人。

我觉得这反而更符合软件工程的思路。


做 Agent 的人应该很容易理解这个问题

我们平时做 Agent,一条请求进来以后,背后可能发生很多事情。

举一个很常见的流程:

用户提出需求
↓
GPT 理解需求
↓
判断应该使用哪个工具
↓
调用工具
↓
拿到工具结果
↓
GPT 再判断下一步做什么
↓
继续执行

这里 GPT 看起来很忙。

但仔细把这个流程拆开,会发现中间很多节点其实并不需要它写什么内容。

只是不断在做判断。

比如:

要不要联网?

要不要读取文件?

需不需要执行 Shell?

调用哪个 MCP?

代码有没有明显问题?

这个操作安全吗?

工具执行失败以后,是重试还是换一个工具?

这些问题有什么共同点?

答案空间都非常小。

很多甚至只有:

Yes / No

但现在我们的做法,往往还是调用一次 GPT,让它推理、生成,再拿它的输出决定下一步。

单个请求看不出什么。

可一个复杂 Agent 一次任务可能要做几十次这样的判断。

这时候你会发现:

我们真正需要的,未必是每一个节点都让一个大模型进行长推理。

有些地方只需要一个快速、稳定的判断器。


Jev 不应该替代 GPT,而应该站在 GPT 前面

这是我觉得最容易被误解的地方。

第一次看到这种模型,很容易问一句:

它是不是想替代 GPT?

其实完全不是。

让 Jev 写一篇公众号文章,我觉得没什么意义。

让它写一套复杂代码,也不是它擅长的事情。

包括开放式问答、复杂推理、长文本创作,这些任务仍然更适合 GPT、Claude、Gemini、Codex、Grok 这些大语言模型。

Jev 更适合的是:

分类
路由
决策
风险判断
评估
过滤
工作流节点选择

所以更合理的架构不是:

Jev VS GPT

而应该是:

Jev
↓
GPT / Claude / Codex
↓
MCP / API / Shell

用户请求进来以后,先经过决策层。

决定:

谁来干?
要不要干?
怎么干?
风险有多高?

真正需要复杂理解和生成的时候,再交给 GPT 或 Claude。

到了具体执行环节,再让 MCP、API、Shell 或其他工具完成。

这样一来,不同模型做的是自己擅长的事情。


为什么我拿 2048 来演示

现在再回到前面的 2048。

我觉得这个游戏很适合解释 Jev。

因为它的动作空间是完全确定的。

无论棋盘多复杂,下一步只能:

UP
DOWN
LEFT
RIGHT

绝对不会突然出现第五个答案:

“我建议我们重新思考一下游戏目标。”

程序也根本不需要模型输出:

经过对当前棋盘结构的综合分析,我认为左侧具有更大的合并空间,同时可以为后续数字移动预留……

这些话对程序一点用都没有。

程序要的就是:

LEFT

最好再告诉我:

LEFT    72%
DOWN    16%
RIGHT    9%
UP       3%

然后程序执行就完了。

所以做这个 Demo 的时候,我有一个很明显的感受:

使用这种模型,重点可能已经不再是怎么写一段漂亮的 Prompt。

更重要的是:

你怎么定义 State。

当前是什么状态?

有哪些合法动作?

模型可以从哪些结果里面选?

什么概率可以自动执行?

什么概率必须让人介入?

以前大家天天研究 Prompt Engineering。

到了这种场景里,真正需要花时间设计的,反而可能是整个状态空间和决策空间。


Agent 以后可能不会只有一个“大脑”

过去这一两年,行业很喜欢讨论一个问题:

模型还能不能继续变得更大、更强?

似乎理想状态就是做出一个无所不能的超级模型。

聊天是它。

写代码是它。

识图是它。

调用工具还是它。

最后整个 Agent 从头到尾只有一个“大脑”。

但真正把 AI 接进软件系统以后,我越来越觉得,最终的形态可能不会这么简单。

更像是:

用户请求
↓
决策
↓
推理
↓
执行
↓
验证

不同阶段使用不同的模型或者工具。

需要判断的时候,用擅长判断的模型。

需要复杂推理的时候,交给 GPT、Claude。

真正需要修改文件、请求接口、执行命令的时候,则交给确定性的工具。

也就是说,未来一个 Agent 里面,可能不会只有一个模型。

而是不同能力开始分工。

如果一定要把这套思路压缩成一句话,我现在更愿意这么理解:

Jev 负责判断,GPT、Claude 负责思考,MCP、API 和 Shell 负责执行。

这三件事情本来就不是一回事。

只是过去大语言模型太强了,我们习惯了全部让它干。


最后

所以 Jev 真正值得关注的地方,我觉得不是:

它能不能成为下一个 ChatGPT。

如果只拿这个标准去看它,反而看偏了。

它让我觉得有意思的地方,是它提醒了我们一件很基础、却很容易被忽略的事情:

AI 的输出不一定非得是一段文字。

对于写文章的人来说,一千个 Token 当然很有价值。

但对于一个正在运行的软件系统来说,它有时候根本不要这一千个 Token。

它可能只想知道:

执行,还是不执行?

A,还是 B?

风险到底有多高?

这时候,

一个足够可靠的决定,可能真的比一千个 Token 更有价值。

posted @ 2026-09-22 10:45  JavaPub  阅读(8)  评论(0)    收藏  举报