Jev 刷屏了:这个不聊天的 AI 模型,盯上了企业系统里那批高频小判断
9 月中旬,AI 圈刷屏的是一个奇怪的模型:它不聊天、不写文章、不做总结,问它问题,它只回三样东西——选项、评分、是否,每样附带一个概率。
它叫 Jev,名字来自一位十九世纪的经济学家,9 月 15 日由旧金山公司 TypeSafe AI 开放早期访问。发布当天冲上技术社区千分级热度;上线 24 小时,近 13% 的 Vercel 付费团队用上了它,Vercel 称这是其历史上被采纳最快的模型。一周内,几家主流开发者平台相继集成,国内券商出了专题研报。
一个不聊天的模型,凭什么刷成这样?
它戳中的是一笔旧账
想想一个 AI 应用里最费钱的是什么。多数人以为是「聪明的规划」,实际上是一堆细碎的判断:这条消息是投诉还是咨询、该调哪个工具、这步操作有没有风险、工单派给谁、要不要重试。
这些判断一天发生成千上万次。过去的做法,是让大模型每次都写一段文字再从文字里解析出结论——等于雇了一个作家来做收发室的活。作家按字收费,收发室的活儿又多又急,账单就这么涨起来的。
Jev 的思路是把这层判断剥离出来:不生成文字,直接返回结构化结果和概率。官方口径是快 20 到 200 倍、便宜 40 到 400 倍(官方数字,当上限参考)。官方演示里有个直观例子:给一批客服消息打标,它用 2.3 秒、约 0.1 美分,同样的活儿交给聊天大模型要 20 秒。
业内给这类模型起了个名字:快思考模型。贵的模型管慢思考,轻的模型管快判断。
这笔账,企业系统里到处都是
一张报销单提交进系统:金额八千二,走部门经理还是总监?一条售后工单创建:派二组还是三组,定 P1 还是 P2?一封客户邮件进来:咨询、投诉还是商务合作,分别进不同的处理池?
企业系统里到处都是这类判断:选项封闭、可枚举,调用频次高,单次价值低。一天跑几千上万次,每次都很小,加起来是一块稳定的基础开销。
原来的两种处理方式各有各的难受:写死规则,业务一变规则就得重写,分支越叠越厚;全交给大模型,每次判断都等一轮生成,账单按 token 累积,格式漂一下流程就断。Jev 的爆火等于把这个共识摆上了台面:这层需求值得一个专用模型。
门槛与那条绕开门槛的路
Jev 是闭源的托管服务,走 API 调用。对企业落地来说有几道现实门槛:判断请求和数据要出网;按调用量付费;按媒体报道,该服务尚未向中国大陆地区开放。
于是开源社区的反应很快。发布四天后,一个叫 OpenJev 的开源复现项目冲上技术社区热榜,随后一批同类项目接连出现在开源趋势榜上。复现的核心结论很有意思:几 GB 的开源小模型在本地做封闭选项判断,准确率能到八成出头,与托管商用模型的差距在几个点上下;而「直接读概率」与「逐字生成 JSON」两种方式相比,前者的耗时只有后者的约五分之一。
围绕这条路,最近有了一条值得关注的落地验证:把「读概率、不生成文本」的开源决策模型部署到服务端,业务系统通过 HTTP 调用拿到各选项概率,写回数据、驱动流程分支。整条链路部署在内网,数据不出门;判断不过夜、不排队,一次计算出结果;概率偏低时自动转人工。
边界也要说清楚:这条路只适合选项封闭、可枚举的判断,开放式生成不在此列;小模型准确率在四成到八成之间浮动,关键节点必须留人工兜底。它省的是大部分常规判断的成本,边界情况依然要人来接。
这件事为什么值得搭系统的人关心
高频小判断是企业应用里绕不开的基础开销。规则引擎越堆越厚是一种活法,大模型 API 账单越来越长是另一种。现在多了第三条路:比规则灵活,比大模型便宜,数据还留在自己内网——而且对国内团队来说,这是眼下就能开工的那条。
做这次验证的,是葡萄城的技术团队——验证的接入点,就在低代码平台活字格的服务端命令上。对用低代码平台搭系统的团队来说,它意味着 AI 决策能力可以作为一个普通节点,接进平台的 AI 工作流编排:大模型管慢思考,决策模型管快判断,业务变了,改的是编排和选项设计,不用改代码。

快思考模型的热点会过去,「快慢分工」的架构会留下来。值得每个搭业务系统的人自己跑一遍。
浙公网安备 33010602011771号