[AI/模型] Jev AI：TypeSafe AI公司的"系统一模型"——把判断做成软件可直接调用的基础设施

0 序

Jev AI，即 TypeSafe AI 于 2026 年 9 月 15 日发布的首款 System One Model（系统一模型） 决策模型。

Jev是个分类器，但又不完全是。
Jev AI ，由前 OpenAI 研究员 Diogo Almeida 创办的 TypeSafe AI 发布，这哥们是 ChatGPT 的共同发明人之一！

机器学习视角下的AI模型: 判别式模型√(Jev) / 生成式模型

这几天Jev火了。

现在的大模型LLM，本质上都是基于Transformer的Next-token预测的自回归语言生成模型。
而如果回到【统计机器学习】的根本视角，模型其实可以划分为【判别式模型】和【生成式模型】两大类。
【生成式模型】的学习特点是学习数据的联合概率分布，然后基于【联合概率分布】求【条件概率分布】作为【预测模型】。

比如前AI时代的朴素贝叶斯、HMM隐马等，当前的各种LLM和AIGC模型。

【判别式模型】的学习特点是基于数据直接学习【决策函数】或者【条件概率分布】作为【预测模型】。

这个是前AI时代的主流，10年前搞机器学习、深度学习的人对这个不陌生，什么逻辑回归、SVM、决策树、随机森林、XGB/LGB/CTB等等。
而【回归】和【分类】都是用于【决策目的】的主要模型。

按照这种分法，GPT-6 Astra、Claude Fable 5.1、GLM-5.3等前沿LLM都属于【生成模型】。而Jev虽然也是基于LLM基座，但它却是个【判别式模型】

JEV 在模型输出头，它是个【分类器】（classification），是分类器就决定了它是用于【快速决策场景】。

Jev 不完全是分类器，跳出了传统分类器的短板 => 基于预训练语言模型基座的、支持规则的动态输入的、带常识的超级决策器

但Jev又不完全是【常规的机器学习分类器】。它跳出了【传统分类器】的短板。

过去搞【分类模型】，输出头权重是【静态写死】的，改个标签就得【重新标注微调】。
而Jev的标签与规则完全作为输入token【动态传入】，依托【大模型基座】的开放世界常识，在上下文内实时做全自注意力匹配。
它更像一个【带常识的超级决策器】，把动辄数秒的自回归生成，压缩成了几百毫秒的【单次前向概率输出】。

从算法角度，给Jev的定义是：它是一个基于预训练语言模型基座、采用全自注意力跨序列交互、以概率校准为后训练优化目标（RLCD）的单次前向判别模型。

所以，Jev既不是【传统分类器】的文艺复兴，更不可能取代当下的【通用大模型】。
它的真正价值，是在确定性代码与厚重的大模型之间，充当一根高频、低延迟、极廉价的反射神经。

1 概述

产品介绍

Jev 是美国旧金山公司 TypeSafe AI 推出的旗舰模型，也是其定义的首个公开"System One（系统一）模型"。它基于 Transformer 架构，但不是大语言模型（LLM）：不生成任何文本，而是接收一段程序状态（state）与一组带类型的问题（questions），并行返回结构化、带校准概率与置信度的决策，供代码直接分支、路由、打分。

产品定位：软件内部的"决策原语"（decision primitive）——官方称之为 "frontier-intelligence function call"（前沿智能的函数调用）与 "smart if-statements"（聪明的 if 语句）。
- 概括：非结构化状态进，类型化概率决策出。
诞生的背景与原因：
- 创始人 Diogo Almeida 是前 OpenAI 核心研究员、InstructGPT 论文第四作者与 GPT-4 技术报告署名作者、RLHF 共同发明者。他在 ChatGPT 时代就开始反思：模型已经超级擅长聊天，为什么自动化没有爆发？
- 他的答案是——软件的绝大部分时间在做"小判断"（路由工单、标记文本、给日志打分），这些判断不该由一个"作家"（LLM）来做，而该由一个"裁判"（决策模型）来做。
- 该念头在 ChatGPT 发布前就已出现，他曾与 Sam Altman 讨论，随后离开 OpenAI 创办 TypeSafe，隐身研发近两年。
解决的核心问题：
- LLM 输出文本慢、贵、且"可能失控"（幻觉、类型错误、过度自信），无法被软件大规模可靠地依赖；
- Jev 以毫秒级时延、类型安全、校准概率三个特性，把"判断"变成可编程、可计量、可组合的基础设施。
URLs：
- 官网：https://typesafe.ai
- 官方博客（发布公告）：https://typesafe.ai/blog/introducing-system-one-models-and-jev
- 官方文档：https://docs.typesafe.ai/introduction
- 控制台（Playground/API Keys）：https://console.typesafe.ai
- 无官方 GitHub 仓库（模型闭源，未公开权重与训练细节）

发展历程

时间（2026）	事件
9 月 15 日	TypeSafe AI 结束约两年隐身期，正式发布 Jev（early access 早期访问），同步宣布 DCVC 领投的 4000 万美元种子轮融资
9 月 16 日	创始人 Diogo Almeida 发布官宣推文，播放量超 3800 万、获赞 7.3 万、转发 1.4 万（51CTO 记录）；"Jev"话题在 X 上爆发
9 月 17-18 日	生态快速铺开：Vercel AI SDK 原生支持（`experimental_evaluate`），接入 Vercel AI Gateway 后 24 小时内近 13% 付费团队使用——是 GPT-5.6 系列上线首日的 2 倍、Claude Fable 5.1 的 6 倍以上；LangChain、OpenRouter、Cloudflare AI 陆续接入
9 月 18-19 日	第三方独立实测陆续发布（36 氪实测、Jamie Watters 对测、ChatFrom 意图路由对测等），社区围绕"是不是分类器"展开激烈争论
9 月 20 日	全球首批开源复现出现：国内 APUS（麒麟合盛）开源 fast-browser-use（MIT 协议）；Vercel 副总裁 Jared Palmer 开源 Kev（基于 Qwen 的小型 Jev-like 模型家族）；开发者 rmalde 用 Jev + GPT-6 Astra 在《我的世界》8 分 43 秒击杀末影龙，总成本不足 1 美元（Jev 仅 0.01 美元）
9 月 21 日	Jev 全面开放，无需候补名单；所有用户初始赠送 5 美元额度（约 1.2 亿 token）；LangSmith Evals 上线 Jev-as-a-Judge 评测器
9 月 22 日	APUS 开源 APUS-OpenJev-v1（9B 模型）；Vercel Labs 发布 `jev-ai-sdk-form-router` 模板；社区整理出 awesome-jev 工具目录

热度曲线：发布不到 48 小时，X 浏览量超 3000 万、约 2.5 万开发者涌入内测（36 氪）；9 月 22 日前后媒体以"卷疯 14 万开发者"描述全面开放后的涌入规模（新智元）；公司估值一度飙至约 2 亿美元（36 氪）。

主要功能

Jev 只做判断，全部问题归为三种 AI 原语（primitives），可在同一次调用中混用、并行评估：

原语	回答的问题	返回内容	典型用途
Choice	从给定选项中选择哪一个	`choice`、完整概率分布、`confidence` 置信度	工单分派部门、文档类型分类、下一步动作选择
Score	状态处于标尺的哪个位置	`score`、各等级概率、`confidence`	故障严重度、客户情绪、技能水平打分
Noul	某句话是否为真	0~1 的概率值	"用户是否在要求退款"（0.97 = 97% 概率为真）

其他能力与特性：

并行评估：同一请求内的所有问题基于同一 state 独立并行评估，互不干扰（无"上下文轮转"）；增加问题几乎不增加响应时间。
支持混合提问与高基数选项：单次可混合三种原语；Choice 候选基数最高支持 255 个（高基数时采用"先评分、再显式选择"的两阶段机制）。
结构化强类型输出：答案被约束在预定义 schema 内，官方标称 0% 类型错误率（数学保证）。
上下文窗口 32,000 token（Cloudflare AI 模型页记录，模型 ID typesafe/jev）。
生态集成：Vercel AI SDK、LangSmith Evals、OpenRouter、Cloudflare AI 平台、OpenAI 兼容接口等均可调用。

核心优势（必读）

极速：端到端响应 70–500 毫秒（多数调用约 100 毫秒），官方称比同等智能水平的 LLM 快 20–200 倍（招牌数字 193.6 倍，官方自认属"偏高端"上限值）。
极便宜：输入 0.042 美元/百万 token，输出永久免费；官方称便宜 40–1000 倍（招牌数字 444.6 倍）。对比：当红旗舰模型（GPT-6 Astra、Claude Fable 5.1 级别）输入普遍约 10 美元/百万 token、输出约 50 美元，单看输入 Jev 便宜约 238 倍。
校准的概率（RLCD 训练）：被赋予 90% 概率的判断应有约 90% 的时间正确——"有几成把握说几成把握"，工程师可以放心写 if confidence > 0.88: 自动执行, else: 转人工。
类型安全、零类型错误：输出结构数学上不可能落在 schema 之外，不存在"编造不存在的字段/选项"。
泛化能力强：大模型研究者 Sebastian Raschka 评价——传统 encoder 分类器通常专用、受限，而 Jev 的突破在于泛化好，运行时接受自然语言标签、无需为每个新任务重训模型（其秘诀可能更多在数据与 API 设计而非训练算法）。
可组合、可嵌入：作为"软件内的决策原语"，与普通代码、LLM 分工协作，构成 System 1（快判断）+ System 2（深推理）二元架构。

主要短板

不生成文本：不能聊天、写作、写代码——"哑巴模型"，只能回答预设形状的问题（如同做选择题）。
System 2 任务弱：复杂多步推理、需要长思维链的任务准确率不足（APUS 张旭：9B 复现模型是最低可用门槛，复杂问题会超出其能力）。
数数与算术不行：十六进制颜色相近性、日期时间比较等不可靠（官方"参差性"页面自认）。
语言理解死角：双重否定、间接引用会掉准确率；臃肿的 state 会掉准确率（上下文腐化）。
可被提示词注入操纵：state 会被操纵性文本带偏（官方自认"提示词注入对它有效"）。
黑盒不可解释：开发者 Simon Willison 提醒，Jev 甚至可能比 LLM 更"黑盒"——LLM 至少能被要求解释判断，Jev 留给你的可能只是一个数字（0.83），无法追问依据。
会选错："无幻觉"≠"不会错"：它不会编出选项 D，但可能在 A/B/C 中选错，也可能对错误答案给出过高置信度。
类型安全不保证判断正确：官方也提醒，Score 不是测量仪（1.4 分不能解读成"40% 的愤怒"）。

局限性

不是 LLM 的替代品：只覆盖"有限解空间 + 高实时 + 结构化输出"的决策类任务；开放域生成、复杂规划仍须交给 LLM。
答案形状须预定义：每次提问都必须给出选项/等级/判定标准，无法开放式提问。
技术透明度低：TypeSafe 尚未公开模型架构、权重、训练数据与 RLCD 细节，外部无法复现验证（RuntimeWire、虎嗅均指出这一点）；复现者只能"黑盒复现功能"。
官方宣传数字需打折看待：第三方（AY Automate，9/20）实测 Jev 比对照模型快约 2–3.6 倍，与便宜小模型比省约 4.7–7.5 倍、与昂贵前沿模型比才达到 40–49 倍——远低于官方 193.6/444.6 的招牌数字。
上限受底座智力约束：独立复现测试显示效果取决于底座模型质量；候选选择再多，"判断力"仍受模型智力与领域优化限制（例如未针对金融专门优化，不适合直接炒股）。

适用场景(必读)

智能路由与意图识别：客服工单分派（退款组/物流组）、订单查询免 LLM、意图路由到模型/人工。
分类与打标：邮件分类（有测试 500 封数秒完成、花费 3.5 美分）、文档类型识别、内容违规判定。
评分与审计：客服会话审计、简历筛选、代码审查、内容质量打分。
LLM 护栏与安全检查：越狱（jailbreak）检测、工具调用风险判定（只读/可逆/破坏性）、输出守卫。
Agent 评估：Jev-as-a-Judge，替代/补充 LLM 裁判做智能体评测（LangSmith Evals 已支持）。
浏览器/桌面自动化：从可交互元素中选"下一步点哪个"（Jev Ultrafast、APUS fast-browser-use）。
实时应用与游戏 AI：Doom Bot 每秒约 10 次决策（成本约 7 美元/小时）、Minecraft 生存 Bot、《地铁跑酷》毫秒级避障。
大数据 map-reduce：10 万条 X 帖子分析 20.4 秒、0.67 美元；批量审阅上千份文档。
潜在方向：工业自动化、智能家居、具身智能/机器人动作决策（快决策模型有机会切入）。

据 TypeSafe 官方文档 2026 年 9 月数据，Jev 的四项关键规格如下：

项目	规格
当前版本	jev-1.13.0，别名 jev-latest 与 jev-preview 均指向它
价格	输入每百万 Token 0.042 美元，输出免费
速率限制	每秒 25 万 Token、每分钟 1200 请求，超限返回 429
上下文	每请求 64K Token，其中状态加最长单个问题不超过 32K

典型用途是工单分派、意图识别、内容打分、真伪判断、去重和大模型输出的护栏检查。官方明确 Jev 只接受文本，图片、音频、视频需先转成文本或结构化字段。

类别	代表	与 Jev 的差异
通用 LLM 当裁判/评估器	GPT-5.6/6 系列（Terra/Luna/Astra）、Claude（Sonnet 4.6/5、Fable 5.1）、Gemini 3.1 Pro、DeepSeek V4 Flash	文本生成式裁判，慢、贵、一致性方差大；但能力上限更高、可解释
专用评估/裁判模型	Galileo Luna-2、Future AGI Turing 系列（turing_large/turing_flash）	微调评估专用，价格/性能比好，但生态与泛化弱于 Jev
传统分类器/编码器模型	BERT 类、cross-encoder 评分模型、LLM ranker	固定任务、固定标签需重训；Jev 的优势是运行时泛化
开源复刻/替代	Kev（jaredpalmer，基于 Qwen3.5 的 0.8B/4B/9B 决策模型，发布一周约 4.6k stars/253 forks）、APUS-OpenJev-v1（9B）、NanoJev、OpenJev（浏览器端量化版）、jevals（openlayer-ai）	接口模式复刻、可本地运行；不复制 Jev 的私有模型与训练方式，能力通常弱于官方
潜在跟进者	OpenAI（被评论"about to eat Jev's lunch"）、DeepSeek（V4.1 Flash 已做 Prefill/Decode 解耦）、GPT-6 Astra（Loop Transformer 隐空间计算）	巨头若推出同类决策模式，将直接挤压 Jev 生态位

开源竞品（必读）

项目	规模	许可证	Jev API 兼容	亮点 / 适用场景
Kev	0.8B / 4B / 9B	Apache-2.0	✅ TypeSafe SDK 零改动	Qwen3.5 + LoRA + 决策头；最接近官方 drop-in；Kev-9B 自报 transfer 精度 0.852
Laya	322M / 421M	Apache-2.0	✅ laya-serve	CPU 可跑、100+ 语言（多语言 checkpoint 自动路由）；支持 RLCD 微调与 MLX/Core ML
Decider	2B / 4B / 35B MoE	Apache-2.0	✅	配 vLLM，多候选选项场景
SemIf（原 OpenJev）	Qwen3.5-4B / MiniCPM5-2B	MIT	自有 API	直接从 logits 读分、不生成文本；CUDA/MLX/浏览器 WebGPU
OpenJev	DiffusionGemma 26B-A4B	Apache-2.0	✅	一模型同时做决策 + 图像问答 + 聊天
jeff	GLiFormer 400M	MIT	✅	分类/路由/标签；CPU + ONNX 可跑
LocalJev	由本地推理服务决定	MIT	✅	Bun/TypeScript，转发 OpenAI 兼容服务器
Verdict	ModernBERT 151M	Apache-2.0	自有	浏览器内运行，支持"证据不足时弃权"
NanoJev	Qwen3-0.6B	MIT	自有	游戏/控制回路的并行动作选择（2–255 候选）
jevlike	自训	MIT	自有	从标注数据训练紧凑评分器（分类/排序/推荐）
Von	395M	Apache-2.0	✅	低延迟轻量推理

服务层（模型前置 API）：laya-serve、Arbiter（Python）、sys1、ollaya（Rust，candle）、laya-server（TypeScript/Docker）。

发展趋势

开源社区活跃趋势：Jev 发布即引爆开源复刻潮——Kev（Apache-2.0，Qwen 底座，可自训自跑）、APUS-OpenJev-v1（9B，MIT 项目配套）、NanoJev（端到端训练管线）、vLLM 已有相关 PR；社区整理出 awesome-jev 目录与上百个围绕 Jev 的仓库（DEV 社区统计 9 个 awesome 列表）。
Star/Fork 趋势：以 Kev 为样本，发布约一周即达约 4.6k stars / 253 forks，属于极速起量；其余复刻项目（NanoJev 约 1.6k stars、APUS 系、jevals 等）同步快速增长。
采用率信号：Vercel AI Gateway 接入 24 小时约 13% 付费团队使用（GPT-5.6 首日的 2 倍）；早期访问阶段约 2.5 万开发者；全面开放后媒体称"14 万开发者"涌入；官方推文单条播放 3800 万+。
资本信号：4000 万美元种子轮（DCVC 领投）、估值约 2 亿美元——种子轮体量罕见，反映资本对"决策模型"品类的看好。
总结：Jev 把"判断"做成了可编程、可计量的基础设施，标志着大模型行业从"生成为王"走向"快慢分工"，但能否从现象级热度沉淀为长期范式，取决于校准可靠性是否经得起生产验证、生态深度以及 OpenAI 等巨头跟进的节奏。

2 工作原理与架构

概念术语

System One Model（系统一模型）：TypeSafe 提出的新模型品类。
- 命名取自诺贝尔经济学奖得主 Daniel Kahneman《思考，快与慢》中的 System 1——人类不费力的直觉式快判断；
- 与 LLM 的 System 2（慢速深度推理）相对。
RLCD（Reinforcement Learning for Calibrated Decisions，校准决策强化学习）：TypeSafe 自研的新训练方法，优化目标是与真实结果相符的校准概率，而非人类偏好文本（RLHF）或可验证答案（RLVR）。被官方定位为继 RLHF、RLVR 之后的第三条后训练路径。
State（状态）：提交给模型的非结构化/结构化程序状态（文本、JSON、日志、工单等），是判断的上下文。
Primitives（原语）：Choice / Score / Noul 三种带类型的提问—回答对，是 Jev 全部能力的最小单元。
Calibration（校准）：在大量被赋予 80% 概率的判断中，事件实际发生比例也应接近 80%；高置信度意味着高准确率。
Parallel Sampler（并行采样器）：替代自回归逐 token 生成的采样机制，一次前向并行产出全部问题的答案。
Type-safe（类型安全）：输出被约束在预设 schema 内，结构上不可能产生类型错误。
Jevons Paradox（杰文斯悖论）：蒸汽机效率提升后煤的总消耗不降反升——更廉价的动力创造新用途。模型以经济学家威廉·斯坦利·杰文斯命名，寓意"每次决策成本大幅下降后，智能用量将爆发式增长"。

架构与运行原理

核心本质：砍掉"说"，只留"想"。

APUS 首席科学家张旭博士（全球首批复现者）的解读最为直观：大模型工作分两步——Prefill（输入处理）与Decode（自回归逐 token 生成）。Prefill 完成后，模型内部隐状态（Hidden States）其实已经"理解"了输入；Decode 只是把理解"翻译成人话"，带宽窄、信息损耗高。Jev 砍掉 Decode，直接在隐空间（Latent Space）中计算决策，把"十几万词表上的全量概率计算"收敛为"有限候选选项上的概率测算"。

         ┌─────────────────────────────────────────────┐
         │               LLM（System 2）                │
         │  Prefill → Decode（逐 token 生成）→ 文本     │
         │  慢（3~329s）· 贵 · 可能幻觉/类型错误         │
         └─────────────────────────────────────────────┘

         ┌─────────────────────────────────────────────┐
         │              Jev（System 1）                 │
         │  Prefill → 隐空间计算 → 概率分布（一次前向）  │
         │  快（70~500ms）· 便宜 · 类型安全 · 校准概率   │
         └─────────────────────────────────────────────┘

运行机制要点：

非自回归、并行采样：同一请求内的所有问题基于同一 state 一次前向、并行评估，输出直接是预定义选项上的概率分布；问题之间相互独立、互不污染（官方强调"没有上下文轮转"）。
输出结构保证：答案被约束在用户提供的选项/等级空间内，因此"无类型错误"是数学保证而非经验统计；这正是"无幻觉"的真实含义——不会输出 schema 之外的内容（但可能在合法选项中选错）。
高基数处理：Choice 候选数最高 255，高基数时采用两阶段——先独立评分、再做显式选择。
训练方法 RLCD：目标函数优化"校准的决策概率"，对抗 RLHF 的"奖励人类爱看的答案导致过度自信/幻觉"与 RLVR 的"可验证奖励导致又慢又贵"。据社区传闻（创始人暗示），训练数据100% 人工合成，且未做大规模预训练、仅对已有模型后训练——若属实，则解释了其极低成本与快速迭代（此信息未经官方证实）。
系统一 + 系统二分工：官方与社区共识的落地形态是——Jev 负责路由、校验、打分、刹车等高频原子判断；LLM 负责理解、推理、生成；代码掌握最终控制权（如 if confidence > 阈值 自动执行，否则转人工或升级模型）。

技术透明度提示：TypeSafe 未公开架构细节、模型权重与训练数据，外部复现（Kev、APUS-OpenJev 等）均为"黑盒功能复现"（对齐输入输出接口），不等于复现其内部实现。

3 使用指南

安装部署

官方云服务（推荐，开箱即用）

无需本地安装模型。注册控制台：https://console.typesafe.ai （ Playground 在线体验、Usage 用量、API Keys 管理）。

注册 (运气不佳的话，可能需要等待1-2天)

登录 Playground： https://docs.typesafe.ai/introduction/quickstart ，打开 https://console.typesafe.ai/playground ，粘贴任意一段文本作为状态，添加一个 Noul 问题如"Does this message express urgency?"，即可看到返回的概率。

申请 API Key：在控制台的 Keys 页面创建密钥，官方文档写明"Get your API key from the dashboard"。

设置环境变量：SDK 默认读取 TYPESAFE_API_KEY，无需在代码中硬编码。

图:注册（局限性声明）

图:主页 | https://console.typesafe.ai/home

图:Playground | https://console.typesafe.ai/playground

免费额度：所有新用户初始 5 美元额度（约 1.2 亿 token）。
价格：输入 0.042 美元/百万 token，输出免费。

官方 SDK 安装

# Python
pip install typesafe-sdk

# Node.js
npm install @typesafe-ai/sdk

据 PyPI 与 npm 2026 年 9 月 21 日数据，Python 包 typesafe-sdk 最新版为 0.7.0，JavaScript 包 @typesafe-ai/sdk 最新版为 0.6.0。名为 typesafe-ai 的 PyPI 包只是跳转壳，实际安装的仍是 typesafe-sdk。

生态集成（免装 SDK 也可用）

Vercel AI SDK：experimental_evaluate 原生支持 Jev；
LangSmith Evals：provider 选 typesafe、模型选 jev-latest；
OpenRouter / Cloudflare AI（模型 ID typesafe/jev）均托管该模型；
API 调用端点：POST /v1/systemone（OpenAI 兼容风格）。

本地/私有化部署（开源替代方案）

官方 Jev 闭源，无法自托管；如需本地跑通同类能力：
- Kev（ https://github.com/jaredpalmer/kev ）：基于 Qwen3.5 的 0.8B/4B/9B 决策模型家族，可自训练自运行，支持 macOS/Linux/Windows，普通电脑可跑（Apache-2.0）。
- APUS fast-browser-use + APUS-OpenJev-v1（9B， https://huggingface.co/apus-ailab/APUS-OpenJev-v1 ）：纯本地离线执行，无需独立 GPU，RTX PRO 6000 上单次决策可到 79 毫秒（MIT）。
- NanoJev、OpenJev（浏览器内量化版）等社区项目。

Curl 调用方式

Request

Jev 的全部模型共用一个端点，请求体只有三个顶层字段：state、model、questions。

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "state": "Hi, I have been trying to connect my Stripe account for 3 days and the integration keeps failing. I am losing sales. Please help ASAP.",
    "model": "jev-latest",
    "questions": {
      "urgency": {
        "type": "noul",
        "instructions": "Does this message express urgency?"
      }
    }
  }'

state: 您好，我尝试连接我的 Stripe 账户已经三天了，但集成一直失败，导致我损失了销售额。请尽快帮助我解决。

状态字段可以是字符串，也可以是 JSON 对象或数组。官方建议多数请求用对象，把工单、订单、退款政策等相关信息放进同一个 state 并各自命名，模型只读取一次状态、再并行回答所有问题。

model: 最新版本的 jev

question: {

urgency/紧急: { type = 新，指令 = 这条消息是否表达了紧急性？}

}

理解三种问题类型

Jev 只有三种问题原语，可在同一次请求中任意混用，所有问题针对同一状态并行独立评估，官方称"增加问题几乎不改变响应时间"。

原语	用途	请求字段	返回字段
Choice	从固定选项中选一个	instructions、criteria（选项名到描述的映射，最多 255 项）	choice、probabilities、confidence
Score	按有序等级打分	instructions、criteria（从低到高的等级描述数组，2 到 10 级）	score、probabilities、confidence、legend
Noul	判断是非	instructions，可选 criteria 说明 true 与 false 各指什么	noul（0 到 1 的"是"概率）

3个字段的设计细节：
- 问题 id 不会发给模型。字典键只用于回传答案，模型看到的是 instructions 和 criteria 的内容，因此选项描述必须能彼此区分。
- Score 的分值等于等级在数组中的下标。三级量表返回 0 到 2 之间的加权均值，如 0.57 概率落在第 1 级、0.43 落在第 2 级则 score 为 1.43。官方建议"描述情境而非程度"，纯数字等级会导致概率分散。
- Noul 没有 confidence 字段。二元分布用一个数即可完整描述，接近 1 为强"是"，接近 0 为强"否"。

Response

返回体的顶层字段为 model、answers、usage。model 字段返回实际作答的版本号，即使请求里写的是别名，便于日志记录。

{
  "model": "jev-1.13.0",
  "answers": {
    "urgency": { "type": "noul", "noul": 0.99 }
  },
  "usage": { "input_tokens": 360, "output_tokens": 39 }
}

Pyhton 调用

1. 基本调用（Python 官方 SDK 示例，来自官方文档）：

from typesafe_sdk import Choice, Noul, Score, TypeSafeClient

state = {
    "ticket_message": "My flight was cancelled. Can I get a refund?",
    "refund_policy": "Cancelled flights are eligible for a full refund.",
}

with TypeSafeClient() as client:
    response = client.system_one(
        state=state,
        questions={
            "refund_requested": Noul(
                instructions="Does `ticket_message` request a refund?",
            ),
            "request_type": Choice(
                instructions="What is the main request in `ticket_message`?",
                criteria={
                    "refund": "The customer wants money returned.",
                    "rebooking": "The customer wants a replacement flight.",
                    "information": "The customer is asking for information only.",
                },
            ),
            "frustration": Score(
                instructions="How frustrated does the customer appear in `ticket_message`?",
                criteria=[
                    "Calm and neutral.",
                    "Concerned but civil.",
                    "Very angry or using strong language.",
                ],
            ),
        },
    )

print(response.answers["refund_requested"].noul)   # 0~1 概率
print(response.answers["request_type"].choice)     # 选中的选项
print(response.answers["frustration"].score)       # 标尺位置

2. 官方建议的工程纪律（五条）：

一次问完所有问题（Speculative fan-out）：同一请求内的问题并行评估，每个额外问题只消耗自身 token；官方 cookbook 实测 13 个问题打包一次调用，比 13 次顺序调用便宜约 11.5 倍、快 9.6 倍。
组合评分、权重留在代码：一个复杂判断拆成多个原子问题（如工单优先级 = 0.6×严重度 + 0.3×客户情绪 + 0.1×报告质量），改权重不用重写提示词。
置信度三段治理：高置信自动执行、中置信请用户确认、低置信转人工；参考阈值（示例值非默认值）：0.5 作人工复核下限、0.9 作破坏性操作门槛，须先用自标数据标定。
精简 state：只放问题需要的内容，塞满无关内容会掉准确率。
提问纪律：每个问题只求一个判断；criteria 写情境不写程度（写"功能损坏但有变通方案"，别写"中等严重"）；覆盖不全就加 other 选项；数字、日期、计数交给代码计算。

3. 生产接入的"影子模式"六步走（Flavio Copes 总结）：

保持现有行为不变 → 2. 让 Jev 影子运行、记录完整答案 → 3. 人工标注决策对错 → 4. 用数据调整问题与阈值 → 5. 先自动化低风险路径 → 6. 不确定情形继续交给人工或更强模型。

4. 适用范围自检：适合"有限选项、高实时、结构化输出"的判断；不适合开放生成、长链推理、数值计算。

场景：用 confidence 做三档路由

confidence 是从概率分布形状压缩出的 0 到 1 单值，全部概率集中在一个选项时为 1.0，分布越平均越低。

jev 官方给出的三选项近似公式为最大概率乘 3 减 1 再除 2。它只描述模型输出的分布形状，官方明确"不是答案正确的保证"。

jev 官方推荐的用法是把 confidence 作为第2个决策维度，按操作风险设不同门槛：

from typesafe_sdk import Choice, TypeSafeClient

with TypeSafeClient() as client:
    response = client.system_one(
        state=user_message,
        questions={
            "action": Choice(
                instructions="What does the user want to do",
                criteria={
                    "check_balance": "View account balance",
                    "approve_transfer": "Approve a pending withdrawal",
                    "support": "Get help with something else",
                },
            )
        },
    )

# route_to_human、show_balance 等为业务侧自定义函数
answer = response.answers["action"]

if answer.confidence < 0.5:
    route_to_human(user_message)            # 模型确实不确定，不要猜
elif answer.choice == "check_balance":
    show_balance(account_id)                # 低风险、可恢复，直接执行
elif answer.choice == "approve_transfer":
    if answer.confidence > 0.9:
        confirm_then_execute(account_id)    # 高风险操作要求更高门槛
    else:
        ask_user_to_confirm(account_id)

官方文档把这一模式命名为 Confidence-Gated Routing

另外三种官方模式是

Speculative Fan-Out（一次发出多个推测性问题、由代码决定用哪些）

Composite Scoring（多个原子 Score 在代码中加权合成）

Intent Routing（分类后分别交给确定性逻辑、专用大模型或人工）。

阈值的原则：先保守、用自己的数据测、再调整。

场景: 用开源适配器和大模型做对照

TypeSafe 开源了 system-one-adapter-python，它是 TypeSafeClient 的替代实现，用同一套 Choice、Score、Noul 接口调用大模型，方便在成本、速度、准确率上做同题对比。据 GitHub 2026 年 9 月 21 日数据，该仓库有 209 个星标，PyPI 版本 0.2.0。

pip install 'system-one-adapter[openai]'

from system_one_adapter import SystemOneAdapterClient, Noul
from system_one_adapter.providers.openai import OpenAIProvider

client = SystemOneAdapterClient(
    structured_outputs=True,
    llm_answer_mode="probabilities",
    normalize_probabilities=True,
)

response = client.system_one(
    state="This book was a delight to read.",
    questions={"positive": Noul(instructions="The book review is positive.")},
    model=OpenAIProvider("模型名", base_url="https://你的兼容端点/v1"),
)
print(response.answers["positive"].noul)
print(response.usage.latency, response.usage.input_tokens_total)

适配器的 OpenAIProvider 接受任意 OpenAI 兼容端点作为对照组，响应对象额外带 latency、重试次数和每次请求的原始记录。
国内开发者做对照实验时，七牛云 AI 大模型广场提供多款主流大模型的 OpenAI 兼容接口，Token Plan 按用量计费。

Z FAQ for Jev

Q: Jev 到底是不是一个"分类器"？

技术逻辑上接近，但业界共识（Sebastian Raschka 等）认为简单把它当分类器会低估它：
- 传统分类器围绕固定任务训练、标签集固定、换场景需重训；
- Jev 具备大模型式语义理解与泛化能力，运行时接受自然语言标签即可换任务。
更准确的说法是 cross-encoder 评分模型 / LLM ranker，或是"把隐空间计算产品化的决策模型"。
批评者则认为它是"新瓶装旧酒"（BERT 类 encoder），且官方未公开架构无法证实 RLCD 宣称。

Q: Jev 真的"零幻觉"吗？

官方口径："Jev 放弃了字符串生成，因此不可能幻觉"——准确含义是：输出被约束在预设选项内，不会编出 schema 之外的选项 D。

但它仍可能在 A/B/C 中选错，也可能对【错误答案】给出过高置信度。

"不出现幻觉"≠"不出错"，类型安全不能保证判断正确。

Q: 为什么它能快 20-200 倍、便宜 40-1000 倍？

三个来源：

① 不生成文本（只做判断，相当于"只吐第一个 token"）；

② 候选空间从整个词表收敛到几个/几十个选项，计算范围骤减；

③ 候选项相互独立可并行，而自回归生成前后依赖。

另据复现者分析，还包括计算维度降级与 KV Cache 广播等工程优化。

注意：官方招牌数字（193.6 倍/444.6 倍）来自偏高端的工作流评估，官方自认应"当上限看"；第三方实测快约 2-3.6 倍、便宜约 4.7-49 倍不等，收益在高频、批量、并行判断场景最明显。

Q: Jev 能取代 LLM 吗？

不能，也不应。Jev 只覆盖"快判断"（System 1）：路由、分类、打分、校验；LLM 负责"深推理与生成"（System 2）：规划、写作、代码、复杂分析。主流观点是两者构成分工架构，且未来可能融合进同一模型（通用模型厂商可能提供"快速决策模式"）。社区共识：Jev 先替代的是 Agent 里的"小调用"（选哪个工具、结果能否通过、任务是否结束）。

Q: 官方模型能本地部署吗？

不能。官方 Jev 闭源（架构、权重、训练数据均未公开），仅提供云 API。本地/私有化需求可选用开源复刻：Kev（Qwen 底座，普通电脑可跑）、APUS-OpenJev-v1（9B，RTX PRO 6000 上 79ms/次）等。

Q: 输出 token 真的永久免费吗？

官方定价：输入 0.042 美元/百万 token，输出免费（"too cheap to meter"）。官方承认无法证明定价未被补贴，长期可持续性需时间验证；他们预期价格只会下降。

Q: 中文支持与中文业务场景如何？

Jev 具备多语言语义理解，中文场景（客服意图识别、工单分派、风控判断等）可行；国内已有团队（APUS）基于开源底座做中文优化与本地化部署。官方未公开中文专项基准，建议先用影子模式以自标数据验证准确率与置信度校准后再上线。

Q: 拿它做股票/高频交易可行吗？

复现者明确提醒：快 ≠ 智力高，交易胜负取决于模型智力与是否针对金融优化，Jev 目前未专门优化金融方向；更有开发者实测在诱空诱多、假盘口的对抗市场中会被反复带偏，"速度是亏钱的放大器"。请勿据此做投资决策。

Y 推荐文献

Jev 使用完整指南：从申请 API Key 到置信度路由，把 TypeSafe 决策模型接进自己的代码 - CSDN 【推荐】

Introducing System One Models & Jev（官方发布公告）- TypeSafe AI Blog
TypeSafe AI 官方文档：Introduction / Primitives / State - docs.typesafe.ai
Kev：tiny Jev-like family of decision models - GitHub
APUS-OpenJev-v1（9B 开源复现）- HuggingFace
Jev by TypeSafe: The System One Model Explained - DataCamp
What Is Jev? TypeSafe AI's System One Model - LangChain Blog
《思考，快与慢》- Daniel Kahneman（实体书，#）

X 参考文献

posted @ 2026-09-27 15:38 数据知音阅读(64) 评论(0) 收藏举报

刷新页面返回顶部