AIGC标识 微软 Decision-1 深度拆解:83.5% 准确率背后的开源底座,以及“能不能本地部署”这个真问题

2026 年 10 月 10 日凌晨 2:37(北京时间),Satya Nadella 在 X 上发了一张对比图动画,配文只有一句:"Introducing Microsoft-Decision-1, our new model for fast decision-making."

图里有六个模型、三个指标。Microsoft-Decision-1 准确率 83.5% 排第一、中位延迟 85 毫秒排第一、校准度 92.2 排第二。对手包括 JevBench 榜单第一的 Quyet-1.0-Large、以及 3.01 秒延迟的 GPT-6 Sol。

但真正扎眼的不是这张图,而是底座那一行小字:Alibaba 开源权重 Qwen3.5-9B。

于是本文要回答两个问题:它到底是什么;以及——能不能本地部署?


先说结论

问题结论
Microsoft-Decision-1 能本地部署吗 不能。官方只有托管 API,模型权重未分发,Hugging Face 上搜不到
那能本地跑什么 同定位的开源决策模型:H2O-Lightning-4B(4.5B,Apache-2.0,JevBench 开放权重第一)、Quyet-1.0 系列(31.3B/4.66B/328M/183M)
自己拿 Qwen3.5-9B 复刻一个 Decision-1 技术上可行(Apache-2.0 允许),但拿不到微软的后训练数据和校准参数,大概率达不到 83.5%
什么场景必须用托管版 需要官方 SLA、GA 合同条款、审计合规背书时;且要先解决"标签写 GA、条款链接却指向 preview"的矛盾
怎么调用 不走 OpenAI 兼容端点,用 OpenRouter Decisions API:POST https://openrouter.ai/api/alpha/decisions,模型 microsoft/microsoft-decision-1
对你的实际价值 $0.042/百万输入 token、输出免费,1 万条 500 token 请求约 $0.21;比 GPT-6 Sol 快 35 倍

一、决策模型(Decision Model)到底是什么

先把这个品类说清楚,否则后面的数字都没有参照系。

普通大模型的交互方式是"你问一句、它写一段字",你再想办法把这段字解析成结构化数据。而决策模型跳过生成环节:给它一个状态(state)和一组固定的选项,它一次性为每个选项输出一个校准过的概率,不生成任何文字。

微软官方给的调用形态大致是:

输入:state(任意文本/JSON/对话)
      questions(类型化问题)
        - choice:  从多个标签里选一个
        - noul:    判断某个陈述是否为真
        - score:   在有序量表上打分
输出:JSON,每个选项的概率 + confidence

这里最关键的一个词是校准(calibrated)。它决定了分数能不能拿去自动决策:

如果模型输出的是意味着能不能自动执行
排序分数(rank score) 只是"在这次比较里相对更优",数值本身无意义 ❌ 不能,得自己定阈值
校准概率 说 90% 的时候,大约真的对 90% ✅ 能。>90% 自动处理,<60% 转人工

微软在这一点上做了专门测试:校准度 92.2 分排第二,落后 Quyet-1.0-Large 的 93.1 约 0.9 分。这个"第二"很关键——它在准确率和速度上都第一,却在最重要的"概率可信"这一项只排第二。下面是完整对比:

模型参数量平均准确率(36 项)中位延迟 p50校准度
Microsoft-Decision-1 未公开(底座 9B) 83.5% 85 ms(p95 125 ms) 92.2(第 2)
Quyet-1.0-Large 31.3B 81.9% 380 ms 93.1(第 1)
Surogate Rune 26B-A4B 26B-A4B 79.7% 380 ms 91.8
GPT-6 Luna Decisions 未公开 79.4% 300 ms 89.9
deck-31B 31B 77.8% 400 ms 83.5
H2O-Lightning-4B v1.1 4.5B 77.2% 210 ms 91.8
Jev 1.13.0 未公开 未评分 240 ms 未评分
Strands-Decider 2B(AWS) 2B 54.8%(仅测 23 项) 未测 未评分
GPT-6 Sol(参考) 未公开 未评分 3.01 s 未评分

数据来源:微软官方博客图表,JevBench v1.6 口径(读数 2026-10-07/10-09)

微软给的理由很实在:每加 100 毫秒延迟,20 步串行决策就多等 2 秒。对工单路由、审核分级、检索排序这类"每请求要判断几十次"的场景,延迟是结构性的,不是锦上添花。


二、⚠️ 关于"快 35 倍",有三个必须知道的坑

这是这条新闻最容易被误读的部分,微软自己的图表里其实标了注,但没人看:

坑一:延迟不是同一套测法。 图注写得很清楚:对手的延迟取自 JevBench 的校正后中位数(10 月 7 日),而 Microsoft-Decision-1 是微软自己在 Foundry 同区域实测的。两边测法不完全一致。独立分析给出的换算是:按原始计时,与亚军差距约 1.4 倍,不是 4.5 倍。35 倍对 GPT-6 Sol 的差距也是同理。

坑二:没有任何独立复现。 截至 2026-10-09 22:30(英国时间),第三方核查的结论是: - JevBench 官方榜单 v1.6.1 结果文件、v1.6.2 页面当时都没有 Decision-1 的行 - Artificial Analysis、Vals AI 都没有该条目 - OpenRouter 公开模型列表(458 个)在 10-09 22:28 BST 快照时也没有它的条目(注意:这是快照时点状态,官方博客现已确认 OpenRouter 上线,见第五章) - 多篇报道明确指出:这些数字全是微软自己测的,且"公告未提供复现该对比所需的完整数据集与延迟测试条件"

坑三:GA 标签和条款链接自相矛盾。 Foundry 目录页的 Quick facts 写 "Generally available (GA)",但 License 标签页指向的是 Azure 的 preview supplemental terms(链接路径明确以 preview-supplemental-terms 结尾)。这是微软同一页面上的两处自相矛盾。采购或法务评审应当在进生产前,要求微软书面确认适用哪套条款——这句话不是我说,是核查报告给采购/法务读者的建议。

其他需要打问号的地方: - 参数量未公开,只说了底座是 9B 的 Qwen3.5-9B - 训练数据只有区间:1B–1T tokens,具体数据集清单和截止日期没给 - 训练时间 2026 年 9 月到 10 月 - 区域只有一个:Global Standard / WESTCENTRALUS,无 Data Zone、EU、UK 部署 - 语言:针对英语优化,在另外 22 种语言上做了评估,但没给分语种成绩


三、本地部署:直接给答案

Microsoft-Decision-1 本体:❌ 不能本地部署

这是本文最重要的一段。逐条给证据:

查证项结论
Foundry 模型卡原文 "is available through a hosted API in Microsoft Foundry"
模型权重 Not distributed(不分发)
自有租户 / 离线运行 模型卡明确列为"未提供"
Hugging Face 搜索 搜不到 Decision-1 权重
第三方核查方判定 "Treat it as a hosted model"(按托管模型对待)
开源底座 ≠ 开源产物 Qwen3.5-9B 是 Apache-2.0,但微软基于它做出来的 Decision-1 是闭源 API

"开源底座进、闭源服务出" —— 这是一笔算得很顺的账。许可协议不看出身,底座开源不构成成品开源的义务。有第三方评论把这层关系说得更直白:微软是 OpenAI 最大的外部靠山,自家 MAI 系列也在迭代,而阿里云与 Azure 在云市场贴身竞争——但这场"合作"没有任何签约仪式,全靠一条开源许可证撮合。

那么能本地跑什么?三条路

路线 A:直接用同定位的开源决策模型(推荐)

这是最实用的路径。决策模型这个赛道开源生态已经很成熟,而且接口形态高度统一——都叫 TypeSafe /v1/systemone,意味着上层代码基本不用改,只换模型名。

模型参数底座许可本地部署门槛JevBench 位置
H2O-Lightning-4B 4.5B Qwen3.5-4B Apache-2.0 单卡 16GB 起步(4-bit 量化约 2.7GB) 开放权重第一(v1.6.1 综合分 72.5)
Quyet-1.0-Large 31.3B Gemma-4-31B-it Apache-2.0 bf16 需 80GB GPU;GGUF 4-bit 约 18.8GB 榜单第 1(71.4)
Quyet-1.0-Medium 4.66B Qwen3.5-4B Apache-2.0 单卡消费级可跑 —
Quyet-1.0-Small / Tiny 328M / 183M encoder Apache-2.0 CPU 即可 —

H2O-Lightning-4B 的几个数字值得单独说:

指标H2O-Lightning-4B v1.1Jev 1.13.0(托管参考)Quyet-1.0-Large
综合分 72.5 71.5 71.4
校准度 60.0 63.6 73.4
速度分 90.0 90.6 90.0
每 1000 次决策成本 $0.021(估) $0.032 $0.045(估)

4B 的模型,打过了 31B 的模型。 H2O 自己的解释是:31B 那批在原始智力上领先,但这个 4B 用一小部分成本和延迟追平了它们的校准度。注意这里的取舍——H2O 的校准度 60.0 明显低于 Quyet 的 73.4,如果你的场景对概率可信度要求极高(比如直接决定放款额度),Quyet 31B 才是更稳的选择,但要多付 3 倍硬件成本。

它的部署路径是未经修改的 vLLM 0.30.0 + 一个标准库 shim:

pip install "vllm==0.30.0+cu129" "torchcodec==0.16.0+cu129" \
  --extra-index-url https://wheels.vllm.ai/0.30.0/cu129 \
  --extra-index-url https://download.pytorch.org/whl/cu129

hf download h2oai/h2o-lightning-4b --revision v1.2.1 --local-dir h2o-lightning-4b

# 起 vLLM,再起 shim,bash serve.sh 可一步到位
bash h2o-lightning-4b/serve.sh

# 预热到返回 HTTP 200
curl -s http://127.0.0.1:8741/v1/systemone \
  -H 'Content-Type: application/json' \
  -d '{"state":"warm-up","questions":{"decision":{"type":"noul","instructions":"Is this a warm-up?","criteria":{"true":"yes","false":"no"}}}}'

真实性能参考:H100 上标准档 p50/p95 为 0.038/0.047 秒,平均每次决策输入 654 token;一张 RTX PRO 4500 Blackwell(32GB)上跑三个实测——1000 条理赔分诊(32 条一批)63 秒、8 个浏览器对 192 家供应商 145 秒全对。

路线 B:拿 Qwen3.5-9B 自己复刻

技术上完全可行——Apache 2.0 允许商用和改版。但要清醒认识你要补的差距:

你要做的难度说明
跑起基座 ✅ 简单 见下方规格
加"选项打分"输出头 ⚠️ 中等 Quyet 的做法是读选项字母(A/B/C)的 next-token 概率,配温度校准
复现校准 ❌ 难 这是微软没公开的核心资产,JevBench 上 Quyet 校准 86.9 / H2O 60.0 / Decision-1 92.2,差距极大
复现 36 项盲测成绩 ❌ 做不到 没有它的后训练数据和评测集

Qwen3.5-9B 本身的本地部署条件(这是基座,不是 Decision-1):

精度权重运行时内存需求最低配置
BF16 19.3 GB ~23.2 GB 单卡 24GB(如 RTX 4090 / A5000)
8-bit 9.7 GB ~11.6 GB 单卡 12GB(如 RTX 3060 12G)
4-bit 4.8 GB ~5.8 GB RTX 3060 12G / 4060Ti 16G 绰绰有余,8GB 卡也行

模型规格:9.7B 参数、262,144 token 原生上下文(RoPE 扩展可到 1M+)、248K 词表、201 语言、Gated DeltaNet + Gated Attention 混合架构、原生工具调用。GGUF 量化版在 Hugging Face 上有 bartowski 等多个量化源:

# llama.cpp 路径(推荐,量化后 6GB 上下)
huggingface-cli download bartowski/Qwen_Qwen3.5-9B-GGUF Qwen3.5-9B-Q4_K_M.gguf
./llama-cli -m Qwen3.5-9B-Q4_K_M.gguf -ngl 99 --jinja

# Ollama 路径(最省事)
ollama pull qwen3.5:9b

# vLLM 路径(生产)
vllm serve Qwen/Qwen3.5-9B-Instruct --max-model-len 131072 --tensor-parallel-size 1 --dtype auto

补充一点:llama.cpp 从 b9180 版本起支持 MTP 推测解码,Qwen3.5-9B 的 GGUF 已内置 MTP 层,用 --spec-type draft-mtp 可以进一步加速。

路线 C:CPU 上跑小号决策模型

如果你的场景只是想给几百上千条记录做分类,不追求高并发:

  • Quyet-1.0-Small(328M)/ Tiny(183M) 是 encoder 架构,CPU 即可运行
  • Quyet 全家族通过一个 pip install quyet 的包提供,接口统一,支持 device="cpu"
  • 限制要记住:编码器读 8,192 token;LLM 版本保留 6,000 token 状态;每题最多 10 个选项(超出会被拒绝而非截断)
pip install quyet
python -c "
import quyet
m = quyet.load('chinhnc/Quyet-1.0-Small')
r = m.predict(
    {'message': 'Please close my card, I lost it yesterday.'},
    {'intent': {'type':'choice','instructions':'What does the customer want?',
                'criteria':{'cancel':'close the card','limit':'change the limit','other':None}},
     'mood': {'type':'score','instructions':'How upset is the customer?',
              'criteria':['calm','annoyed','angry']}},
)
print(r['answers'])
"

⚠️ Quyet 作者自己的免责声明:该模型未经安全、偏见或对抗鲁棒性评估,不得作为高风险决策的唯一控制手段。 这句话同样适用于微软和 H2O 的模型——所有决策模型都是。


四、成本对比:本地 vs API

假设场景是"每天 50 万次决策,每次输入 650 token"(H2O 实测的平均值):

方案月成本一次性硬件说明
Decision-1 托管 ≈$11.9 0 50万 × 650 token = 32.5 亿 token/月 × $0.042/百万,输出免费
Jev 1.13.0 托管 ≈$22.4 0 $0.032/千次决策 × 50 万次
自建 H2O-Lightning-4B 电费 + 折旧 约 ¥3000–8000(单卡 16GB 级) 32.5 亿 token/月在单卡 16GB 上可行
自建 Quyet-1.0-Large 电费 + 折旧 需 24GB+ 双卡或量化方案 硬件成本约为上一项 3 倍

算术我自己做的,不是官方案例。在中小流量下,本地部署的经济性并不突出——Decision-1 的 $0.042 定价已经低到"自己买卡不如付 API"。本地部署真正的理由是另外三个:

  1. 数据主权:敏感数据不出内网。这是国网场景下最硬的理由。
  2. 无单次调用上限:批量处理不受配额约束。
  3. 可微调:可以在自己的历史标注数据上继续训练。

如果第一条是你的主要诉求,那直接看路线 A 的 H2O-Lightning-4B,别绕微软。


五、怎么调用:三个最容易踩的坑

⚠️ 坑一:它不走 OpenAI 兼容端点

这是 99% 的人会栽的地方。/v1/chat/completions 对它无效——它不生成文本。OpenRouter 文档写得很明确:

It runs on the OpenRouter Decisions API rather than the OpenAI-compatible chat endpoint, so the request and response shapes below are specific to structured decisions — chat completions SDKs will not work with it.

也就是说,你用 OpenAI SDK、LangChain 的 ChatOpenAI、LiteLLM 的 completion() 去调,全部会失败。

端点与模型标识

项目值
端点 POST https://openrouter.ai/api/alpha/decisions
模型标识 microsoft/microsoft-decision-1
认证 Authorization: Bearer $OPENROUTER_API_KEY
可选请求头 HTTP-Referer(站点 URL)、X-Title(站点名,仅用于上榜统计)
上下文 33K
单提供方 Azure(OpenRouter 直连,不做路由)

cURL 最小可运行示例

export OPENROUTER_API_KEY=sk-or-v1-...

curl -s https://openrouter.ai/api/alpha/decisions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "microsoft/microsoft-decision-1",
    "state": "Help! My payouts have been failing for 3 days.",
    "questions": {
      "is_urgent": {
        "type": "noul",
        "instructions": "Does this message convey urgency?",
        "criteria": { "true": "Explicitly time-sensitive", "false": "No urgency expressed" }
      },
      "department": {
        "type": "choice",
        "instructions": "Which team should handle this?",
        "criteria": {
          "billing": "Payments, invoicing, refunds",
          "technical": "Bugs, outages, integrations",
          "sales": "Pricing, upgrades, new accounts"
        }
      },
      "frustration": {
        "type": "score",
        "instructions": "How frustrated is the customer?",
        "criteria": ["Calm", "Frustrated", "Very angry"]
      }
    }
  }'

Python(TypeScript SDK 同理)

from openrouter import OpenRouter

client = OpenRouter(api_key="<OPENROUTER_API_KEY>")

decision = client.alpha.decisions.create(
    decisions_request={
        "model": "microsoft/microsoft-decision-1",
        "state": "Help! My payouts have been failing for 3 days.",
        "questions": {
            "is_urgent": {
                "type": "noul",
                "instructions": "Does this message convey urgency?",
                "criteria": {"true": "Explicitly time-sensitive",
                             "false": "No urgency expressed"},
            },
            "department": {
                "type": "choice",
                "instructions": "Which team should handle this?",
                "criteria": {"billing": "Payments, invoicing, refunds",
                             "technical": "Bugs, outages, integrations",
                             "sales": "Pricing, upgrades, new accounts"},
            },
            "frustration": {
                "type": "score",
                "instructions": "How frustrated is the customer?",
                "criteria": ["Calm", "Frustrated", "Very angry"],
            },
        },
    }
)

a = decision.answers
# noul 返回 0(否)~1(是) 的概率;choice/score 携带完整分布
if a["is_urgent"].noul > 0.8 and a["department"].choice == "billing":
    escalate_to_billing()   # 阈值判断逻辑在你这边

三种题型与返回结构

题型请求写法返回用途
noul(是否) criteria: {true: "...", false: "..."} noul:0~1 概率 二分判断、是否需要人工复核
choice(选择) criteria: {标签: 说明} choice + probabilities 路由、分类、模型选择
score(打分) criteria: ["档位1", "档位2"] score + probabilities + legend 优先级、情绪强度、严重度

confidence 字段是判断"要不要转人工"的依据。

⚠️ 坑二:state 里可以塞结构化 JSON,并用反引号路径引用

这是文档里最有价值但最容易忽略的能力——不需要把所有内容拼成一大段字符串:

{
  "state": {
    "ticket": { "message": "I was charged twice for order A-104." },
    "order": {
      "id": "A-104",
      "charges": [
        { "amount_usd": 49, "status": "captured" },
        { "amount_usd": 49, "status": "captured" }
      ]
    }
  },
  "questions": {
    "duplicate_charge": {
      "type": "noul",
      "instructions": "Do `ticket.message` and `order.charges` indicate a duplicate charge?"
    }
  }
}

反引号里的 ticket.message、order.charges 就是路径引用。官方建议是:每个问题只给它需要的那部分上下文,既省 token 又避免"上下文腐烂"。

instructions 也可以是对象而非字符串——当问题需要额外背景或示例时:

"instructions": {
  "potential_duplicate": { "name": "John Smith", "location": "Oakland" },
  "question": "Is the resume for the same person as `potential_duplicate`?"
}

⚠️ 坑三:一次请求要问多个问题,而不是循环问

官方明确指出:"这是最大化每美元效果的方式——问题并行运行,代码再组合它们的信号,而不必增加串行的模型往返。"

❌ 错误做法:循环发 5 次请求(5 倍延迟) ✅ 正确做法:一次请求带 5 个问题,然后在你自己的代码里组合

这也解释了为什么它这么快——85ms 的 p50 是整批问题的时间,不是单个问题。

⚠️ 附带一条:Foundry 与 OpenRouter 的可用性差异

渠道状态(2026-10-10)备注
Microsoft Foundry ✅ 可用 需 Azure 账号;部署区域仅 Global Standard / WESTCENTRALUS
OpenRouter ✅ 已上线 模型页实测可用,https://openrouter.ai/microsoft/microsoft-decision-1

补充更正:本文早前版本曾写"OpenRouter 尚未上线"——那是 10-09 22:30 BST 的核查快照。官方博客现已更新,明确写"available in Microsoft Foundry and through OpenRouter",且 OpenRouter 模型页已有完整的 Playground、定价与调用示例。第三方观察到的真实生产流量(AI Engine、meuemprego-ranking-embedding-unico、ZakazPro 等应用)也印证它已在被使用。


六、本地方案的调用方式(顺带对照)

本地方案的好处是接口形态几乎一致,上层代码基本不用改:

# H2O-Lightning-4B:vLLM + shim,暴露在 8741 端口
bash h2o-lightning-4b/serve.sh
curl -s http://127.0.0.1:8741/v1/systemone \
  -H 'Content-Type: application/json' \
  -d '{"state":"warm-up","questions":{"decision":{"type":"noul","instructions":"Is this a warm-up?","criteria":{"true":"yes","false":"no"}}}}'
方案端点路径差异
Decision-1(OpenRouter) /api/alpha/decisions 带 model 字段,Bearer 认证
H2O-Lightning-4B(本地) http://127.0.0.1:8741/v1/systemone 不带 model,本地直连
Quyet(本地) quyet.load(...) + m.predict(state, questions) Python 包调用

⚠️ 路径不同(/v1/systemone vs /api/alpha/decisions),但请求体里的 state / questions / type / instructions / criteria 这套结构三者一致。要做"托管版跑不动就切本地"的降级方案,只需封装一层适配器。


七、成本速算(按输入 token)

计费公式:输入 token × $0.042 / 1,000,000,输出免费。

场景输入 token单次/单月费用
1 万条 × 500 token 500 万 $0.21
50 万条 × 650 token 3.25 亿 $13.65
100 万条 × 1000 token 10 亿 $42.00

八、开通与充值:门槛与成本

是的,需要一个 OpenRouter 账号并创建 API Key。但门槛比想象低:

项目规则
充值最低额 $10(充值到账 $9.20,扣 $0.80 手续费)
充值手续费 5.5%,最低 $0.80;USDC 加密货币再加 5%
推理加价 无——OpenRouter 不对模型定价加价
支付方式 主要信用卡、支付宝、USDC(PayPal 接入中)
额度有效期 购买后 1 年可能过期
退款 24 小时内可退未用额度,手续费不退;加密货币一律不退

$10 充值在 Decision-1 上约可调用 34.7 万次决策(按单次 650 输入 token 估算,输出免费不计)。

业务量月成本建议充值
个人测试 1 万次 $0.27 $10 够用一年
小项目 50 万次 $13.65 $25
中型 500 万次 $136.50 $150 + 自动充值

国内建议直接用支付宝、避开 USDC(多 5% 且不可退)。到账延迟属正常,Stripe 集成官方处理窗口是最多 1 小时。

另一条路:有 Azure 账号可直接走 Microsoft Foundry 用自己的订阅,跳过 OpenRouter 就没有 5.5% 充值费;代价是只有 Global Standard / WESTCENTRALUS 一个区域,且要走 Azure 的账号与合规流程。


九、Azure 账号就是微软账号吗?

是。 不需要额外注册一个"Azure 账号"——用微软账号(或 GitHub 账号)登录后,Azure 会自动为你创建一个租户,你只需在里面建一个订阅。

层级是什么说明
微软账号(MSA) 身份凭证,xxx@outlook.com ✅ 你已经有了
Azure AD / Entra ID 租户 身份与访问管理边界(128 位 GUID) 首次登录自动创建
订阅 Subscription 计费单位,模型调用挂在它下面 ⚠️ 必须有
资源组 → 资源 实际部署的东西 在订阅下创建

账号管"你是谁",订阅管"谁付钱"。

注册还需要手机号 + 信用卡/借记卡(非预付卡)。卡只用于验证真人,注册时不扣费,但可能有 1 美元预授权,之后自动移除。可用个人微软账号、工作/学校账号或 GitHub 账号注册。

⚠️ 国内用户最关键的坑

官方明确写:Azure 免费帐户、免费服务和 $200 额度不含 Azure 中国(世纪互联)区域的主权云产品。

注册哪一版结果
全球版 Azure ✅ 有 $200 额度 + 免费服务层
Azure 中国(partner.microsoftazure.cn) ❌ 无额度、无免费层

Decision-1 只部署在 Global Standard / WESTCENTRALUS(美国中西部),说明它就是全球版服务——你必须走全球版,别选 Azure 中国。

于是 OpenRouter vs Azure 该选哪个

维度OpenRouterAzure Foundry
开通成本 最低 $10 + 5.5% 手续费 $200 免费额度,无充值费
试用额度 无(只有免费模型) $200 / 30 天
身份验证 无 手机号 + 信用卡
合规路径 境外服务,法务需评估 微软云,国内单位更易接受
适合 立刻跑通、验证效果 已有订阅、或走单位合规

建议:想快速验证效果就 $10 走 OpenRouter;如果是给单位用、需要过合规,Azure 反而更顺——$200 免费额度可以先测,且国内单位对微软云的接受度通常高于境外聚合平台。


十、官方适用范围:比宣传口径窄得多

你的判断是对的

Foundry 模型卡有一节 "Out of scope use cases",原文克制到有点反宣传:

not designed for text generation, open-ended question answering, conversation, translation, or summarization. not intended for tasks that do not provide a closed question and a defined set of answer options, or for tasks that require knowledge not present in the input.

not designed or evaluated for use as the sole automated decision-maker in consequential decisions about people.

should not be used for surveillance, profiling, or tracking individuals; suppression of lawful speech...

The model is text-only... It does not generate explanations or rationales.

维度❌ 不做 / 禁止✅ 仅限
输出 不给解释与理由 JSON 概率
模态 纯文本,不接图像/音视频 text → json
任务 不生成、开放式问答、对话、翻译、摘要 闭合问题 + 固定选项
知识 不能用输入里没有的知识 仅凭输入内证据
决策权 不得作为涉人重大决定的唯一决策者 只给概率,阈值你定
禁域 信贷、就业、住房、保险、教育、医疗、法律权利 —
禁行 监控、画像、跟踪、压制合法言论 —

结论:不能写文章、不能写代码、不能对话、不能翻译、不能摘要、不给理由、不处理图像。剩下能干的只有一件——在给定选项里打分。

官方列出的 6 类用途

用途你的对应场景
AI 输出评估(按 rubric 打分、判断是否有依据) ✅ 月报/材料初稿质量把关
分类与路由 ✅ 工单分类、材料归档
Agent 护栏(评估提议的工具调用) ⚠️ 可用于 CodeWhale/WorkBuddy 链路
内容安全筛查(应用自定义阈值) ⚠️ 阈值需自定
搜索/文档相关性判断 ✅ 知识库检索后过滤
基于置信度的自动化(高置信自动、低置信转人工) ✅ 这是它省人的地方

两个容易被忽略但很实用的能力:

能力价值
显式弃权(Explicit abstention) 支持 "cannot tell" 选项,证据不足时主动说"判不了"——避免了低置信度硬给答案这个最常见的自动化事故
有依据性评估(Groundedness) 拿输入里给的证据核验回答,不引用外部知识

⚠️ 责任归属:微软把决策权推给了应用方

模型卡最关键的一句:

The integrating application is responsible for defining appropriate answer options, confidence thresholds, escalation paths, human oversight, and safeguards for downstream actions.

选项怎么定、阈值卡多少、何时升级人工、下游动作怎么保护,全是你的代码负责。 这一句分量比前面所有限制都重:

  1. 微软不为你的阈值选择负责——把"置信度 >90% 自动执行"设成 80%,出事责任在集成方。
  2. 你必须自建人工复核通道,模型只要求你提供、不提供。
  3. 92.2 的校准分是通用基准,不是"你的业务上它有多准"。上线前必须用自己的历史数据重测校准。

微软内部四例:全是"打分",没有一例"做事"

团队用途结果(微软自报)
Xbox Research 10,000+ 条反馈按主题归类 与 GPT-6 Sol 相当,快 14 倍、便宜 200 倍
Copilot 团队 给聊天与智能体回答打质量分 与 GPT-5.6 Luna 相当,快 100 倍
值班工程师 故障时检索日志/工单/消息 比通用 LLM 更好更快(无数字)
Microsoft Discovery 科研智能体按 rubric 评分并重规划 一致性 46 倍,速度 3 倍

共同点:全部是"给别人的输出打分"。它是流水线的质检环节,不是生产环节。

赛道现状(同月玩家)

玩家动作权重
Cloudflare Clef 10-01 发布,开放权重,部署在 Workers AI 开源
OpenAI Decisions API 公测,返回类型化答案 闭源
Microsoft Decision-1 Foundry 上线,计划 rebasing 到 MAI/OpenAI 闭源
Perplexity / Liquid AI 同赛道已有布局 部分开源

一个值得注意的信号:微软和 OpenAI 都把 OpenRouter 当分发渠道——微软说要 rebasing 到 OpenAI 模型,OpenAI 自己也开了 Decisions API。这两家在"决策层"已不是竞争关系,而是同层不同供应商。


十一、防追问要点(路演/汇报用)

如果要在正式场合讲这件事,这几个点建议提前准备:

可能的追问建议答法
"35 倍快是真的吗" 官方口径。对手用 JevBench 校正中位数、自己用 Foundry 实测,按原始计时对亚军约 1.4 倍
"有没有第三方验证" 截至 10-09 无。JevBench 官方榜单、Artificial Analysis、Vals AI 均无条目
"能私有化部署吗" 不能,只有托管 API,权重未分发
"是国产模型吗" 底座是阿里的 Qwen3.5-9B,但成品是微软的闭源后训练,国产替代路径下拿不到它
"GA 了吗" 标签写 GA,但 Azure 条款链接指向 preview supplemental terms,需书面确认
"能用在信贷/用工决策上吗" 不能。微软明确禁止将其作为信贷、就业、住房、保险、教育、医疗、法律权利决定的唯一依据,也禁止用于监控和给个人画像
"为什么微软选 Qwen" 官方未解释。可合理推测:Apache 2.0 许可干净、9B 规模适合低延迟单次前向、且不必自研基座

最后一条关于合规的提醒值得单独强调——微软在自家文档里列了明确的禁用场景。如果你的业务场景涉及对个人的自动化判定,这个限制要提前过法务。


十二、一句话总结

微软用一个 Apache-2.0 的国产开源底座,做出了一个准确率 83.5%、延迟 85 毫秒、售价 $0.042/百万 token 的闭源托管服务,证明了两件事:决策模型这个品类已经跑通了商业化;开源底座 + 闭源后训练,是大厂做垂直模型的标准打法。

对使用者来说,Decision-1 是一个价格极低但无法私有化的选项;对想要数据自主可控的人来说,H2O-Lightning-4B(4.5B,Apache-2.0,JevBench 开放权重第一,4-bit 量化后约 2.7GB 显存)是目前更现实的落地方案。


数据来源

来源用途时间
Microsoft Command Line 官方博客 模型机制、性能数据、内部用例 2026-10-09 发布
Microsoft Foundry 模型卡 托管方式、权重状态、训练数据、区域、许可条款 2026-10-09 读取
pk-sharma 独立核查 权重未分发、测法差异、第三方榜单缺失、GA/条款矛盾 2026-10-09 22:30 BST
H2O-Lightning-4B 模型卡 · 官方博客 开源替代方案、部署命令、JevBench 成绩 2026-10-07/08
Quyet-1.0 GitHub · Hugging Face 家族规格、CPU 运行方案、许可 2026-10-08 更新
Qwen3.5-9B 模型页 · bartowski GGUF 基座规格、量化体积、部署命令 2026-10-08 读取
AIHOT 事件详情 发布时点、信源汇总、定价 2026-10-10 02:37
OpenRouter 模型页 调用端点、请求/响应格式、示例代码、线上实测延迟与可用性 2026-10-10 读取
TypeSafe System One 官方文档 状态/问题结构化设计、反引号路径引用、并行提问范式 2026-10-10 读取
OpenRouter FAQ 充值手续费、最低充值额、额度有效期、退款与支付方式 2026-10-10 读取
Azure 免费帐户官方页 账号类型(MSA/GitHub)、信用卡验证、$200 额度 30 天、Azure 中国不含免费额度 2026-10-10 读取
Microsoft Foundry 模型目录页 官方适用范围原文(Key capabilities / Out of scope use cases / 责任归属声明) 2026-10-10 读取

免责声明

本文所有数据来自上述公开来源,其中性能数字均为微软官方口径,截至 2026-10-10 尚无独立第三方复现。成本测算为笔者自行推算,非官方数据。开源模型的许可条款以各自仓库为准,商业使用前请自行核对。决策模型普遍未经高风险场景的对抗鲁棒性评测,请勿作为信贷、就业、医疗等重大决策的唯一依据。

本文由 WorkBuddy 生成 · 数据核实时间 2026-10-10 09:30(北京时间)

posted on 2026-10-10 10:12  fox_charon  阅读(79)  评论(0)    收藏  举报

导航