同一个模型,A 平台报三块,B 平台敢报八毛;上个月还够用的预算,这个月账单又超了三成。很多团队的直觉是“厂商在乱定价”,于是把价格当成一个需要反复比对的数字。
先把判断摆在这里:大模型 API 的价格不是拍脑袋定的,它由一条从 GPU 到 Token 的成本链决定。看不懂这条链,比价就只能比到一个表面数字。
一、两组方向相反的数字:单价在跌,算力在涨
过去两年,API 单价跌得很凶。中国信通院的数据是,2025 年国内主流大模型推理价格整体下降超过 80%;把时间拉长,2023 年初前沿模型的 API 定价约 30 美元 / 百万 Token,到 2026 年已落到 0.1—0.25 美元区间,降幅 90%—99%。
但同一时期,底层算力在涨。H100 一年期租赁合约价,从 2025 年 10 月的 1.70 美元 / 小时,回升到 2026 年 3 月的 2.35 美元 / 小时,涨幅近 40%。
单价在跌,算力在涨
两组数字并不矛盾。单价能压下来,主要靠效率,不是厂商在让利:MoE 架构让推理时只激活一小部分参数,推理框架把同样的显卡榨出更多并发,开源权重模型不断顶替闭源方案、给定价设了一道天花板,采购方则开始做模型分层,把简单任务路由给便宜模型。四股力量叠加,价格下探就成了市场结构变化的必然。
把这个变化翻译成一句话:过去是厂商定一个价、市场接受;现在是效率、规模和时段共同决定出一个价格区间,谁能把成本压到区间下沿,谁就敢报更低的价。价格战的底座,其实是成本结构的差别。
这也意味着,任何一句“便宜”,都带着前提。想知道一个报价能不能长期成立,得回到成本本身。
二、一个 Token 的售价里装着什么
按公开的行业估算口径,一个 Token 的售价大致压在五块上:
一个 Token 的售价,七成以上压在硬件与电力
- GPU 折旧:40%—50%。
- 电费:15%—20%。
- 网络与存储:约 10%。
- 推理优化:15%—20%。
- 利润:10%—15%。
这份比例说明一件事:七成以上的成本压在硬件和电力上,软件优化能动的份额有限。一家平台就算把推理引擎做到极致,也改不动 GPU 的折旧,改不动电价。
这在数据中心的账本上看得更清楚。一座 1GW 规模的数据中心,四年全周期总拥有成本约 550 亿美元,其中 GPU 采购约 250 亿、供电散热约 110 亿、网络约 50 亿、存储约 40 亿,而电费只有约 27.5 亿,占比 5%。也就是说,常被当作“本钱”的电价,在总成本里并不是决定项;真正的大头是那块 GPU,以及它四年左右就被迭代掉的折旧。
推理优化这一块,是各平台差距最容易拉开、也最容易被高估的地方。量化、批处理、投机解码这些手段确实能把单卡的吞吐提上去,但它们改变的是“同一块卡能跑多少 Token”,改变不了“这块卡值多少钱”。把软件做到极致,最多把成本往硬件那条线推近,推不穿。
所以,谁能摊薄折旧、把单位算力的成本压下来,谁就拿到了别人拿不到的价格下限。而这把钥匙,藏在利用率里。
三、利用率:定价的底层变量
GPU 折旧按时间走,不看它有没有在干活。一台机器买回来,无论一天跑满还是空转,折旧都在照常发生,这笔钱总要有人承担。
这就是利用率的意义:
- 利用率高,同样的折旧摊到更多 Token 上,每个 Token 背的成本就低。
- 利用率低,机器大半时间闲着,同样的折旧摊不开,每个 Token 都要背更贵的账。
现实中的利用率并不好看。据公开统计,全球每天约有 67% 的算力资源因空闲而浪费,多数企业的算力利用率不足 30%。原因也不难理解:算力需求自带“潮汐”——白天和晚高峰被挤爆,深夜和周末空下来;工作日忙,休息日闲。
一天的算力利用率:波峰留给实时,波谷可以拿来卖
同一个模型,跑在 80% 利用率的集群上和跑在 20% 利用率的集群上,单位成本能差出几倍。价格表上的那点差异,很多时候就是这么来的。
但利用率不是越高越好,还得看是拿什么任务去填的。长上下文推理、批量生成这类活儿可以被打包调度,天然适合填充波谷;在线对话、Agent 的工具调用要求即时返回,必须常驻在高峰通道上。把两类任务混在同一批机器上跑,利用率是上去了,实时请求的延迟却可能被拖累。真正做得好的调度,是先给实时业务划出预留容量,再用剩下的时段和机器去接闲时任务。
这也解释了为什么同一家平台上,不同模型的折扣力度往往不一样:能给出多少折扣,取决于这款模型在它的集群里跑得够不够满。
四、闲时算力:把波谷里的机器搬上网
既然波谷里有大量闲置,很自然的想法就是把它拿出来卖——这就是“闲时算力”。
它的来源比想象中广:个人电脑、网吧机器、数据中心与智算中心节点、企业自建集群里没跑满的 CPU 和 GPU。思路也不新,1999 年的 SETI@home、2003 年的 BOINC,就在用全球个人电脑的闲置算力做科学计算;直到 2020 年代 AI 算力需求爆发、利用率“潮汐现象”凸显之后,这件事才被真正规模化、商业化地调度起来。
经济性是它的立身之本:用闲置资源供给需求方,费用可以比常规资源省下约一半。网吧机器平均每天使用不超过 3 小时,剩下的时间就是现成的算力;一些对时效不敏感的行业,为了用上闲时算力,甚至把工作调整到凌晨。
难点在稳定性。闲时算力天然分散、波动,要把它整合成稳定服务,靠的是调度平台和供需时序匹配的算法,把可用性提到 99.99% 以上。2026 年,算力网被纳入“六张网”新型基础设施的核心建设序列,“三分建设七分运营”成为业内讨论较多的一种思路——算力这件事,正在从“先建机房”转向“先找需求”。
从技术上看,闲时算力要跑得稳,靠的是几件事配合:把大任务切成可独立执行、可重试的小块,单点掉了不影响整体;给每个任务做检查点,中途中断能从断点续跑;再按机器的空闲规律排进度,谁闲下来就往谁那里派活。这些机制做扎实,闲时算力才能从“能用”变成“敢用”。
落到使用者身上,闲时算力给出的,是一个以前不存在的选项:不赶时间的任务,可以用波谷的价格跑。
五、同一模型的几种价,分别从哪来
理解了成本结构,再回头看“同一个模型为什么能报出好几种价”,就清楚多了。合理的价格差异,通常来自四个地方:
- 批量采购。官方对不同调用量设有阶梯价,把大量中小需求聚成批发量,就能拿到低于零售的采购价。
- 缓存与去重。重复的提示词、固定的系统规则、反复传送的文档,命中缓存后不必重新推理,这部分成本直接消失。
- 峰谷计价。部分模型按时间段区分价格,把可延迟的批量任务挪到低谷时段,等于零成本降本。
- 闲时与闲置资源调度。夜间的大规模调用自动匹配高性价比的闲散资源,摊薄单位成本。
这四条里,前两条靠的是规模和工程,后两条靠的是把“时间”当成商品。它们都不改变模型本身,只是把同一份算力在不同条件下卖出了不同的价格。
但价格低,未必都来自这些结构性原因。这几年也出现过另一种“便宜”:用批量注册或收购来的账号凑成号池,再以不合规的方式转卖接口,成本被人为压到极低。这类低价不带稳定性和合规性——2026 年,监管部门已公开提示“AI 中转站”的风险,上游厂商也在收紧对转卖行为的审查。
还有一个实用的判断方法:把平台的报价和它对应的成本结构对一遍。如果报价明显低于同档模型的算力与运维成本,又没有说明低价从何而来,那它要么在补贴,要么在别的地方找补。前者会随活动结束而结束,后者往往要用质量或合规来还。
所以比价之前要先分个类:这个便宜,是效率换来的,还是风险换来的。前者可以长期用,后者随时可能消失,而且往往以输出质量和数据安全为代价。
六、动态定价之下,买方该怎么做
价格会动,成本结构相对稳定。把功夫花在后者身上,比追最低价更管用。
- 按时限给任务分类。实时对话、在线请求走常规通道;离线评测、批量生成、语料清洗这类不赶时间的,单独排进队列。
- 把可延迟的任务排到低谷。夜间、周末、峰谷计价里的低档时段,都是现成的折扣。
- 缓存前缀要设计得稳定。固定不变的内容放最前面,别每次都去动它,否则缓存命中不了。
- 看清计价口径。是否透传峰谷价、是否支持缓存计费、批量接口有没有折扣,这些比首页标价更能决定实际支出。
- 算总账,不只算单价。多接一套接口、多写一层适配、多处理一类错误码,都是实打实的人力。便宜但折腾的渠道,未必真便宜。
落地时可以这么起步:先跑两周日志,把每类任务的调用量、平均输入输出长度、失败重试率统计出来,据此决定哪些活可以降档、哪些任务可以延后;再给可延迟的任务单独开一条队列,配一个低谷时段的执行窗口。这两步不花钱,却是性价比最高的降本动作。
还有一点值得注意:算力的计价方式本身也在变。2026 年起,部分算力服务商开始试点“保底 + Token 分成”——把固定服务费降下来,换成跟着调用量分成的收益结构。它说明供给方押注的不再是“卖了多少硬件时长”,而是“机器实际跑了多少 Token”。定价的锚点,正从资源转向产出。
对采购方来说,这意味着报价会越来越多地和实际用量挂钩:固定成本降了,用量增长带来的支出弹性却变大了。签约之前,得把这条弹性算清楚,而不是只看那个被调低的基础价。
写在最后
大模型 API 的价格,是算力供需的一面镜子。单价跌是效率的胜利,算力涨是硬件的现实,而同一个模型能报出不同价格,差的是利用率、缓存、时段和渠道结构。
对使用者来说,与其在几个数字之间反复横跳,不如先看懂这条成本链。价格随时会变,看成本的能力不会过时。
浙公网安备 33010602011771号