会员
周边
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
码林拾遗
博客园
首页
新随笔
联系
订阅
管理
2026年9月25日
LLM 应用的降级艺术:不是所有请求都配得上最大的模型
摘要: 做 AI 应用半年后,我们最大的成本优化不是换便宜的 API,而是建立了一套「降级路由」:每个请求进来,先回答一个问题——它配得上多大的模型? 三级路由的心智模型 第一级:规则能解决的不上模型。格式转换、正则能抽的字段、白名单映射——这些请求占了流量的两三成,token 成本为零。判断标准很简单:输
阅读全文
posted @ 2026-09-25 09:42 吴键WJ
阅读(35)
评论(0)
推荐(0)
公告