程序猿DD

摘要： 当语音识别和语音合成进入真实业务，网关面对的不再只是一次普通的 HTTP 请求：ASR 可能需要同步转换或异步任务，TTS 可能返回完整音频或持续输出音频流，实时语音还需要在 WebSocket 上双向传递文本、事件与二进制帧。 2.4.0 将这些差异纳入 OctaFuse 的统一路由体系。应用可以 阅读全文

摘要： OctaFuse Gateway 2.3.0 正式发布。 一次请求通过故障转移（Failover）找到可用上游后，后续请求能否继续访问同一家供应商（Provider），会直接影响缓存命中率、会话连续性以及供应商侧状态的稳定性。 2.3.0 为路由池（Route Pool）新增了供应商粘性（Provi 阅读全文

摘要： OctaFuse Gateway 2.2.0 正式发布。 这次升级聚焦一件事：让路由配置更贴近真实的生产流量。 当一个模型同时接入多个账号、多个供应商或多条备用链路时，“先走谁、同层怎么选、失败后往哪里切”不应该是一组藏在代码里的隐含规则。2.2.0 把这些决策继续下沉到 Route Pool 的 阅读全文

摘要： 过去我们的 AI 网关，绝大多数的更新关注点在以下几个方面： 如何统一接入 OpenAI、Anthropic、Gemini 等协议 如何在多个 Provider 之间路由和故障转移 如何管理 API Key、预算、Token、成本与调用日志 但当 Agent 真正进入业务，模型调用只是链路的一部分。 阅读全文

摘要： 以前配置 AI 网关，像在修飞机发动机：Provider Key 一堆、优先级一串、策略藏在字段里，改完还要心里默念「这次会不会打到对的上游」。 2.0.0 把重点放在了路由配置上，这个版本的目标很朴素：用户打开页面，一眼看懂请求怎么走；点几下，就能配好多供应商、故障转移和分流策略。 开源地址： h 阅读全文

摘要： 如果你跟我一样，平时折腾独立产品、或者是 AI 方向的 OPC，相信你一定买了很多 Coding Plan、Token Plan 等各种 AI 资源。不论你是在各种客户端中使用，还是自己开发产品提供 AI 服务，都需要接入这些资源。由于那么多供应商都提供了单独的 BaseUrl 和 ApiKey 接 阅读全文

摘要： 如果一个 AI 应用需要同时使用大模型、图片生成和联网搜索，通常需要准备多少个 API Key？ 答案可能是三个，也可能是五个，甚至更多。 每个模型供应商都有自己的 Key，图片服务可能来自另一个平台，搜索和网页抓取又需要单独申请账号。随着项目和成员增加，密钥很快就会散落在环境变量、部署平台和本地配 阅读全文

摘要： 海外 Agent 基础设施正在快速平台化。Vercel、Cloudflare、GitHub 这些开发者平台不只是在接模型，而是在补部署、长任务运行、沙箱、观测、模型网关、权限和成本治理。 国内现在不缺模型，也不缺 Agent 框架，缺的是一套足够顺手的工程化底座。很多团队能把 Demo 做出来，但一 阅读全文

摘要： 上一篇:《Vercel Eve 接入自定义 AI Provider》里，我们把 SpringForAll 内容运营助手的模型入口改成了两条路径： 默认走 Vercel AI Gateway； 配置 EVE_MODEL_BASE_URL 后切换到自定义 OpenAI-Compatible Provid 阅读全文

摘要： 上一篇:《快速入门 Vercel Eve：用 eve init 构建第一个 Agent》我们做了一个极简的 SpringForAll 内容运营助手：只有主 Agent、模型配置、常驻 instructions（系统提示词）和 Eve CLI chat。 相信很多朋友跟我一样，手头都有不少 codin 阅读全文