摘要: 初衷 写博这件事,其实从大学开始就一直断断续续的有在做,几大博客平台都有玩过,但是都不持久。真正想要认真地好好维护一个自己的博客是在2015年年底。 为什么突然就想好好写博客呢?其实与过去三年的工作经历直接相关。我的技术学习之路可以与很多人都不太一样。由于那三年里,我的工作都在工商银行任职,虽然,工 阅读全文
posted @ 2019-06-03 10:25 程序猿DD 阅读(5189) 评论(6) 推荐(15)
摘要: OctaFuse Gateway 2.6.0 重点完善项目级 Vertex AI 的服务账号鉴权与文生图计费,让供应商接入、分时定价和异常请求扣费更明确、更容易核验。 管理后台同步优化了路由编辑、Playground 和 Simulator,并新增 BytePlus、阿里云百炼国际站、Meta Mo 阅读全文
posted @ 2026-08-19 14:39 程序猿DD 阅读(102) 评论(0) 推荐(0)
摘要: 2.5.0 将 OpenAI Responses API 纳入 OctaFuse 的统一路由体系。应用可以继续使用现有的用户 API Key、预算和公开模型,通过 POST /v1/responses 访问支持 Responses 的上游。 管理后台也同步升级了 Routes 与 Providers 阅读全文
posted @ 2026-08-15 15:43 程序猿DD 阅读(73) 评论(0) 推荐(0)
摘要: 当语音识别和语音合成进入真实业务,网关面对的不再只是一次普通的 HTTP 请求:ASR 可能需要同步转换或异步任务,TTS 可能返回完整音频或持续输出音频流,实时语音还需要在 WebSocket 上双向传递文本、事件与二进制帧。 2.4.0 将这些差异纳入 OctaFuse 的统一路由体系。应用可以 阅读全文
posted @ 2026-08-12 23:44 程序猿DD 阅读(76) 评论(3) 推荐(1)
摘要: OctaFuse Gateway 2.3.0 正式发布。 一次请求通过故障转移(Failover)找到可用上游后,后续请求能否继续访问同一家供应商(Provider),会直接影响缓存命中率、会话连续性以及供应商侧状态的稳定性。 2.3.0 为路由池(Route Pool)新增了供应商粘性(Provi 阅读全文
posted @ 2026-08-08 13:04 程序猿DD 阅读(66) 评论(0) 推荐(1)
摘要: OctaFuse Gateway 2.2.0 正式发布。 这次升级聚焦一件事:让路由配置更贴近真实的生产流量。 当一个模型同时接入多个账号、多个供应商或多条备用链路时,“先走谁、同层怎么选、失败后往哪里切”不应该是一组藏在代码里的隐含规则。2.2.0 把这些决策继续下沉到 Route Pool 的 阅读全文
posted @ 2026-08-07 11:04 程序猿DD 阅读(141) 评论(0) 推荐(1)
摘要: 过去我们的 AI 网关,绝大多数的更新关注点在以下几个方面: 如何统一接入 OpenAI、Anthropic、Gemini 等协议 如何在多个 Provider 之间路由和故障转移 如何管理 API Key、预算、Token、成本与调用日志 但当 Agent 真正进入业务,模型调用只是链路的一部分。 阅读全文
posted @ 2026-08-02 23:45 程序猿DD 阅读(175) 评论(0) 推荐(0)
摘要: 以前配置 AI 网关,像在修飞机发动机:Provider Key 一堆、优先级一串、策略藏在字段里,改完还要心里默念「这次会不会打到对的上游」。 2.0.0 把重点放在了路由配置上,这个版本的目标很朴素:用户打开页面,一眼看懂请求怎么走;点几下,就能配好多供应商、故障转移和分流策略。 开源地址: h 阅读全文
posted @ 2026-07-31 11:33 程序猿DD 阅读(215) 评论(0) 推荐(0)
摘要: 如果你跟我一样,平时折腾独立产品、或者是 AI 方向的 OPC,相信你一定买了很多 Coding Plan、Token Plan 等各种 AI 资源。不论你是在各种客户端中使用,还是自己开发产品提供 AI 服务,都需要接入这些资源。由于那么多供应商都提供了单独的 BaseUrl 和 ApiKey 接 阅读全文
posted @ 2026-07-24 12:14 程序猿DD 阅读(174) 评论(0) 推荐(0)
摘要: 如果一个 AI 应用需要同时使用大模型、图片生成和联网搜索,通常需要准备多少个 API Key? 答案可能是三个,也可能是五个,甚至更多。 每个模型供应商都有自己的 Key,图片服务可能来自另一个平台,搜索和网页抓取又需要单独申请账号。随着项目和成员增加,密钥很快就会散落在环境变量、部署平台和本地配 阅读全文
posted @ 2026-07-21 20:41 程序猿DD 阅读(18) 评论(0) 推荐(0)
摘要: 海外 Agent 基础设施正在快速平台化。Vercel、Cloudflare、GitHub 这些开发者平台不只是在接模型,而是在补部署、长任务运行、沙箱、观测、模型网关、权限和成本治理。 国内现在不缺模型,也不缺 Agent 框架,缺的是一套足够顺手的工程化底座。很多团队能把 Demo 做出来,但一 阅读全文
posted @ 2026-06-25 15:51 程序猿DD 阅读(396) 评论(0) 推荐(0)