AIGC标识 自主循环降延迟:从70ms到16ms的配置迭代

DEV 的 Rails 平均请求时间从大约 70 毫秒降到了 16 毫秒,P99 超过 1 秒的情况也少了很多。这个数字来自每天约 30 万个请求的采样,数据库时间从 39 毫秒降到 12 毫秒以下,视图渲染从 12 毫秒降到 2.6 毫秒,Redis 时间从 7 毫秒降到 1.3 毫秒。30 天内合入 Forem 的 PR 有 475 个,其中 351 个来自自主循环,93 个由人直接推进。真正值得说的不是 PR 数量,而是这套循环怎么被一步步调出来,以及人在其中该站什么位置。

最初的陷阱很常见:不手写语法了,却变成了人和终端之间的中间件。调提示、盯 CI 抖动、给 diff 盖章,下午过完,既没写代码,也没做深度工程。要跳出这个状态,得把自主循环搭在 OpenHands 和 Agent Client Protocol 之上,让系统维护和需要人类品味的项目分开。

第一版循环只读 Ruby 文件猜瓶颈,产出的微优化几乎不动图表。后来把 Better Stack 的 ClickHouse span 和只读 Postgres 网关接入每次预检快照,并加上隐私保护。代理在改文件之前能看到实时顺序扫描、未使用索引和每个端点的计算开销,每个 PR 必须对着真实流量解释自己。这一步之后,优化才有依据。

模型侧也换过几次。最早固定用 Claude Opus 5.5,从 macOS Keychain 同步 OAuth token。碰到配额上限和 token 刷新冲突后,改成三供应商路由器,覆盖 Claude Opus 5.5、OpenAI 的 GPT-6.1 Sol 和 Google 的 Gemini 4 Argon,通过 Antigravity CLI 接入。先是用反向 WebSocket 隧道连到 Mac,后来原生装在 Linux 上,推理强度设为 Medium。每个循环轮询切换,冷却上限 8 小时,PR 修复失败就换模型家族。

并行跑八个循环暴露了 Git 和 Linux 的边角。并行 fetch 会碰撞,启动崩溃会留下过期的锁文件,僵尸进程越积越多,直到把 tini 设为 PID 1 才缓解。现在每次运行放在 detached-HEAD 的 git worktree 里,带自愈锁清理,每个 cron 前面加确定性 Python 门控,满队列两秒退出,不花 token。

随着容易的 SQL 优化被清掉,工作拆成了正交的专用循环,白天每 10 分钟触发一次,周末频率降为四分之一,PR 检查间隔按 5/10/20/40 分钟指数退避。查询循环负责 ActiveRecord、Redis 缓存和视图 partial,并在打开的 PR 之间强制类别正交。Rust 移植循环把热点 Ruby 路径通过 rb-sys 转到原生,限制同时只开一个 PR,避免预编译二进制冲突,用 1000 个输入的差分测试验证。测试套件循环解析 30 个 Knapsack RSpec 分片,减少 churn 和慢系统测试。问题转 PR 和错误修复循环带严格过滤,跳过超时、模糊 bug 和补丁噪音。低风险性能与测试 PR 由另一个模型家族的审计员检查影响范围,CI 通过后自动合入。

这套东西的回报不只是 16 毫秒。因为早上不用再翻顺序扫描或在标签页之间路由堆栈,人有余力做更深的活:重新设计首页信息流的演化方式,加入定向桶、年龄多样性权重和粘性重复访问配置;分四阶段现代化 JavaScript 交付,包体积缩小 71% 和 55%;构建 L1 本地 Redis 缓存;写可观测性扩展来观察整个系统。系统维护交给循环,创造性工作留给人,这个分工比单纯追求 PR 数量更值得保留。

posted on 2026-11-12 00:40  朋友圈自动点赞工具  阅读(9)  评论(0)    收藏  举报