AI 技术日报 - 2026-09-27

AI 技术日报 - 2026-09-27

Top 10 AI 技术要闻

  1. 谷歌 TPU 跑 Kimi 比英伟达 GPU 快 57%,用的还是 DeepSeek 推理框架
    推理创业公司 Inferact(vLLM 原班人马)在谷歌 Cloud 合作下,用 16 块 TPU v7 Ironwood 跑 Kimi K3 达到 709 token/s,同条件 16 块 GB200 仅 452 token/s。差距来自软件而非硬件——TPU v7 的 HBM 带宽(7380 GB/s)其实低于 GB200(8000 GB/s)。核心是 megakernel 技术:用 Pallas 语言把 92 层 MoE 前向计算焊进一个大程序,消除数百个小 kernel 切换间隙并支持跨层权重预取,叠加 DeepSeek 的 DSpark 推测解码(acceptance length 达 6),编译时间也从 30 分钟降至 90 秒。GPQA-Diamond 94.4%、GSM8K 97.2%,与 GPU 结果一致无精度损失,代码已开源。大模型推理的瓶颈在数据搬运而非算力,硬件胜负越来越取决于底层 kernel 工程。

链接:https://www.qbitai.com/2026/09/497425.html

  1. 笔记本跑 7000 亿参数 GLM:SSD 当显存用,纯 C 推理框架 Colibrì 火爆 GitHub
    Colibrì(约 32k Star)是零引擎依赖的纯 C 分层推理框架,可在 12 核 CPU + 25GB RAM 笔记本上运行 744B 的 GLM-5.2,无需 GPU。它利用 MoE 稀疏激活特性:总参 744B 但每 token 仅激活约 40B,Dense 部分(int4 后约 9.9GB)常驻 RAM,19456 个路由专家(约 370GB)整体放 NVMe SSD 按需加载,堪称权重版 JIT。配合 LRU 缓存、专家频次统计和 71.6% 准确率的下一层专家预测预取,将 I/O 与计算重叠。冷缓存约 0.05–0.1 token/s,128GB RAM 约 1.8 token/s;已支持 GLM、DeepSeek V4、Qwen、Kimi K3(需 1.6TB 硬盘)等 9 个模型家族,附带 Web Dashboard 和专家可视化,让消费级硬件实验超大模型成为可能。

链接:https://www.qbitai.com/2026/09/497624.html

  1. ProofForge:产出机器可验证 Lean 4 证明的 AI 代理流水线
    ProofForge 以"证明必须在 Lean 中编译"为唯一验收标准:多个代理先调研(Survey)已知方法,把问题分解(Decompose)为原子引理,分别证明并经对抗式反驳尝试(Prove+verify),再形式化为 Lean 4/Mathlib 代码(Formalize),由 Lean 内核用标准公理重新校验,禁用 native_decide 等绕过手段。错误证明无法编译,检查器要么接受要么拒绝,"AI 证明了它"不再靠信任。目前已有 6 个 PR 合入谷歌 DeepMind 的 formal-conjectures 仓库,包括 Erdős #1084 上界、#1052 第五个酉完全数等此前带 sorry 的未证命题,Apache 2.0 许可。它示范了如何用形式化编译器充当 AI 输出的确定性裁判,把概率性生成转化为可机器验证的 artifact。

链接:https://github.com/Sanexxxx777/ProofForge

  1. Codex 本地自定义 Agent 与模型配置实战:TOML、AGENTS.md 和优先级
    文章以最小可运行配置讲清 OpenAI Codex 本地 Agent 的三层结构:config.toml 管入口默认模型与全局选项;~/.codex/agents/ 或项目 .codex/agents/ 下的 TOML 用 name、description、developer_instructions、sandbox_mode 定义代码分析员、评审员等角色;AGENTS.md 只负责任务分派与调用规则。职责稳定的角色(如 reviewer)在 TOML 中固定 model 和 model_reasoning_effort,难度变化的动态角色则在 AGENTS.md 中规定选模型规则。模型解析优先级明确:角色 TOML > 创建时显式指定 > config.toml 默认值 > 父 Agent 继承。文章提供可直接复制的只读分析/评审模板、tomllib 校验命令和排错清单,解决"写了 Agent 却不自动运行""模型为何不切换"等常见困惑,适合团队搭建多角色本地编码流水线。

链接:https://juejin.cn/post/7688528701483827241

  1. 别把 Claude Code 当聊天框:一套「确定性工程」落地手册
    作者基于一年多生产实践,针对上下文漂移、自我宽容、口头验收三堵墙,提出规则、分工、反馈三层护栏。规则层要求 CLAUDE.md 每条均可被 grep 或脚本判定,禁止条款优于"高质量"类倡导,超 200 行按领域拆分并用 globs 限定范围;分工层让 planner/coder/reviewer 在隔离上下文运行,reviewer 必须只读、用不同系列小模型、每条问题带行号加置信度且低于 70 分不输出;反馈层是真正的强制力——PostToolUse 钩子在 Write/Edit 后跑 typecheck,Stop 钩子跑验收脚本,退出码 2 拦截收工并把 stderr 反馈给 Agent,同一脚本同步进 CI。配合 MCP 只读、Bash 白名单最小授权和 Express 鉴权收口实战,把 AI 编码从靠模型发挥变为靠工程护栏兜底。

链接:https://juejin.cn/post/7688401878564077602

  1. Drawgent:把 coding agent 接到实时 Excalidraw 画布上
    Drawgent 是单个 Rust 二进制,内置 Excalidraw 编辑器与场景管理,默认监听 127.0.0.1:7300,支持 musl 静态构建和纯 server Docker 镜像。它不绑定专有模型,而是通过官方 ACP 适配器桥接用户本机已登录的 Claude Code、Codex 或 opencode,setup 子命令自动检查 CLI、登录、ACP 握手、MCP 工具注册和 headless Chrome。开发者在画布上写"AGENT:"注释或用激光笔圈选区域即可触发,agent 通过无头 Chrome 截图加场景 JSON 看懂画布,实时编辑后自检并把注释标记为 DONE,指令排队串行执行。还能以加密协作者身份(AES-GCM)加入 excalidraw.com 远程房间。边画架构图边让 agent 改图,从此是低门槛的本地工作流。

链接:https://tangled.org/yanndegat.tngl.sh/drawgent

  1. 用 Rust 写了一个行式 coding agent:静态二进制、可审计、可深度定制
    V2EX 用户分享的「llm」是静态链接 musl 构建的 Rust 二进制,无运行时依赖,scp 到老旧 CentOS 即可运行,状态全存于 ~/.llm。它刻意放弃 Codex 式整屏 TUI,采用 write-once 的行式 chat REPL,输出留在终端 scrollback,在 tmux、ssh、串口下行为一致。内置 38 家 provider(Anthropic/OpenAI/DeepSeek/Ollama/vLLM 等),支持管道输入、图片粘贴、会话中切模型;三层命令安全防护硬编码拒绝 sudo/dd/根目录 rm,黑名单支持 glob 和反向放行。扩展机制上,任意脚本加注释头即变工具,常驻扩展经 stdio JSON-RPC 可拦截改写工具调用,MCP、subagent、skills 均以扩展挂载,是内核极简、权限可控的 Claude Code 替代方案。

链接:https://www.v2ex.com/t/1244938

  1. 开源微信流:微信聊天记录一键转给 Codex,也能沉淀进 Obsidian
    WeChatBridge(微信流,约 792 star)是纯本地 macOS 工具(Swift 6,macOS 14+),利用微信"多选记录→合并转发"生成含 TXT、图片、视频 ZIP 的机制,通过 Share Extension 把转发菜单直接对接到 Codex、Claude、豆包、千问办公等 AI agent,自动附加场景提示词并粘贴归档;九个内置入口一键完成。同时可按聊天名生成 Markdown 笔记、保留原始附件沉淀进 Obsidian,支持按群聊保存场景提示词和管理 SKILL.md 技能包。隐私边界清晰:不读取也不解密微信数据库,Share Extension 沙盒运行且无网络权限。它把微信群聊中的决策、链接、文件零门槛接入 AI 工作流,解决了聊天数据导出难、喂给 agent 麻烦的痛点。

链接:https://juejin.cn/post/7688333234086150178

  1. Anthropic 官方 claude-code-action:把 Claude Code 嵌入 PR 与 issue 工作流
    这个约 9.1k star 的 TypeScript GitHub Action 让 Claude Code 在 PR 和 issue 上回答问题、审查代码并直接实现修改。它会智能检测触发方式:@claude 提及、issue 指派、显式 prompt 各对应不同执行模式,进度以动态勾选框评论实时呈现。Action 跑在用户自己的 runner 上,支持 Anthropic 直连 API key、工作负载身份联合,以及 Amazon Bedrock、Google Vertex AI、Microsoft Foundry 多种后端;prompt 与 claude_args 输入对齐 Claude Code SDK,支持结构化 JSON 输出。官方文档覆盖自动 PR 审查、外部贡献者审查、定时维护、issue 分诊、OWASP 安全审查、提交签名等完整方案,可用 /install-github-app 一键安装,是 CI 原生、可审计的 AI 协作入口。

链接:https://github.com/anthropics/claude-code-action

  1. Swift-Newt:基于 Apple Core AI 的端侧 Jev 风格决策包
    Newt 运行在 Apple 新 Core AI 框架上,让端侧 Qwen3-4B(约 2.1GB)完成多选(Choice)、分级(Score)和是非(Noul)决策,为每个选项给出概率,API 与 TypeSafe 的 Jev 完全对齐、可逐行迁移,支持 2–255 个选项。技术核心是评测框架标准的完整答案 log-prob 求和:固定 prompt 下累加选项 token 加结束符的对数概率再归一化,M3 Pro 上热请求约 435ms,无效问题在调用模型前直接抛错。返回 probabilities、confidence、coverage 等字段;作者诚实标注概率未经校准、应视为排序而非阈值,模糊样本上提示词措辞会翻转结果。需要 macOS 27/Xcode 27,为 Swift 开发者提供离线、隐私安全、低延迟的意图分类与结构化决策组件。

    链接:https://github.com/willswire/swift-newt


数据来源:TheAIEra News Hub
生成时间:2026-09-27 09:05:00

posted @ 2026-09-27 09:03  iTech  阅读(56)  评论(0)    收藏  举报