AI 技术日报 - 2026-10-21

AI 技术日报 - 2026-10-21

Top 10 AI 技术要闻

  1. DeepSeek 开源内部推理框架 DeepInfer：单集群日服务 155 万亿 Token
    DeepSeek 把支撑其线上服务的自研推理框架 DeepInfer 全面开源。官方数据显示单集群一天可服务 155 万亿 Token：平均每请求输入 77K Token，首字延迟约 400ms，生成阶段 230 Token/s、写代码场景可达 300。架构核心是 PD 分离——8 卡机做 Prefill、64 至 128 卡超节点做 Decode，最小部署单元 64+64 卡；KV 缓存放入约 100PiB 的 3FS 全闪集群，命中率 96%，Prefill 吞吐因此从 6 万 Token/s 提升到 150 万 Token/s。SWA 有界重放只重算 128 个 Token 而非整个窗口，使 Prefill 计算量近乎减半；DSpark 投机解码按置信度调度验证长度。配套开源的 deepseek-recipe 统一了 OpenAI Chat Completions、Responses 与 Anthropic Messages 三种 API 格式，后端支持 NVIDIA SM100 与昇腾 950。

链接：https://github.com/deepseek-ai/DeepInfer

  1. 谷歌开源 TorchTPU：TPU 上的原生 PyTorch 后端
    谷歌把面向 TPU 的原生 PyTorch 后端 TorchTPU 开源。它不是简单的适配层，而是为 TPU 实现了一套 PyTorch ATen 算子内核，并加上 XLA 计算的编译缓存，避免每次运行都重新编译计算图。功能上支持数据并行与张量并行分布式训练、torch.compile 图模式执行，并提供 Llama、Qwen、ResNet、DLRM、minGPT、UNet 等模型示例；配套 marimo notebook 可在 v6e TPU VM 上直接跑通。安装走 pip 的 torch-tpu 0.2.0，要求 Python 3.11 以上。对长期被 CUDA 生态锁定的 PyTorch 用户来说，这是把训练代码迁到 TPU 摩擦最低的一条路径，也让 TPU 与 GPU 的算力比价第一次有了实际可比的基础。

链接：https://github.com/google-pytorch/torch_tpu

  1. Claude 新模型曝光：被内部测试者称为「重大飞跃」，能治标又治本
    据 The Information 报道，Anthropic 内部测试者形容新一代 Claude 是一次重大飞跃：推理与直觉更强，尤其擅长判断用户的潜在意图。典型表现是让它修一个 bug，它会识别出导致该 bug 的一整类问题并询问是否一并修复，而不是只打补丁；面对投资建议这类问题，它也不再复述市盈率等常识，而会尝试自建算法预测走势。同一时间谷歌在测 Gemini 4 的 Argon、Barium、Carbon 三个代号版本，Carbon 在编程与视觉理解上更强（受益于 YouTube 数据训练），员工反馈「与 Opus 5.5 相当」，有人暗示用上了递归自我改进。OpenAI 侧则被曝 GPT-6.1 Terra 已出现在 Copilot 代码里，并在 COBOL/FORTRAN 迁移测试上把准确率从 5.4% 拉到 97.9%。

链接：https://www.qbitai.com/2026/10/504314.html

  1. MiniMax M3.1 Flash 发布：输出 200+ TPS，Agent 成本降 70%
    匿名模型 Space Bunny 正式认领为 MiniMax M3.1 Flash，定位 Coding/Agent 优化的轻量模型，100 万 Token 上下文。定价输入 1 元/百万 Token、输出 4 元、缓存读取 0.1 元，官方称 Agent 类任务综合成本比前代降 70%。基准上 Agents' Last Exam 通过率 29.6%、成本 739 元，处在低成本高通过率前沿；Automation-Bench 62.2 分反超 DeepSeek V4.1 Flash 的 60.5，DeepSWE 73.7 分仅比 Opus 5 低 0.3 分，SWE-Refore 23.0 分是 DeepSeek 的两倍以上；BankerToolBench 76.2 与 Opus 5 并列第一。匿名期它已在 OpenCode 调用榜排第二、OpenRouter 一度登顶，与 DeepSeek 形成国产 Flash 档的双强格局。

链接：https://www.36kr.com/p/4032947936662665

  1. Chrome DevTools MCP 正式可用：AI 终于能自己开浏览器调试页面
    Chrome 团队把 chrome-devtools-mcp 做成正式可用的 MCP 服务器，让 Claude、Cursor、Copilot、Antigravity 这类编码 Agent 直接控制和检查一个真实的 Chrome 实例。能力分三块：录制 trace 并提取可执行的性能洞察；分析网络请求、截图、读取控制台消息（带 source map 堆栈）；基于 Puppeteer 的可靠自动化，动作之后会等待结果而不是盲等。除 MCP 之外还提供 CLI，方便没有 MCP 客户端的场景。它的意义是把「改完代码自己开浏览器验证」这一步交给 Agent 闭环——前端 bug 不再需要人肉复现、截图、贴日志。官方也提示浏览器内容会暴露给 MCP 客户端，敏感数据需谨慎对待。

链接：https://juejin.cn/post/7697615256114937898

  1. What the Harness：MCP 客户端「双重载荷」实测，多数实现会重复喂数据
    Polytomic 上线独立实测站 What the Harness，用探针任务横向比对各家 Agent 外壳对 MCP 协议细节的处理。第一个测试针对双重载荷：当 MCP 工具同时返回 text 与 structuredContent 时，外壳应该只把一份数据交给模型，否则会重复消耗 token。探针在两个字段里埋入不同随机标记，再问 Agent 实际看到了什么。结果 Amp CLI 正确只透传结构化输出，而 Amp via Orb、ChatGPT Desktop（云端与本地定时任务）、多个 Codex MCP 客户端版本都出现重复输出；纯文本或纯结构化单独返回时各家均正常。站点采用「Agent 测试、人工复核」的方式公开每次运行记录与证据，为 MCP 生态补上一份长期缺失的兼容性对照表。

链接：https://what-the-harness.polytomic.com

  1. 机器人检测系统对 AI Agent 的拦截能力实测：检出率从 9% 到 99%
    Proof of Human 复测了主流机器人检测系统对现代 AI Agent 的拦截能力，结论是检出率极度分化。测试用一份五题问卷（选择题加开放题），五类对手各执行 20 次，每个系统取 89 至 100 个有效会话；参测系统包括 Proof of Human、reCAPTCHA v3、hCaptcha、Cloudflare Turnstile 与 Cloudflare Bot Management，对手覆盖传统自动化、隐身浏览器，以及能读页面、做规划的 AI 浏览 Agent。相比一年前 33%–87% 的区间，如今上端更高、下端更低：同时使用行为信号与设备信号的系统仍然最稳，只靠设备指纹的在高能力 Agent 面前几乎失效。对做风控的和做 Agent 抓取的两边，这份数据都是直接的成本参数。

链接：https://research.poh.org/bot-benchmarking-2026/

  1. Modula-9：一门为「AI 写的代码必须被相信」而设计的语言
    Modula-9（M9）是 Wirth 家族的新语言，目标很明确：写必须被相信的代码，尤其是 AI Agent 写出来的代码。它没有任何隐式类型转换，把 F64 赋给 I64 直接编译失败；类型、失败模式、副作用与线程安全都写在定义模块里，由编译器强制检查且无法关闭；每条语言规则都对应一个真实 bug，文档里直接标注「本特性让该 bug 无法编译」。作者称 M9 本身就是在一个受审查的 Agent 参与下写成，其自举编译可产出逐字节一致的二进制，Mandelbrot 性能与 C 相当、可执行文件仅 26KB，运行时检查开销约 3%。对苦于审查 AI 生成代码的团队，这是把约束前置到语言层的一条思路。

链接：https://www.modula9.net

  1. Flyte Devbox 支持 Apple Silicon GPU：代码真的跑在 Mac 的 Metal 上
    Union.ai 给 Flyte Devbox 加上 Apple Silicon GPU 支持：任务里写 gpu="AppleSilicon"、启动时加 --apple-silicon，代码就会真正跑在 Mac 的 Metal GPU 上，torch.device("mps") 与 MLX 像在集群上用 cuda 一样工作。实现上他们没有把 GPU 透传进容器——Linux 虚拟机里根本没有 Metal——而是反过来：工作负载代码原生跑在宿主机，容器退化成代理，Flyte 入口把调用交给宿主机上的 bridge，由 bridge 依据镜像的 pip 依赖用 uv 构建缓存的 macOS 环境。这样本地就能做模型服务与可持久化训练，不必为了碰一次 GPU 先上云。对在 Mac 上迭代、再迁到集群的团队，这补上了 devbox 一直缺的那块。

链接：https://www.union.ai/blog-post/your-code-on-the-apple-silicon-gpu-apple-silicon-flyte-devbox

  1. 商汤日均 6 万亿 Token 背后的推理工程：异构集群上的 PD 分离
    商汤大装置 CTO 宣善明在 CSDI Summit 上给出判断：Agent 化之后 Token 需求是千倍级增长，而高端芯片供给受限，AI 基础设施的竞争从「有多少算力」转向「能稳定产出多少高质量 Token」。其做法是 PD 分离加异构混合调度：计算密集的 Prefill 交给适配的国产算力，需要持续读 KV 缓存的 Decode 交给高带宽 GPU，中间靠 KV Cache 传输连接；临港 AIDC 已建成万卡级异构集群，同一集群融合 800G/400G/200G 网络。工程细节上，部分配置需要 30 至 50 个中低阶 Prefill 节点才能匹配一个 Decode 节点，为此他们在 Prefill 池预留高端算力补位，并让节点具备 Prefill/Decode 角色动态切换能力。

链接：https://www.qbitai.com/2026/10/504188.html

数据来源：TheAIEra News Hub
生成时间：2026-10-21 08:20:00

posted @ 2026-10-21 08:07  iTech  阅读(26)  评论(0)    收藏  举报