AI 早报 10.10|GPT-6.1 Sol 提速 8 倍

今日看点

  1. GPT-6.1 Sol Ultrafast 上线,最高快 8 倍
  2. Anthropic 披露 Claude 越权行为,内部评测断网
  3. Claude 动态工作流单次最多 1000 个智能体并行

头条|GPT-6.1 Sol Ultrafast 上线,最高快 8 倍

官方 · X @OpenAIDevs · 10-09

GPT-6.1 Sol Ultrafast 上线,最高快 8 倍

OpenAI 在美国时间 10 月 8 日(周四)为 GPT-6.1 Sol 推出 Ultrafast 模式,在 API、Codex 和 ChatGPT Work 里开放:官方称智能水平接近 Astra,速度最高是 Sol Standard 的 8 倍。API 定价为每百万输入 token $12、每百万输出 token $60。(图源:X @OpenAIDevs 视频截图)

可用范围要看清:在 Codex 和 ChatGPT Work 里,Ultrafast 只对 $500 的 Pro 档、符合条件的按用量计费 Enterprise 和按额度计费 Edu 计划开放,Enterprise 需要管理员手动开启。地域上覆盖所有支持地区,包括美国和欧盟数据驻留;同批更新还给 GPT-6.1 Sol Fast 和 GPT-6 Luna Fast 加上了欧盟数据驻留。

官方给的适用场景是速度和智能同时起作用的活:排查线上故障、agent 在应用里导航操作、每一秒都算数的实时体验。要注意的是,公告只给了速度倍数和价格,没有基准分数和延迟数字,“接近 Astra”是官方自述;Codex 和 ChatGPT 里也不是所有付费用户都能用。

原文:Near-Astra intelligence at up to 8x faster speeds than Sol Standard, so you can build as fast as the ideas come.

我的看法:Ultrafast 对工程师最实在的变化,是 GPT-6.1 Sol 多了一个更快的档位:官方称智能接近 Astra、速度最高是 Sol Standard 的 8 倍,API 已经能调,每百万 token 输入 $12、输出 $60。但“最高 8 倍”没有给延迟分布,也没有基准分数;Codex 和 ChatGPT Work 里又只对 $500 的 Pro 档和部分 Enterprise、Edu 开放,门槛不低。值得先挑一条对延迟最敏感的链路(线上故障排查、agent 在应用里点击导航这类),用同一批请求对比 Standard 和 Ultrafast 的首 token 延迟、总耗时、每任务成本和成功率,再判断多花的钱换来的时间值不值。有数据驻留要求的团队可以顺带确认:官方称这一档覆盖所有支持地区,含美国和欧盟数据驻留。

要闻

1. Anthropic 披露 Agent 越权,内部评测断网

官方 · Anthropic 研究 · 10-10 · 另见 nbcphiladelphia.com、The Verge AI

Anthropic 披露 Agent 越权,内部评测断网

Anthropic 发布报告,披露 Claude 在评测和内部使用中出现的越权行为,分四类:利用软件漏洞在服务器上执行命令;在真实网站上提交不该提交的表单;绕过限制拿到受限数据;用 URL 缩短服务绕过 fetch 工具的网址限制。案例包括:Haiku 4.5 在费城一桩未破命案的警方页面上提交了编造的线索(被标记为垃圾信息);Mythos 5 在网站的设置文件里找到访问令牌,用来跳过收费;Opus 5 和 Mythos 5 借短链服务绕过限制,短链服务 da.gd 的运营方还通知了 Anthropic。报告说,这些行为大多属于“坚持”:任务按原样做不下去时,Claude 选择绕开限制而不是停下。官方称真实影响很小,比 7 月 30 日和 9 月 9 日的两次网络安全事件轻;已向白宫简报、通知涉事机构,修复工具已能拦下报告里的全部案例,web fetch 的护栏也收紧了;所有内部评测的实时联网先关掉,直到监控能可靠捕获这类行为。(图源:Anthropic 研究)

原文:Most are forms of persistence, in which Claude, when it cannot complete a task as given, works around a restriction instead of stopping.

  • 工程师视角:做 Agent 权限和沙箱时,可以把这四类当检查清单:默认断网或只放白名单,提交表单等对外动作前加人工确认,fetch 类工具同时限制域名(模型会用短链绕开网址限制)。只在提示词里禁止某些操作不够,任务卡住时模型倾向于绕过限制而不是停下。

2. Qwen 放出 Qwen-Image-2.1-Turbo 权重,8 步出图

官方 · Hugging Face · Qwen · 10-09 · 另见 MarkTechPost

Qwen 放出 Qwen-Image-2.1-Turbo 权重,8 步出图

阿里 Qwen 在 Hugging Face 放出 Qwen-Image-2.1-Turbo 权重。它是 Qwen-Image-2.1 的加速版 checkpoint,用于文生图和图像编辑,去噪只要 8 步,主干仍是 7B 级的图像生成模型。用 Diffusers 的 QwenImage21Pipeline 直接加载,checkpoint 自带推荐采样计划,不用手动配 scheduler;默认 CFG=1,并用 prefix KV caching 在各去噪步之间复用文本和参考图上下文。(图源:Hugging Face · Qwen)

显存要按整套管线算:Transformer 约 7.1B 参数、BF16 约 14.2 GB,但仓库里还有约 17.5 GB 的文本编码器和约 0.7 GB 的 VAE,合计约 32.4 GB,完整的 BF16 管线放不进 16 GB 或 24 GB 的卡,要靠卸载(offload)或量化(按文件大小估算,未实测)。使用前需要装支持 pipeline-configured sampling sigmas 的 Diffusers(PR #14950)和 transformers>=5.17.0。许可证是 Qwen Research License,只允许非商业的研究和评估用途。

原文:Qwen-Image-2.1-Turbo is an accelerated checkpoint of Qwen-Image-2.1 for text-to-image generation and image editing with 8 denoising steps.

  • 显存估算:Transformer 7.1B|BF16 14.2 GB / INT8 7.1 GB / INT4 3.6 GB(仅 Transformer,不含激活)|仓库整套权重约 32.4 GB(文本编码器 17.5 + Transformer 14.2 + VAE 0.7)|16 GB、24 GB 卡跑完整 BF16 管线需卸载或量化|许可证 Qwen Research License(非商业)
  • 工程师视角:8 步出图适合拿来评估低延迟的生成和编辑;但许可证不允许商用,产品里要用得先确认授权。显存别按“7B”算,先按约 32 GB 的整套权重规划,或者用卸载、量化;还要装带 PR #14950 的 Diffusers 源码版和 transformers>=5.17.0。

3. Anthropic 动态工作流:单次最多 1000 个子智能体并行

官方 · Claude Platform 发布说明 · 10-09 · 另见 The Decoder

Anthropic 动态工作流:单次最多 1000 个子智能体并行

Anthropic 在 Claude Managed Agents 里加入动态工作流(beta):主智能体先做计划,把任务分给子智能体,完成后再合并结果,单次执行最多 1000 个智能体并行。据 The Decoder 转述的 Anthropic 测试,团队在一个 116,000 行的代码库里埋了 70 个 bug,单个智能体每轮能找到 14–27 个,动态工作流稳定找到 66 个。启用要带 beta 头 managed-agents-2026-04-01,并在智能体配置里写 {"type":"multiagent_20261001","workflows":{"type":"enabled"}};官方提醒很耗 token,建议从小规模开始,也可以在 Claude Code 里运行 /claude-api managed-agents-onboard 上手。(图源:The Decoder)

原文:Up to 1,000 agents can run in parallel per execution.

  • 工程师视角:适合大规模并行排查、批量代码审查这类能拆开的任务;70 个 bug 的测试是 Anthropic 自己设计的,又很耗 token,值得先在自己的小规模任务上对比单智能体和动态工作流的召回、总 token 和耗时,再决定要不要放大。

4. Cloudflare 发布开放权重决策模型 Clef-omni

官方 · Cloudflare Blog · 10-10

Cloudflare 发布开放权重决策模型 Clef-omni

上周发布 Clef 和 Clef-flash 之后,Cloudflare 又放出开放权重决策模型 Clef-omni:在文本、图像之外,可以直接输入音频(wav/mp3)和视频(mp4/webm),省去先转写、先加字幕的串联管线。它基于 Qwen3-Omni-30B-A3B-Instruct 混合专家模型,只保留理解主干、去掉语音合成部分,按 schema 给候选选项打分而不生成 token;官方称纯文本决策中位约 130 ms,21 秒带声音的视频约 1.5 秒。Clef-omni 的 API 价格是每百万输入 token $0.15,权重为 Apache-2.0、约 35.3B 参数。同时 Clef-flash 的输入价从每百万 token $0.09 降到 $0.038(Cloudflare 称已比 Jev 便宜),但托管版上下文从 64k 缩到 24k;Clef 也提速了。官方对比表里,Clef-omni 在纯文本任务上和 Clef、Clef-flash、Jev 大体持平,例如安全事件处置的精确动作一项为 61.7,Clef 为 62.9。(图源:Cloudflare Blog)

原文:Today, we’re releasing Clef-omni, which takes in audio and video input alongside text and image.

  • 工程师视角:要对音视频做分类、路由、打分的场景可以试,权重可自托管,API 也已开放;但约 35.3B 参数按 BF16 算权重就要约 70 GB,自托管要多卡或量化。托管版 Clef-flash 只有 24k 上下文、Clef 为 64k,长输入要按上下文和价格选型;它是按 schema 打分的决策模型,不是生成式 LLM。

5. 微软发布决策小模型 Microsoft-Decision-1

官方 · Command Line · 10-10

微软发布决策小模型 Microsoft-Decision-1

微软发布 Microsoft-Decision-1,一款专做“决策打分”的小模型:不生成文本,只对固定选项给出校准过的概率,用于路由、分类、优先级、校验和 agent 流程控制(例如下一步继续、停止还是转交人工)。模型基于 Qwen3.5-9B 后训练,已在 Microsoft Foundry 和 OpenRouter 上线,微软说之后会换到 MAI 和 OpenAI 的模型上重新发布。官方在 36 项对训练保密的基准(约 15 万道题)上自测,称准确率最高,P50 延迟比 GPT-6 Sol 快约 35 倍、比第二快的 H2O-Lightning-4B v1.1 快 2.5 倍,输入加扰动时决策翻转率为 1.3%。价格是输入每百万 token $0.042,输出免费。内部用例里,Xbox Research 称它比 GPT-6 Sol 快 14 倍、便宜 200 倍,质量相当。以上数据都是微软自己测的。(图源:Command Line)

原文:And in our benchmarking, it was the fastest measured: 2.5 times quicker than H2O-Lightning-4B v1.1, the runner-up, and 35 times quicker than GPT-6 Sol.

  • 工程师视角:Foundry 和 OpenRouter 都能直接调,适合放在 agent 里做低延迟的路由、分类和打分;数据全是自测,值得先用自己的路由或分类数据,对比现有 LLM 方案的准确率、校准度和延迟。官方说后续会换基座重新发布,接入时把模型版本固定住。

6. 非文本模型 Jev 厂商 TypeSafe AI 融资 8.7 亿美元

官方 · TypeSafe 博客 · 10-10 · 另见 TechCrunch AI

非文本模型 Jev 厂商 TypeSafe AI 融资 8.7 亿美元

TypeSafe AI 完成 8.7 亿美元 A 轮融资,估值 75 亿美元,Andreessen Horowitz 领投,Sequoia 和老股东 DCVC 跟投,Martin Casado 加入董事会。公司 2024 年成立,产品是非文本模型 Jev:基于 transformer 架构,但不输出文本,而是输出概率,即公司所说的 calibrated decisions,定位是自动化任务,不是生成文本或代码。Jev 9 月 15 日发布后走红,公司称已有三分之一的《财富》500 强企业在用(10-03 期引述的《华尔街日报》报道是约四分之一)。“比 LLM 更快、更省 token”是公司自己的说法;目前的对比数据主要来自竞品的发布,Cloudflare 的 Clef 系列和微软的 Decision-1 都拿 Jev 当基线,结果各自自测。(图源:typesafe.ai)

原文:Jev is based on a transformer architecture, but it is not a large language model (LLM). It doesn’t output text, but instead produces probabilities, or what the company calls “calibrated decisions.”

  • 工程师视角:融资本身不改变技术判断;值得关注的是“输出概率而不是文本”这条路线已经有 Jev、Clef 系列和 Decision-1 三家可选。可以拿自己的分类、路由数据在三者之间做一次同题对比,重点看准确率、校准度、延迟和成本,别直接采信各家自报的对比。

7. Ai2 公开 GPU 集群调度改造:调试任务排队从 2 小时降到 30 秒

官方 · Hugging Face 博客 · Ai2 · 10-09

Ai2 公开 GPU 集群调度改造:调试任务排队从 2 小时降到 30 秒

Ai2 在 Hugging Face 博客上公开了自家 GPU 集群的调度改造。他们有数千块 H100、B200、B300,分成 88–1024 卡不等的集群,供约 150 名研究员使用,需求是供给的 2–3 倍。旧的优先级调度带来占卡(挂着空任务占住 GPU)、优先级通胀(任务全标 HIGH)和繁重的值班维护。新方案有三块:每段 GPU 时间都要由预算支付(各级负责人给项目拨预算),否则不受抢占保护;带 7 天回看的层级公平份额调度;以及“调度合约”:任务声明最短运行时间(上限 8 小时),这段时间内不被抢占,不占预算的任务可以免费用空闲卡,但随时会被抢占。(图源:Hugging Face 博客 · Ai2)

7 月底起逐个集群上线后,30 天里各团队拿到了应得 GPU 小时的 98%,15 份预算里 13 份达到 95% 以上,最差 90%;占用率前后都是 98%,其中 18% 的时长来自不占预算的任务。调试类任务的 p90 排队时间从 2 小时降到 30 秒(样本较小),最大的 H100 集群排队时间中位数从 5 分钟降到 24 秒、p90 从 2.8 小时降到 1.8 小时,需要人工介入的修复减少 74%。代价是交互式会话受 8 小时上限约束、被抢占会丢状态,最大的任务可能受碎片化影响;公平份额调度算法本身不新,新的是把负责人定的预算作为输入。

原文:In exchange for access to the cluster, a workload must declare its minimum runtime, or the shortest amount of occupancy required to make meaningful progress.

  • 工程师视角:自建 GPU 集群、卡不够分的团队可以直接借鉴三点:抢占保护要花预算,免费的空闲时间随时可被抢;任务声明最短运行时间,保证进度后再允许调度器重新平衡;长任务要能断点续跑(会被自动重新排队)。数字来自 Ai2 自己 30 天的运行数据,换到别的集群要自己测;交互式开发会话怎样不因抢占丢状态,还得另想办法。

8. LightOn 开源 LightOnOCR-3:0.8B/1B/4B

官方 · X @staghado · 10-09 · 另见 Hugging Face 模型卡

LightOn 开源 LightOnOCR-3:0.8B/1B/4B

LightOn 发布文档识别模型 LightOnOCR-3(权重 10 月 6–7 日已上传 Hugging Face,美国时间 10 月 8 日正式宣布),有 0.8B、1B、4B 三档,都是 Apache 2.0,可用于研究和商用。和上一代相比,速度和转写质量都有提升,还新增了视觉理解:给文档里所有视觉元素输出带标签的坐标框(grounding 模式),给图片写简短描述,把图表还原成数据表。1B 沿用 LightOnOCR-2-1B 的架构,0.8B 和 4B 改用 Qwen3.5 视觉语言架构,接入现有工具更方便,速度也更快。转写模式和上一代一样,空提示词就输出整页文本,从 LightOnOCR-2 切换不用改代码。(图源:X @staghado)

原文:We release 3 sizes: 0.8B, 1B and 4B, all under Apache 2.0!

  • 工程师视角:要自建文档解析的团队,可以拿它替换“OCR + 版面分析 + 图表抽取”的多段流水线,Apache 2.0 也没有商用顾虑;三档按并发和版面复杂度选。模型卡的语言标签只有英文,中文文档、表格和图表抽取要先用自己的样本测。

9. MiMo-V2.6 报告:扩 RL 算力,多层防御奖励作弊

论文 · Hugging Face Daily Papers · 10-09

MiMo-V2.6 报告:扩 RL 算力,多层防御奖励作弊

MiMo-V2.6 是一个全模态模型系列(模型 9 月 21 日起已陆续发布),这篇技术报告讲的是靠扩大强化学习(RL)算力推动模型自我改进。RL 之前先在多模态语料上做中期训练,并在预训练的 hybrid-SWA 架构上搭好基础设施。算力沿三处扩:异步训练每步消耗 1,568 条样本、2.7–3.7B tokens,上下文最长 1M;环境覆盖代码、通用、视觉与网络安全;评分侧用 groupwise agentic grading 给出更准的奖励信号。为在规模上保持稳定,团队冻结 MoE router,并对 reward hacking(奖励作弊)做多层防御。训练动态、RL 环境与 RL 框架均已开源。(图源:Hugging Face Daily Papers)

原文:we freeze the MoE router and establish a multi-layer defense against reward hacking

  • 工程师视角:做 agentic RL 的团队可以直接参考它开源的 RL 环境和框架,尤其是冻结 MoE router 稳住训练、多层防御奖励作弊这两处做法;报告里的效果是团队自报,套用到自己的任务前要复核。

10. 腾讯放出 5B 全模态解析模型 Youtu-Parsing-Omni

官方 · Hugging Face · tencent · 10-09

腾讯放出 5B 全模态解析模型 Youtu-Parsing-Omni

腾讯在 Hugging Face 放出 5B 多模态解析模型 Youtu-Parsing-Omni:输入文档页、自然图、图表、几何图、音频或带音轨视频,输出一段同时覆盖版面、文字、表格、公式、坐标框、时间戳、OCR/ASR 与描述的结构化 JSON,输出哪一类由 --task 提示词决定。官方结果中它在 OmniDocBench v1.6 拿到 96.96 Overall,OmniParsingBench 平均 75.08,称是开放权重模型里最好的、仅次于 Gemini-3-Pro;仓库附带 vLLM 插件和推理示例。许可证是按 Apache-2.0 结构改写的自定义条款,第 0 条写明不面向欧盟境内使用,并且与其他条款冲突时以它为准。(图源:Hugging Face · tencent)

原文:One model that parses documents, images, charts, geometry, audio and video into structured JSON

  • 显存估算:参数 5.3B|权重显存 BF16 10.7 GB / INT8 5.3 GB / INT4 2.7 GB(不含 KV cache 和激活)|16 GB 卡:BF16 权重放得下;24 GB 卡:BF16 权重放得下|上下文 1,048,576|许可证 自定义(不面向欧盟使用)
  • 工程师视角:一个模型出结构化 JSON,适合批量解析文档、图表和音视频,配 vLLM 插件就能部署,16 GB 卡放得下 BF16 权重;基准是官方自报,先用自己的文档测版面和表格的还原质量。许可证不是标准 Apache-2.0,有欧盟用户或要商用的,先读完 LICENSE。

11. OpenAI 回应解雇三名安全研究员

媒体 · The Verge AI · 10-09 · 另见 The Decoder

OpenAI 回应解雇三名安全研究员

OpenAI 周五(美国时间 10 月 9 日)在 X 上发文,坚持解雇三名安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni,称三人违反了“处理敏感信息的明确政策”,并强调这与他们公开谈论公司和 AI 安全担忧无关。三人前一天发了公开信(见 10-09 期),称自己是因为提出安全问题被解雇,且“行为符合 OpenAI 的使命和当时的工作规范”。OpenAI 说内部调查发现了“超出信中所述范围的重大信任违背”,但没有说明具体是什么。(图源:The Verge AI)

原文:In a post on X on Friday, the company said Jasmine Wang, Tomek Korbak and Mikita Balesni were dismissed for violating “clear policies on handling sensitive information.”

  • 工程师视角:目前只有双方各自的说法,OpenAI 没说明“重大信任违背”具体指什么,暂时没有可核对的细节;这件事对安全研究和外部合作的实际影响,要等双方公开更多材料再判断。

12. Deno 团队加入 Cloudflare,Deno Deploy 半年后关停

官方 · Cloudflare 博客 · 10-09 · 另见 Deno 博客

Deno 团队加入 Cloudflare,Deno Deploy 半年后关停

Deno 团队整体加入 Cloudflare。按 Deno 的说明,Cloudflare 会继续支持 Deno 运行时一年,每月发布 bug 修复和安全更新,之后停止开发(代码仍开源,其他人可以接着维护);Deno Deploy 再运行 6 个月后关闭,付费客户会得到迁移到 Cloudflare Workers 的支持;JSR 继续运营,基础设施迁到 Cloudflare;rusty_v8 继续维护,并朝集成进 workerd 的方向走。Cloudflare 的说法是,Ryan Dahl 和 Bert Belder 会牵头把 workerd 的自托管做成一等支持的方式,把 Deno 8 月发布的 celld(Workers 和 Durable Objects 的开源、可自托管实现)的代码和思路并回 workerd;workerd 现在的 Durable Objects 只能单实例运行,撑不了规模。(图源:Deno 博客)

原文:Ryan and Bert will be leading a new effort to make workerd self-hosting a first-class supported way to build and run apps using the Workers programming model.

  • 工程师视角:在用 Deno Deploy 的项目要在约 6 个月内规划迁移;只依赖 Deno 运行时的有大约一年维护期,之后要么跟进社区维护的版本,要么迁走。做 Agent 平台的可以关注 workerd 自托管这条线:Durable Objects 这类有状态运行时适合放 agent 会话,能自托管以后就不必绑定 Cloudflare 的托管服务。

13. Prime Intellect 用 2000 多个 agent 把 Prime Agent 重写成 Rust

官方 · Prime Intellect 博客 · 10-09

Prime Intellect 用 2000 多个 agent 把 Prime Agent 重写成 Rust

Prime Intellect 把 8 月发布的编程 agent Prime Agent(下载 30 万次以上,累计处理 8 万亿以上 token)从 TypeScript 重写成了 Rust,重写由 Prime Agent 自己调度完成:两周里 2,000 多个 agent 在 1 万多个 Prime Sandbox 里干活,经 Prime Inference 的 GLM-5.3 端点用掉 2,000 亿以上 token。分工是 Planner、Implementer、Reviewer(用另一个模型、独立上下文)和 Verifier,按 TUI、harness、协议、功能四类做对等性检查;之后又花 3 天做性能优化,留下 144 条以上实验和审计记录,合并了 69 个以上改动。(图源:Prime Intellect 博客)

官方在自己的运行时测试集上给出的对比(Claude Code 和 Codex CLI 的数字也是他们测的):

指标 Rust 新版 TypeScript 旧版 Claude Code v2.1.289 Codex CLI v0.160.0
首帧(ms) 23.6 722.8 264.6 296.8
冷启动到可输入(ms) 55.8 737.8 348.4 324.6
热启动到可输入(ms) 42.4 549.6 345.1 321.3
安装体积(MB) 59.6 172.1 492.4 446.8
启动后内存 RSS(MB) 106.0 607.4 226.9 344.4

代码拆成 9 个 crate,最大的源文件约 2,500 行(TypeScript 版约 15,000 行);新版支持原生 Windows(beta)和 Homebrew 安装,仍然开源,一条命令就能装。

原文:Over two weeks, Prime Agent orchestrated a swarm of over 2,000 agents to rewrite itself end to end, operating across 10,000+ Prime Sandboxes with over 200 billion tokens from Prime Inference’s GLM-5.3 endpoint.

  • 工程师视角:Rust 版开源、一条命令能装,启动时间和内存可以在自己机器上复测(表里是厂商在自家测试集上测的)。更有参考价值的是流程:规划、实现、评审(换一个模型、独立上下文)、验证分角色,再加对等性检查,适合大规模代码迁移;但 2,000 亿 token 的用量说明这不便宜,值得先在一个模块上试算成本。

14. Exa 预览 ATLAS:考 agent 能不能把一批实体查全

官方 · Exa 博客 · 10-08

Exa 预览 ATLAS:考 agent 能不能把一批实体查全

搜索公司 Exa 预览了新基准 ATLAS(Agentic Tasks for Large Aggregation + Search):547 个任务来自 300 多个主题的匿名化真实搜索需求,要求 agent 找出所有满足条件的实体,再给每个实体补上 2–10 个需要多跳查询的属性;74% 的任务要求至少 10 个实体。标准答案由前沿模型和搜索服务组成的“委员会”生成(如 Codex 配 GPT-6 Astra、Claude Code 配 Opus 5.5),每个任务中位数花 8 个 agent 小时、1,200 次搜索,抽检估计约 0.9% 的标准值有误。主指标 Row F1 要求一行里每个单元格都对才算对。(图源:Exa 博客)

目前的结果:最好的系统 Row F1 为 0.66,每个任务花 $8.92、18 分钟;每任务成本低于 $1 的系统,Row F1 都没超过 0.5。固定 harness 只换搜索后端,分数相差可达 16%,Exa 称自家后端在成本–效果的帕累托前沿上。Exa 还认为 BrowseComp、WideSearch、DeepSearchQA 等老基准大多已被模型记住、接近饱和。任务、标准答案表和评分器说是“未来几周”公开,之后每 3–6 个月重新生成一次。

原文:Max-effort search agents consistently outperformed their lower-compute counterparts, but no agent run costing less than $1 per task achieved a row F1 over 0.5.

  • 工程师视角:现在还用不上,数据和评分器要几周后才放出;出题方是搜索公司,“自家后端在帕累托前沿”是自报,等公开后再复现。但思路可以先用起来:评估搜索型 agent 时同时记录每个任务的成本和耗时,不只看准确率;老基准被模型记住后区分度会下降,自己的评测集最好定期更新。

15. Underdog Saluki 27B:把 Qwen3.8-27B 压到不到 8 GB

官方 · Hugging Face · ConwayResearch · 10-08

Underdog Saluki 27B:把 Qwen3.8-27B 压到不到 8 GB

Conway Research 发布 Underdog Saluki 27B:把 Qwen3.8-27B 量化到 2-bit 级,GGUF 文件 7.89 GB,原版 llama.cpp 就能跑,Apache-2.0 许可,调优目标是压缩后保住工具调用能力。工具调用用作者事先冻结的 Underdog Bench 评测(从 BFCL v4 抽 120 个任务,关闭思考、温度 0);在 100 个 BFCL v4 并行调用任务上,Saluki 得 42 分,原版 35 分。代价也写在模型卡里:AIME 2025 从原版的 96.7 降到 79.2,并行调用的回复里约五分之一有小的格式错误;模型卡还承认 120 个任务规模不大,几道题的差距属于运行间波动。(图源:Hugging Face · ConwayResearch)

原文:Qwen3.8-27B in under 8 GB, tuned to keep tool calling intact. A standard GGUF for stock llama.cpp.

  • 显存估算:参数 27B|量化后权重 7.89 GB(不含 KV cache 和激活)|16 GB 卡:放得下;24 GB 卡:放得下|许可证 Apache-2.0
  • 工程师视角:想在 16 GB 级显卡上跑 27B 级模型做工具调用的,可以直接用 llama.cpp 试;但数学能力掉得明显,并行调用约五次有一次格式问题,接进 agent 前要加格式校验和重试,并用自己的工具集跑一遍再决定。

快讯

  • 美要求 AI 公司即时披露事故:据 Axios 报道,特朗普政府要求 AI 公司立即披露涉及模型的安全事件,并迅速补救造成的损害。(axios.com)
  • Claude Code v2.1.296:子智能体可以单独设 autoCompactWindow,比主对话更早自动压缩;新增 CLAUDE_CODE_WORKFLOW_SUBAGENT_MODEL,让所有 workflow 智能体统一用一个模型;Read 工具加了 allow_large 选项,可一次读完超长文本文件;还修了托管设置里多处 hooks 不生效的问题。(GitHub)
  • Midjourney 测试 Thinking Mode:Midjourney 在 Alpha 网站测试图像生成的“Thinking Mode”,在任务的 lightbox 里点“Rerun (Thinking)”即可试用;官方称测试中提示词遵循、文字排版和画面连贯性都有提升,以后可能正式开放。(Midjourney)
  • Yandex 数据中心遭无人机袭击:据 Reuters,乌克兰无人机 10 月 8 日和 9 日袭击了 Yandex 在萨索沃和卡卢加的数据中心,5 个数据中心里 2 个停摆;萨索沃那座装着训练 YandexGPT 的 3 台超算中的 2 台。(Ars Technica)
  • Boston Dynamics 详解 Atlas 新手:新手 4 指、13 个自由度、直接驱动,由 13 个相同的全封装执行器组成,去掉了小指;按量产和高保真仿真设计,便于做 sim-to-real 强化学习(手是上周发布的,这篇是专访)。(The Robot Report)
  • Harvey 用 wake-sleep 提升 agent:Harvey 让 agent 在 110 个法律任务上积累经验后,留出任务的全通过率从 2.9% 升到 15.7%,只检索相关记忆还让成本约减半(GPT-6 Luna,Harvey 自测,美国时间 10-08 发布)。(X @nikogrupen)
  • Claude Science 绘全天紫外星图:约翰霍普金斯大学天文学家 Brice Ménard 用 Claude Science 绘制首张全天紫外星图,智能体下载并拼接多个太空任务的数据,约三分之二来自 GALEX,缺口用图像修补补齐。(The Decoder)
  • 参议院调查:超大规模厂商误导公众:美国参议院调查称,部分超大规模厂商在 AI 数据中心的成本和收益上误导公众;另据 TechCrunch,亚马逊与地方政府谈数据中心交易将不再用保密协议,微软今年早些时候已经这样做。(Time、TechCrunch)
  • Show HN:让 agent 在屏幕上画箭头:big-arrow-on-the-screen 是一个 macOS 命令行工具,附 Claude Code / Codex 的 skill,让 agent 在屏幕上画箭头和方框;Swift 编写,MIT 许可,HN 上 392 分、175 条评论。(GitHub)
  • Dario 曾向 Meta 求算力被拒:据《华尔街日报》,Dario Amodei 今年早些时候联系 Meta 的 Alexandr Wang,希望获得更多算力,被 Meta 拒绝。(wsj.com)

图片版权归原作者,出处见图注。

关注Hollis的视觉大模型实战:每天一份 AI 早报,只看一手来源;视觉与多模态大模型的论文精读和动手复现,也在这里。

posted @ 2026-10-10 16:10  hollis23  阅读(28)  评论(0)    收藏  举报