SkillOpt: Executive Strategy for Self-Evolving Agent Skills

一、论文核心定位与解决痛点

1）标题直译

《SkillOpt：面向自进化智能体的技能执行优化策略》

2）现有 Agent 技能方案三大缺陷（论文批判基线）

1. 手工 Prompt / 一次性生成：无迭代验证，靠人工试错，无法稳定收敛；
2. 松散自修正 Self-Revision：无验证门控，越改越差、性能震荡，不可复现；
3. LoRA / 全量微调：绑定模型权重，跨模型 / Agent 必须重训，算力适配成本极高。

3）核心创新思想

不改动任何大模型权重，把技能文档（Markdown）当作可训练外部参数，引入深度学习全套优化范式（批次、验证集、学习率、缓存）在文本空间迭代优化，产出通用、可跨模型迁移的执行技能 best_skill.md。

一句话：训练流程规则，不训练模型；优化文本工件，不微调权重。

二、SkillOpt 完整训练闭环（五大核心模块）

1. 冻结目标层（Target Harness）

• 待使用 LLM/Agent 执行器全程冻结，不做任何微调；
• 批量生成任务执行轨迹 Rollout，记录成功 / 失败样例，作为优化数据；
• 支持多执行环境：纯对话、Codex 代码智能体、Claude Code 工具智能体。

2. 独立优化器模型（Optimizer LLM）

单独模型分析批量失败轨迹，定位系统性流程缺陷，受限编辑机制：仅允许增 / 删 / 替换片段，单次设置编辑预算（文本学习率），避免全盘重写。

 

两类更新区分：

• Slow Update：有效流程规则，写入最终部署 skill；
• Meta Update：失败经验缓存，仅给优化器参考，不对外暴露。

3. 拒绝编辑缓冲区（Rejected Buffer）

记录所有验证不通过的修改，优化器自动规避重复无效改动，加速收敛。

4. 严格验证门控（Held-out Validation Gate）

唯一保留条件：新技能在验证集指标严格高于旧版，否则直接丢弃，彻底解决自优化退化问题。

5. 导出轻量化技能产物

最终输出单份 md 文件（中位数 920 Token），仅包含执行流程、工具规范、Few-shot 示例；推理零额外开销、无依赖，直接塞入 System Prompt 即可上线。

三、关键机制：为什么跨模型 / Agent 适配成本极低（回答你核心疑问）

1. 技能本质是通用流程知识，非模型专属 Trick

SkillOpt 优化的是任务执行方法论、错误规避逻辑、工具调用标准流程，不是适配某一模型的话术；

 

实验佐证：Codex 训练表格技能，直接迁移 Claude Code 仍提升 31.8 分；GPT5.5 数学技能给 4B 通义千问使用，依然显著涨点。

2. 两种迁移场景成本分层

场景 A：同任务、模型能力差距小 / 同类 Agent 框架 → 零适配，直接复用

• 例：GPT5.5 训练文档处理 Skill，直接用于 GPT5.4、Qwen36B；
• 无需重跑优化循环，仅简单批量校验即可上线，无算力成本。

场景 B：必须少量轻量适配（仅两类边界，成本极低）

1. 模型能力断层：超大模型 Skill 直接给 4B 及以下极小模型，复杂推理规则理解不足
    
   操作：小批量验证集跑 1 轮，优化器做少量轻量化删减，不用完整重训；
2. Agent 工具 API 完全异构：文件读取、数据库、代码解释器入参格式不同
    
   操作：仅替换 Skill 内工具调用模板片段，核心业务流程完全复用；
3. 任务分布差异极大（如通用文档→工业长尾质检）
    
   操作：基于原有 Skill 增量追加领域规则，保留通用校验逻辑，迭代轮次大幅减少。

3. 对比传统方案迁移成本

表格

 

方案	跨模型 / Agent 适配成本	核心短板
手工 Prompt	极高，每个环境重写调试	不可规模化
LoRA 微调	极高，每个基座单独训练、存储权重	算力 + 标注开销巨大
SkillOpt	常规场景 0 成本；边界场景轻量 1 轮迭代	仅复杂异构环境小幅修改

四、大规模实验结论

1）评测覆盖范围

7 个大模型（GPT5 系列、Qwen3.5/36B）+3 种执行框架 + 6 类任务基准（检索问答、表格、文档 VQA、数学、具身交互），全部 52 组评测均优于所有基线（人工技能、Trace2Skill、EvoSkill 等）。

2）核心量化收益

• GPT5.5 对话场景：平均精度 + 23.5 分；
• Codex 代码智能体：+24.8 分；
• Claude Code 工具智能体：+19.1 分；
• 小模型增益远高于大模型（4B 文档任务精度近乎翻倍）。

3）迁移实验核心结论

1. 同任务跨模型：通用流程知识可迁移，性能正向；
2. 跨智能体执行器（Codex↔Claude Code）：无重度适配即可大幅提升；
3. 相近任务（通用数学→竞赛数学）：直接复用，收益稳定；
4. 跨领域差异极大场景：纯复用效果下滑，需少量增量优化。

五、论文优缺点

优势

1. 完全解耦模型与技能，不需要微调，算力成本极低；
2. 优化流程具备深度学习可复现、稳定收敛特性；
3. 技能轻量化、易分发、跨实体迁移能力强；
4. 推理阶段零额外调用，线上无延迟损耗；
5. 开源 MIT 协议，工程落地友好。

局限（工程落地痛点）

1. 优化训练阶段需要大量批量 Rollout，复杂具身 / 昂贵任务训练成本偏高；
2. 任务缺少量化评测指标时，验证门控无法生效，优化失效；
3. 跨完全无关领域（通用对话→工业长尾质检）纯复用效果衰减，仍需少量适配；
4. 极度简单任务收益微弱，更适合多步骤、多工具复杂 Agent 场景。

六、工程落地建议（贴合你的 Hermes 自动化 Agent + 长尾研究）

1. 先用强大模型离线统一训练通用 Skill，向下兼容中小开源模型，减少适配；
2. 封装统一工具调用模板层，不同 Agent 仅替换接口片段，核心流程不动；
3. 迁移新模型 / 框架前先跑小规模验证集，达标直接上线，不达标仅做一轮增量编辑；
4. 针对长尾不均衡数据场景，用 SkillOpt 自动化优化数据采样、Badcase 复盘流程，形成可跨模型复用的数据处理技能文档。

七、一句话总结

SkillOpt 通过文本空间可控迭代，产出不绑定特定模型 / 智能体的通用执行技能；绝大多数跨场景迁移零适配成本，仅模型能力断层、工具 API 异构、领域差异巨大时需要极轻量微调，完美解决你担心的 “多模型适配成本过高” 问题。