2025年6月27日
小模型当老师效果更好：借助RLTs方法7B参数击败671B，训练成本暴降99%
摘要： Sakana AI提出的强化学习教师模型（Reinforcement-Learned Teachers, RLTs）代表了一种全新的训练范式。该方法颠覆了传统强化学习需要模型从零开始通过稀疏奖励信号解决问题的训练方式，转而从已知答案出发，训练小型"教师"模型以适合学生模型学习的方式解释解决方案。 实 阅读全文
posted @ 2025-06-27 10:42 deephub 阅读(26) 评论(0) 推荐(0)