2026年9月8日
KL 散度统一视角下的LLM后训练：SFT 、RL 与 OPD
摘要： 本篇文章将围绕近期受到广泛关注的 On-Policy Distillation（OPD）展开。为了建立统一的分析视角，笔者将首先从熵与交叉熵出发，自然引出 KL 散度，并重点讨论 Forward KL 与 Reverse KL 在采样方向、mode-covering 与 mode-seeking 等 阅读全文
posted @ 2026-09-08 01:17 bradinz 阅读(41) 评论(0) 推荐(0)