会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
将者,智、信、仁、勇、严也。
Hi,我是李智华,华为-安全AI算法专家,欢迎来到安全攻防对抗的有趣世界。
博客园
首页
新随笔
联系
订阅
管理
2025年9月8日
大模型微调后原有能力下降如何解决?
摘要: 大模型微调后原有能力下降是一个常见现象,主要原因包括: 1. 灾难性遗忘 (Catastrophic Forgetting) 核心问题:神经网络在学习新任务时,会覆盖之前学到的知识 机制:模型参数在新数据上更新时,破坏了原有任务的最优参数配置 影响:在新任务上表现提升,但在原任务上性能显著下降 2.
阅读全文
posted @ 2025-09-08 10:22 bonelee
阅读(271)
评论(0)
推荐(0)
公告