会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
Picassooo
博客园
首页
新随笔
联系
订阅
管理
多级多卡训练模型时有些参数没有参与loss计算和梯度更新的解决办法
在运行程序的bash命令中添加
export TORCH_DISTRIBUTED_DEBUG=DETAIL
,这样就可以在log或终端打印没有参与loss计算的权重参数了。
posted @
2025-10-23 19:43
Picassooo
阅读(
3
) 评论(
0
)
收藏
举报
刷新页面
返回顶部
公告