会员
周边
新闻
博问
闪存
众包
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
xinkevinzhang
博客园
首页
新随笔
联系
订阅
管理
2021年1月3日
梯度下降的任意深度宽神经网络都会演变成线性模型
摘要: 深度学习研究的一个长期目标是精确表征训练和一般化(泛化)。 然而,神经网络通常复杂的损失情况(loss landscapes)使学习动力学的理论变得难以捉摸。(learning dynamics elusive 难以捉摸) 在这项工作中,我们表明,对于宽神经网络,学习动力学已大大简化,并且在无限的宽
阅读全文
posted @ 2021-01-03 08:25 xinkevinzhang
阅读(157)
评论(0)
推荐(0)
公告