2022年6月22日
NF-ResNet：去掉BN归一化，值得细读的网络信号分析 | ICLR 2021
摘要： 论文提出NF-ResNet，根据网络的实际信号传递进行分析，模拟BatchNorm在均值和方差传递上的表现，进而代替BatchNorm。论文实验和分析十分足，出来的效果也很不错。一些初始化方法的理论效果是对的，但实际使用会有偏差，论文通过实践分析发现了这一点进行补充，贯彻了实践出真知的道理 来源：晓 阅读全文
posted @ 2022-06-22 13:14 晓飞的算法工程笔记 阅读(347) 评论(0) 推荐(0)