摘要: BatchNorm 层 为了实现输入特征标准化,batch norm 层会维护一个全局均值 running_mean 和全局方差 running_var。网络 train() 时进行统计,eval() 时使用统计值。 除此之外,可选 weight 权重和 bias 权重,这两个权重是会持续参与到网络 阅读全文
posted @ 2024-01-07 23:10 倒地 阅读(49) 评论(0) 推荐(0)