pytorch torch.nn.BatchNorm2d(num_features, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)

torch.nn.BatchNorm2d(num_features, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)

此函数的作用是对输入的每个batch数据做归一化处理,目的是数据合理分布,加速计算过程,函数为:

 

 

num_features:为输入的数据的通道数,

eps:使分母不为零,保持数据的稳定

momentum:用于在训练时对均值和方差的估计

affine:为True时表示γ和β是可学习的参数,为False表示γ和β是不可学习的参数,此时γ=1,β=0;

track_running_stats=True;整个batch的方差和均值

 

posted @ 2020-09-11 14:46  SnailWorks  阅读(1754)  评论(0)    收藏  举报