2021年1月18日

深度学习中的归一化方法BN、LN、IN、GN

摘要： 不同归一化方法计算统计量的方式和施加归一化的范围不一样。 BN受到批尺寸的影响，而LN、IN和GN避开了批尺寸这个维度。 这张图与我们平常看到的feature maps有些不同，立方体的3个维度为别为batch/ channel/ HW，而我们常见的feature maps中，3个维度分别为chan 阅读全文

posted @ 2021-01-18 10:08 那抹阳光1994 阅读(957) 评论(0) 推荐(0)

导航