0607 每日文献阅读 打卡
|
Read Data:0607 |
Publication: 网络 |
||
|
Title: EPSANet: An Efficient Pyramid Split Attention Block on Convolutional Neural Network Participants: Hu Zhang, Keke Zu, Jian Lu, Yuru Zou, Deyu Meng |
|||
|
Aim: 学习低模型复杂度的注意权值,有效整合局部和全局注意,建立远程通道依赖关系。 |
Research Question: 提出一种轻量级、有效的注意力模型。 一方面,空间和通道相结合,如何捕捉信息的有效性以及在长channel范围内捕捉的信息。 另一方面,较高的复杂度和计算量。 |
||
|
Method: 一个普通的feature map被分成S组,每个组都有C/S通道。然后,利用多尺度金字塔卷积结构将不同尺度的信息整合到每个通道级特征图上。通过这样做,可以更精确地合并上下文特征的邻域尺度。最后,通过提取多尺度特征地图的通道注意力权重,构建跨维度交互。使用Softmax操作来重新校准相应通道的注意力权重,从而建立一个远程通道依赖关系。
|
|||
|
Results: 与SENet-50相比,在ImageNet数据集上的Top-1精度提高了1.93%,在目标检测上的+2.7 box AP和在MS-COCO数据集上的mask - rcnn分割上的+1.7 mask AP都得到了较大的改进。 |
Discussion:
|
||
|
Conclusion: 提出了一种即插即用的、轻量级的注意力金字塔分割(Pyramid Split attention, PSA)模块。该模型能够充分提取通道注意向量中的多尺度空间信息和跨维度的重要特征。所提出的高效金字塔注意力分割(EPSA)块可以在更细粒度的水平上提高多尺度表示能力,并发展出长距离的通道依赖性。所提出的EPSANet能够有效地融合多尺度背景特征和图像级分类信息。通过大量的定性和定量实验,验证了与传统的通道注意方法相比,所提出的EPSANet在图像分类、目标检测和实例分割方面可以达到最先进的性能。我们将研究在更轻量级的CNN架构中添加PSA模块的影响,作为我们未来的工作。 |
Further:
|
||
|
Ref: 贡献: 提出了一种新的高效金字塔注意力分割块(Efficient Pyramid Split Attention, EPSA),该块可以有效地提取粒度更细的多尺度空间信息,并形成长距离的通道依赖性。所提出的EPSA块是非常灵活和可扩展的,因此可以应用于各种网络体系结构的许多计算机视觉任务 提出了一种新的主干架构EPSANet,该架构可以学习更丰富的多尺度特征表示,并自适应地重新标定跨维度的通道级注意权重。 大量实验表明,所提出的EPSANet可以在ImageNet和COCO数据集上实现图像分类、目标检测和实例分割。 |
|||
浙公网安备 33010602011771号