《Autofocus Layer for Semantic Segmentation》

《Autofocus Layer for Semantic Segmentation》

1. For What Question?

2. Innovation point?

3. Implement

 

一、For What Question?

• 为了增强神经网络的一个多尺度处理的能力

 

二、Innovation point

• ASPP + Autofocus Layer

• 这是通过将具有不同扩张速率的多个卷积层并行化，并通过一种注意力机制组合而成的，该机制学会了专注于上下文驱动的最佳尺度.

• 我们提出了自动聚焦层（Autofocus Layer）这是一个新颖的模块，可通过学习选择“合适的”比例来识别图像中的不同物体来增强CNN的多比例处理

• 和ASPP区别在于：自动聚焦层不是天真的聚合所有比例尺的特征，而是自适应地选择最佳比例尺，以数据驱动的学习方式聚焦

 

三、Implement

• 实验提出的自动聚焦模块

  

   

   

• a部分是注意力机制模块，Conv1是3*3*3大小的卷积核，ReLu之后是一个1*1*1的卷积核，产生不同通道（代表着不同的尺度）的概率图

• b部分就是一个ASPP模块，rn代表着不同的空洞率

• ab部分通过Autofocus Layer fusion在一起

• Autofocus Layer：

   

• 具体的实验结构图（在指定的模型上）：

  

   

   

• 黄色是ReLU，红色是本文提出的模块，跳跃链接的是残差块

• 作者还提出使用ASPP-c（concatenate），和ASPP-s（summation），进行不同的实验。