(aaai26) LWGANet: A Lightweight Group Attention Backbone for Remote Sensing Visual Tasks

1、研究动机

遥感图像（Remote Sensing, RS）分析任务中，存在两个主要挑战：

1. 空间冗余（Spatial Redundancy）：图像中存在大量背景区域（如海洋、农田），这些区域对最终任务贡献小，但会消耗大量计算资源。
2. 通道冗余（Channel Redundancy）：遥感图像中物体尺度变化极大（如小型车辆 vs. 大型机场），统一特征空间难以兼顾不同尺度，导致部分通道信息浪费。

现有轻量级网络多为自然图像设计，无法有效解决遥感图像的上述冗余问题。

2、方法贡献

作者提出了 LWGANet（Light‐Weight Group Attention Network），包括两点贡献：

1. LWGA 模块（Light-Weight Grouped Attention）：将通道分组，分别处理不同尺度特征，解决通道冗余。
2. TGFI 模块（Top-K Global Feature Interaction）：通过稀疏采样显著区域，减少空间冗余，建模全局上下文。

3、LGWA模块

LGWA模块如下图所示，输入特征split为四组分别提取特征，每组使用不同的算子，最后拼接融合。具体算子如下表所示：

分组	模块	功能
X1	GPA（Gate Point Attention）	捕捉点级细节（小目标）
X2	RLA（Regular Local Attention）	局部纹理（卷积）
X3	SMA（Sparse Medium-range Attention）	中等范围上下文
X4	SGA（Sparse Global Attention）	全局上下文（大目标）

4、 TGFI模块

TGFI 模块，用于在 SMA 和 SGA 中减少空间冗余，包括三个步骤：1、稀疏采样：在每个区域中选择激活值最大的 token（Top-k）；2、子空间交互：在采样后的特征上进行注意力；3、特征还原：将增强后的特征放回原位置。