摘要： 最近，研究表明，在深度卷积神经网络中嵌入注意模块可以有效地提高网络的性能。本文提出了金字塔分散注意力的一种新的轻量级有效方法(EPSA)模块。通过在ResNet瓶颈块中的PSA模块替换3x3卷积获得了新的高效金字塔分裂注意力(EPSA)。EPSA块可以很容易地作为即插即用组件添加到成熟的主干网络中，并可以显著提高模型性能。所以，通过叠加这些ResNet风格的EPSA块，我们开发了一个名字EPSANet简单高效的主干架构。相应地，EPSANet它可以为计算机视觉任务提供更强的多尺度表示能力，包括但不限于图像分类、目标检测和实例分割。在没有花哨的情况下，建议EPSANet性能优于大多数最先进的频道注意方法。

注意机制广泛应用于计算机视觉领域，如图像分类、目标检测、实例分割、语义分割、场景分析和动作定位等。具体来说，注意方法有两种，即通道注意和空间注意。最近，一些研究表明，使用注意、空间注意或两者可以显著提高性能。最常用的信道注意方法是挤压和激励(SE)成本相当低的模块可以显著提高性能。SENet缺点是忽略了空间信息的重要性。因此，我们提出了瓶颈注意模块(BAM)和卷块注意模块(CBAM)，丰富注意图，结合空间注意力和通道注意力。然而，仍有两个重要而具有挑战性的问题需要解决。第一个问题是如何有效地捕获和利用不同尺度特征地图的空间信息来丰富特征空间。第二，注意通道或空间只能有效地捕获局部信息，但不能建立长期的通道依赖关系。因此，人们提出了许多解决这两个问题的方法。提出了基于多尺度特征和跨通道信息交互的方法，如PyConv、Res2Net和HS-ResNet等。另一方面，可以建立长期的信道依赖关系。但上述方法模型复杂度高，网络计算量大。基于以上观察，我们认为有必要开发一个低成本但有效的注意模块。本文提出了一种低成本、高性能的新模块金字塔来分散注意力(EPSA)。所提出的PSA模块具有多尺度处理输入张量的能力。具体来说，一个普通的特征图分为S组，每组都有CS通道。然后，利用多尺度金字塔卷积结构在每个通道特征图上整合不同尺度的信息。通过这样做，上下文特征的邻居尺度可以更准确地合并。最后，通过提取多尺度特征图的通道级注意权重，建立了跨维交互作用。采用Softmax重新校准相应信道的注意权重，从而建立长期信道依赖性。因此，利用ResNet瓶颈块中的3x3模块代替3x3卷积得到了新的有效金字塔分裂(EPSA)块。另外，通过这些EPSA块叠加为ResNet风格提出了一个名字EPSANet的网络。如图1所示，提出的EPSANet不仅在Top-精度优于现有技术，所需参数效率更高。本工作的主要贡献总结如下：

• 提出了一种新的有效金字塔分裂注意力(EPSA)多尺度空间信息可以有效提取到更详细的水平，并发展长期的信道依赖性。EPSA块具有非常灵活和可扩展性，因此可以应用于各种网络架构的许多计算机视觉任务。
• 提出了一种新的主干架构EPSANet，该架构可以学习更丰富的多尺度特征，并自适应地重新校准跨维通道，注意权重。
• 大量实验表明，提出的EPSANet在ImageNet和COCO可以在图像分类、目标检测和实例分割等方面取得良好的效果。

注意力机制 注意机制用于加强信息中最丰富的特征表达的分配，抑制不太有用的特征表达，使模型能够适应地关注上下文中的重要区域。SENet挤压和刺激(SE)通道的相关性可以通过选择性调整通道的尺度来捕获。CBAM中的CBAM注意最大池特征可以通过添加大尺寸核通道来丰富注意图。受CBAM的激励，A2Net中的GSoP提出了取更丰富的特征聚合，提出了二阶池化方法。最近提出了非局部构建密集空间特征图，并通过非局部操作捕获长期依赖关系。基于非局部块，双重关注网络(A2Net)引入了一种新的关系函数，将注意力与空间信息嵌入到特征图中。因此，SKNet引入动态选择注意机制，允许每个神经元根据输入特征图的多个尺度自适应地调整其接受野的大小。ResNeS提出了一个类似的分散注意力块，可以跨特征图。Fcanet实现频域信道注意机制的预处理，提出了一种新的多频谱信道注意方法。GCNet为了开发长期的渠道依赖性，引入了一个简单的空间注意模块。ECANet采用一维卷积层减少全连接层的冗余。DANet将这两个来自不同分支的注意模块结合起来，自适应地将局部特征与其全局依赖性相结合。上述方法要么专注于设计更复杂的注意模块，这将不可避免地带来更大的计算成本，要么无法建立长期的信道依赖。因此，为了进一步提高效率，降低模型的复杂性，对模块提出了新的关注PSA，该模块旨在学习低模型复杂性的重量，有效地整合局部和全局，建立长期的渠道依赖性。
多尺度特征表示 多尺度特征表示的能力对实例分割、面部分析、目标检测、显著目标检测和语义分割等各种视觉任务至关重要。更有效地提取多尺度特征是视觉识别任务的关键。通过在CNN嵌入一个可以提取多尺度特征的算子，可以获得更有效的特征表达能力。另一方面，CNN通过一堆卷积运算符，可以自然地学习从粗到细的多尺度特征。因此，设计一个更好的卷积算子是为了改进CNN多尺度表示的关键。

通道注意力 通道注意机制允许网络有选择地加权每个信道的重要性，从而产生更多的信息输出。$X\in R^{C\times H\times W}$表示输入特征图的数量H、W、C分别表示其高度、宽度和输入通道数。SE块由挤压和激励两部分组成，分别设计用于编码全局信息和自适应地重新校准信道方向之间的关系。通常，可以使用全局平均池生成通道统计信息，将全局空间信息嵌入通道描述符中。全局平均池算子可以用以下公式计算:
$$g_c=\frac{1}{H\times W}\sum _{i=1}^H\sum _{j=1}^W{x}_c(i,j)$$
SE块中第c个通道的注意权重可以写为:
$$w_c=\sigma (W_1\sigma (W_0(g_c)))$$
其中，符号$\sigma$表示再生线性单元(ReLU)操作，$W0\in R^{C\times \frac{C}{r}}$和$W_1\in R^{\frac{C}{r}\times C}$表示全连接(FC)层。通过两个全连接层，可以更有效地组合通道之间的线性信息，有助于高、低通道维数信息的交互。符号$\sigma$表示激励函数，在实际应用中通常使用s型函数。利用激励函数，我们可以在通道交互后给通道赋权重，从而更有效地提取信息。以上介绍的信道注意权值的生成过程被命名为SEWeight模块，SEWeight模块的示意图如图2所示。