Self-Supervised Predictive Convolutional Attentive Block for Anomaly Detection概述
0.前言
1.针对的问题
与现有的方法不同,本文是第一个引入基于重构的功能作为神经体系结构的基本构建块的方法,可以集成到众多现有的异常检测框架中。
2.主要贡献
•引入了一种新的自监督预测卷积注意块,固有进行异常检测的能力。
•将该块集成到几个最先进的神经模型中,用于异常检测,在多个模型和基准中显示出显著的性能改进。
3.方法
设计了一种基于掩码卷积和通道注意力的块结构来重建卷积感受野的掩码部分。在训练时,SSPCAB只学习正常例子的全局结构。当在推理时出现异常数据样本时,块可能会提供较差的重建。因此,可以测量重建的质量,并利用结果作为一种区分正常和异常例子的方法。
掩码卷积如下所示:

该卷积层带有膨胀掩码滤波器,可学习参数位于感受野的角落,由子内核Ki∈Rk'×k'×c,∀i∈{1,2,3,4}表示,k'∈N+是一个超参数,定义子内核大小,c是输入通道的数量。每个内核Ki位于距离感受野中心掩码区域d∈N+(膨胀率)的位置,掩码区域用M∈R1×1×c表示。因此,整个kernel大小为:k=2k'+2d'+1。
通道注意力通过Squeeze-and-Excitation(SE)模块实现,模型结构为FC+ReLU+FC+sigmoid。

SSPCAB由一个由修正线性单元(ReLU)激活的掩码卷积层加一个Squeeze-and-Excitation(SE)模块组成,设X∈Rh×w×c为掩码卷积层的输入张量,其中c为通道数,h和w分别为高度和宽度。在输入X的某个位置,执行掩码卷积操作,只考虑子内核Ki所在位置的输入值,其他信息被忽略。对四个角落部分进行卷积操作之后的值相加,作为该感受野得到的特征值,与标准卷积类似,这里也需要使用c个掩码卷积,在输入周围添加k' + d像素的零填充,并将步幅设置为1,以使得输出维度与输入一致,最后得到输出张量Z,然后把Z输入ReLU激活,再通过全局池化得到向量Z∈Rc,结果输入SE模块,得到s,复制向量s,生成与Z大小相同的张量S,最后将S与Z进行点乘生成最终张量
∈Rh×w×c,在X和
间应用MSE损失。

浙公网安备 33010602011771号