摘要:
【3DV】Robust RGB-D Fusion for Saliency Detection 两个创新点: LWA 模块根据深度图和 RGB 图动态生成融合策略 TSA 模块解决了 RGB 图与深度图的对齐问题 【ICLR2023】More ConvNets in the 2020s: Scali 阅读全文
摘要:
LLFormer 该方法主要是基于 Restormer 的改进,主要改进有以下三点 注意力机制改为了轴向注意力,降低了计算复杂度 FFN 部分由原来的单门控改成了双门控机制,增加了交互 加入了 LayerAttention 模块,建立了不同层之间的交互关系 Shuffle-Mixer 作者通过 Fe 阅读全文
摘要:
BAM: Bottleneck Attention Module BAM 主要是通过 Channel attention 和 Spatial attention 两部分并行获取注意力。将两部分得到的输出通过广播机制进行相加并通过一个 sigmoid 函数,获取最终的注意力。作者将该模块放在两个 bl 阅读全文
摘要:
Selective Kernel Networks 本文受生物学中“视皮层神经元的感受野大小受刺激的调节”的启发,提出了一种在CNN中对卷积核的动态选择机制,设计了一个称为选择性内核单元(SK)的构建块。其中,多个具有不同内核大小的分支在这些分支中的信息引导下,使用SoftMax进行融合。由多个SK 阅读全文
摘要:
MobileNetV1,MobileNetV2,HybridSN:https://www.cnblogs.com/logt/articles/14002078.html Deep Supervised Cross-modal Retrieval 动机 以前的方法中尽管使用了分类信息,但分类信息仅用于 阅读全文
摘要:
AlexNet 本节主要讲了AlexNet的网络结构, 相比于LeNet,它的网络要相对复杂一些,由原来的平均值池化改为了最大值池化,效果提升比较明显 import torch from torch import nn from d2l import torch as d2l # AlexNet的网 阅读全文
摘要:
神经网络 本节主要简单介绍了神经网络的相关知识,并且讲解了如何通过代码进行查看神经网络中的参数。 import torch from torch import nn from torch.nn import functional as F net = nn.Sequential(nn.Linear( 阅读全文
摘要:
线性回归 本节主要学习了采用线性模型进行数据拟合,来达到与预测的效果。 # 简单演示pytorch求导的方法 import torch x = torch.tensor(3.0, requires_grad=False) # print(x.requires_grad) # x.requires_g 阅读全文