摘要: 【3DV】Robust RGB-D Fusion for Saliency Detection 两个创新点: LWA 模块根据深度图和 RGB 图动态生成融合策略 TSA 模块解决了 RGB 图与深度图的对齐问题 【ICLR2023】More ConvNets in the 2020s: Scali 阅读全文
posted @ 2023-04-02 17:10 logt 阅读(34) 评论(0) 推荐(0) 编辑
摘要: LLFormer 该方法主要是基于 Restormer 的改进,主要改进有以下三点 注意力机制改为了轴向注意力,降低了计算复杂度 FFN 部分由原来的单门控改成了双门控机制,增加了交互 加入了 LayerAttention 模块,建立了不同层之间的交互关系 Shuffle-Mixer 作者通过 Fe 阅读全文
posted @ 2023-02-13 18:11 logt 阅读(93) 评论(0) 推荐(0) 编辑
摘要: BAM: Bottleneck Attention Module BAM 主要是通过 Channel attention 和 Spatial attention 两部分并行获取注意力。将两部分得到的输出通过广播机制进行相加并通过一个 sigmoid 函数,获取最终的注意力。作者将该模块放在两个 bl 阅读全文
posted @ 2021-10-25 16:33 logt 阅读(74) 评论(0) 推荐(0) 编辑
摘要: Selective Kernel Networks 本文受生物学中“视皮层神经元的感受野大小受刺激的调节”的启发,提出了一种在CNN中对卷积核的动态选择机制,设计了一个称为选择性内核单元(SK)的构建块。其中,多个具有不同内核大小的分支在这些分支中的信息引导下,使用SoftMax进行融合。由多个SK 阅读全文
posted @ 2021-10-17 15:24 logt 阅读(52) 评论(0) 推荐(0) 编辑
摘要: MobileNetV1,MobileNetV2,HybridSN:https://www.cnblogs.com/logt/articles/14002078.html Deep Supervised Cross-modal Retrieval 动机 以前的方法中尽管使用了分类信息,但分类信息仅用于 阅读全文
posted @ 2021-10-03 21:52 logt 阅读(77) 评论(0) 推荐(0) 编辑
摘要: AlexNet 本节主要讲了AlexNet的网络结构, 相比于LeNet,它的网络要相对复杂一些,由原来的平均值池化改为了最大值池化,效果提升比较明显 import torch from torch import nn from d2l import torch as d2l # AlexNet的网 阅读全文
posted @ 2021-09-26 16:20 logt 阅读(174) 评论(1) 推荐(0) 编辑
摘要: 神经网络 本节主要简单介绍了神经网络的相关知识,并且讲解了如何通过代码进行查看神经网络中的参数。 import torch from torch import nn from torch.nn import functional as F net = nn.Sequential(nn.Linear( 阅读全文
posted @ 2021-09-19 23:13 logt 阅读(149) 评论(0) 推荐(0) 编辑
摘要: 线性回归 本节主要学习了采用线性模型进行数据拟合,来达到与预测的效果。 # 简单演示pytorch求导的方法 import torch x = torch.tensor(3.0, requires_grad=False) # print(x.requires_grad) # x.requires_g 阅读全文
posted @ 2021-09-12 21:04 logt 阅读(556) 评论(0) 推荐(0) 编辑
摘要: 数据操作 主要学习了简单的 pytorch 张量创建、参数以及运算操作。 # 导入pytorch包 import torch # 初始化一个有12个元素的行张量 x = torch.arange(12) # 查看形状 x.shape x.numel() # 改变形状为 3 x 4 x = x.res 阅读全文
posted @ 2021-09-03 16:00 logt 阅读(82) 评论(1) 推荐(0) 编辑