摘要：典型的MLP结构包括三层：input、hidden、output。不同层之间都是全联接的。 MLP-Mixer完全利用基础的矩阵乘法运算和数据变换以及非线性层来完成复杂数据集的分类任务。 Step 1:将图像转成token作为后续模型的输入（该过程与ViT一致） MLP-Mixer可以靠channe 阅读全文

摘要：CeiT：Incorporating Convolution Designs into Visual Transformers 将CNN提取low-level特征，强化局部特征提取的能力，与Transformer获取long-range信息的能力相结合提高模型性能。 Step1 : image--> 阅读全文

摘要：CvT: Introducing Convolutions to Vision Transformers Paper：https://arxiv.org/pdf/2103.15808.pdf Code：https://github.com/rishikksh20/convolution-vision 阅读全文

摘要：Pre-Trained Image Processing Transformer paper：https://arxiv.org/abs/2010.04159 code：https://github.com/fundamentalvision/Deformable-DETR 基于洗漱空间采样的注意力 阅读全文

摘要：End-to-End Object Detection with Transformers paper: https://link.zhihu.com/?target=https%3A//arxiv.org/abs/2005.12872 project: https://github.com/fac 阅读全文