文章分类 -  Transformer学习

基于Vision Transformer实现CIFAR-10分类问题
摘要：基于Vision Transformer实现CIFAR-10分类问题 结果 验证集上正确率为55-60。 模型weight 正确率为46； 模型weight2 只保存了参数 模型更改 正确率大概在55-60（训练了200个epoch，效果最好）； 模型weight3 正确率为51； 代码1 impo 阅读全文
posted @ 2022-12-03 14:39 飀飀 阅读(1077) 评论(0) 推荐(0)
基于Transformer模型的人体3D姿态比对算法研究
摘要：基于Transformer模型的人体3D姿态比对算法研究 大方向 基于深度学习的人体骨骼关键点检测及其在动作训练中的应用。主要工作为：人体骨骼关键点检测网络构建、动作对齐以及基于关键点检测的动作训练系统实现。 人体骨骼关键点检测网络构建 人体骨骼关键点检测分为二维人体骨骼关键点检测和三维人体骨骼关键 阅读全文
posted @ 2022-12-03 09:40 飀飀 阅读(1000) 评论(0) 推荐(0)
损失函数&优化器总结
摘要：损失函数&优化器总结 优化器 SGD 带动量的随机梯度下降SGDM是最常用的方法。 torch.optim.SGD(params, lr=xxx, momentum=0, dampening=0, weight_decay=0, nesterov=False) SGD的特点：由于积累之前的动量来替代 阅读全文
posted @ 2022-11-18 16:32 飀飀 阅读(301) 评论(0) 推荐(0)
基于Vision Transformer训练花分类数据集
摘要：基于Vision Transformer训练花分类数据集 数据预处理 由于数据集没有分训练集和测试集，所以我们需要自行划分训练集、验证集。训练集和测试集的划分有多种方法，这里我们使用留出法，选取比例定为7:3。 该数据集一共有5种类别的花，分别为：daisy、dandelion、roses、sunf 阅读全文
posted @ 2022-11-18 16:32 飀飀 阅读(347) 评论(0) 推荐(0)
Vision Transformer代码（Pytorch版本）
摘要：Vision Transformer代码（Pytorch版本） 定义任务 我们选择入门数据集，我们的MNIST 手写数据集进行图像分类，虽然目标简单，但是我们可以基于该图像分类任务理清ViT模型的整个脉络。简单介绍下MNIST数据集，为是手写数字 ([0–9]) 的数据集，图像均为28x28大小的灰 阅读全文
posted @ 2022-11-18 16:31 飀飀 阅读(1038) 评论(0) 推荐(0)
Vision Transformer详解
摘要：Vision Transformer详解 基于计算机视觉的Transformer研究进展 计算机视觉通常涉及对图像或视频的评估，主要包括图像分类、目标检测、目标跟踪、语义分割等子任务。基于深度学习的方法在计算机视觉领域中最典型的应用就是卷积神经网络CNN。但是CNN缺乏对图像本身的全局理解，无法建模 阅读全文
posted @ 2022-11-18 16:29 飀飀 阅读(2275) 评论(0) 推荐(1)
Transformer代码实现笔记
摘要：Transformer代码笔记 根据上图来实现一个简易版的Transformer的小例子。 概述 这个小例子是基于pytorch以及Transformer模型实现的机器翻译案例。先简单介绍 一下，这里并没有用什么大型的数据集，而是手动输入了两对德语->英语的句子，这里主要是为了突出模型实现本身。 按 阅读全文
posted @ 2022-11-11 14:26 飀飀 阅读(571) 评论(0) 推荐(0)
Transformer笔记
摘要：Transformer模型笔记 在transformer模型提出之前，在NLP任务中常用的是RNN网络结构。transformer基于Self-Attention结构取代了RNN网络结构，相比RNN，其最大的优点便是可以并行运算，加快了运算速度。 Encoder-Decoder架构 Encoder- 阅读全文
posted @ 2022-11-11 14:20 飀飀 阅读(378) 评论(0) 推荐(0)