TCcjx

2022年3月19日

摘要： 1.前序遍历访问根节点在访问左子树和访问右子树之前访问顺序：根节点 ——》左子树 ——》右子树 2.中序遍历访问根节点在访问左子树和访问右子树两者之间访问顺序左子树——》根节点 ——》右子树 3.后序遍历访问根节点在访问左子树和访问右子树之后访问顺序左子树——》右子树 —— 阅读全文

posted @ 2022-03-19 16:19 TCcjx 阅读(69) 评论(0) 推荐(0)

Pytorch07——半精度训练

摘要： GPU的性能主要分为两部分：算力和显存，前者决定了显卡计算的速度，后者则决定了显卡可以同时放入多少数据用于计算。在可以使用的显存数量一定的情况下，每次训练能够加载的数据更多（也就是batch size更大）,则可以提高训练效率。另外有时候数据本身也比较大（比如3D图像、视频等），显存较小的情况下可能阅读全文

posted @ 2022-03-19 15:45 TCcjx 阅读(1786) 评论(0) 推荐(0)

pytorch06——模型微调

摘要：随着深度学习的发展，在大模型的训练上都是在一些较大数据集上进行训练的，比如Imagenet-1k，Imagenet-11k,甚至是ImageNet-21k等。但我们在实际应用中，我们的数据集可能比较小，只有几千张照片，这时从头训练具有几千万参数的大型神经网络是不现实的，因为越大的模型对数据量的要求越阅读全文

posted @ 2022-03-19 15:30 TCcjx 阅读(400) 评论(0) 推荐(0)

2022年3月18日

Github入门02——Github基本概念

摘要：经过上一篇博客，相信你已经完成了github的注册，下面介绍github的基本概念： 1.Repository 仓库的意思，即你的项目，你想在Github上开源一个项目，那就必须要新建一个Repository，如果你开源项目多了，你就拥有了多个Repositories。 2.Issue 问题的意思，阅读全文

posted @ 2022-03-18 17:51 TCcjx 阅读(63) 评论(0) 推荐(0)

Github入门01——初识github

摘要： 1.github是什么？确切的说 GitHub 是一家公司，位于旧金山，由 Chris Wanstrath, PJ Hyett 与 Tom Preston-Werner 三位开发者在2008年4月创办。2008年4月10日，GitHub正式成立，地址：How people build softwa 阅读全文

posted @ 2022-03-18 17:35 TCcjx 阅读(85) 评论(0) 推荐(0)

pytorch05——动态调整网络学习率

摘要：在之前看论文，其实也有很多点说到这个问题（学习率的选择）。如果我们学习率设置的过小，会极大的降低模型收敛速度，从而大大增加了训练时间；如果学习率太大，可能导致参数在最优解来回震荡。但是当我们选定了一个合适的学习率的时候，经过多轮的训练后，可能会出现准确率震荡或loss不再下降等情况，说明之前设置的这阅读全文

posted @ 2022-03-18 10:18 TCcjx 阅读(648) 评论(0) 推荐(0)

pytorch04——自定义损失函数

摘要： pytroch在torch.nn模块中本来就为我们提供了许多常用的损失函数，比如MSELoss，L1Loss，BCELoss.........但是在科研中还有实际一些运用场景中，我们需要通过自定义损失函数的方式来实现一些损失函数。 1.以函数的方式自定义损失函数 def my_loss(output 阅读全文

posted @ 2022-03-18 08:52 TCcjx 阅读(1458) 评论(0) 推荐(0)

2022年3月16日

Pytorch03——模型定义

摘要：模型搭建基础知识： 1.Module类是torch.nn模块里提供的一个模型构造类(nn.Module)，是所有神经网络模块的基类，在实现神经网络的时候是通过继承它来定义我们想要的模型。 2.Pytorch模型定义主要是两部分一部分是各部分的初始化（init）；数据流向定义（forward），基于阅读全文

posted @ 2022-03-16 14:59 TCcjx 阅读(91) 评论(0) 推荐(0)

2022年3月13日

pytorch02——FashionMNIST时装分类

摘要：前文概要：最近参加了DataWhale的组队学习任务，pytorch进阶组队，有一些深度学习基础，先来总结第一个项目实战任务，FashionMNIST时装分类任务，该数据集是一个比较成熟的数据集，可以直接在torch.utils.data的dataset包中直接下载即可。整体超参数的设置： ## 阅读全文

posted @ 2022-03-13 20:38 TCcjx 阅读(139) 评论(0) 推荐(0)

pytorch-torchvision:datasets和Dataloader参数详解

摘要： torchvision.datasets 如果实验中使用成熟的图像数据集合，可以使用torchvision.datasets模块支持–MNIST、Fashion-MNIST、KMNIST、EMNIST、FakeData、COCO、Captions、Detection、LSUN、ImageFolde 阅读全文

posted @ 2022-03-13 15:48 TCcjx 阅读(401) 评论(0) 推荐(0)

公告