随笔分类 -  pytorch

摘要:原文链接:https://oldpan.me/archives/how to calculate gpu memory 前言 亲,显存炸了,你的显卡快冒烟了! torch.FatalError: cuda runtime error (2) : out of memory at /opt/conda 阅读全文
posted @ 2019-01-13 15:29 向前奔跑的少年 阅读(10416) 评论(0) 推荐(0)
摘要:原文地址:https://zhuanlan.zhihu.com/p/31494491 上次我总结了在PyTorch中建立随机数Tensor的多种方法的区别。这次我把常用的Tensor的数学运算总结到这里,以防自己在使用PyTorch做实验时,忘记这些方法应该传什么参数。总结的方法包括:Tensor求 阅读全文
posted @ 2019-01-10 20:30 向前奔跑的少年 阅读(22323) 评论(0) 推荐(0)
摘要:原文: http://www.voidcn.com/article/p rtzqgqkz bpg.html <! 正文顶部广告 (adsbygoogle = window.adsbygoogle || []).push({}); 最近看了下 PyTorch 的损失函数文档,整理了下自己的理解,重新格 阅读全文
posted @ 2019-01-09 19:11 向前奔跑的少年 阅读(9504) 评论(0) 推荐(0)
摘要:原文:https://blog.csdn.net/hustchenze/article/details/79154139 Pytorch的数据类型为各式各样的Tensor,Tensor可以理解为高维矩阵。与Numpy中的Array类似。Pytorch中的tensor又包括CPU上的数据类型和GPU上 阅读全文
posted @ 2019-01-09 18:26 向前奔跑的少年 阅读(26051) 评论(0) 推荐(1)
摘要:转自:https://www.jianshu.com/p/73686691cf13 下面是几种常写的方式 第一种方式 normalize = transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225]) transformLis 阅读全文
posted @ 2019-01-08 17:02 向前奔跑的少年 阅读(10521) 评论(0) 推荐(0)
摘要:转自:https://blog.csdn.net/Vivianyzw/article/details/81061765 东风的地方1. 直接加载预训练模型在训练的时候可能需要中断一下,然后继续训练,也就是简单的从保存的模型中加载参数权重:net = SNet()net.load_state_dict 阅读全文
posted @ 2018-12-21 15:46 向前奔跑的少年 阅读(9486) 评论(0) 推荐(0)
摘要:文章来源 https://www.cnblogs.com/king lps/p/8570021.html 1. PyTorch进行训练和测试时指定实例化的model模式为:train/eval eg: class VAE(nn.Module): def __init__(self): su 阅读全文
posted @ 2018-12-21 13:58 向前奔跑的少年 阅读(1449) 评论(0) 推荐(0)
摘要:[TOC] 1. zip argument 1 must support iteration 在多gpu训练的时候,自动把你的batch_size分成n_gpu份,每个gpu跑一些数据, 最后再合起来。我之所以出现这个bug是因为返回的时候 返回了一个常量。。 2. torch.nn.DataPar 阅读全文
posted @ 2018-12-18 20:43 向前奔跑的少年 阅读(2931) 评论(1) 推荐(0)
摘要:文章来源:https://www.jianshu.com/p/01577e86e506 pytorch中的 2D 卷积层 和 2D 反卷积层 函数分别如下: 我不禁有疑问: 问题1: 两个函数的参数为什么几乎一致呢? 问题2: 反卷积层中的 output_padding是什么意思呢? 问题3: 反卷 阅读全文
posted @ 2018-12-12 23:56 向前奔跑的少年 阅读(21759) 评论(0) 推荐(2)
摘要:整理一下看到的自定义数据读取的方法,较好的有一下三篇文章, 其实自定义的方法就是把现有数据集的train和test分别用 含有图像路径与label的list返回就好了,所以需要根据数据集随机应变。 "所有图片都在一个文件夹1" 之前刚开始用的时候,写Dataloader遇到不少坑。网上有一些教程 分 阅读全文
posted @ 2018-12-11 22:48 向前奔跑的少年 阅读(31905) 评论(0) 推荐(1)
摘要:~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~本文目录1. xavier初始化2. kaiming初始化3. 实际使用中看到的初始化3.1 ResNeXt,densenet中初始化3.2 wide residual networks中初始化(MSRinit)~~~~~~ 阅读全文
posted @ 2018-12-08 17:11 向前奔跑的少年 阅读(20456) 评论(0) 推荐(0)
摘要:[TOC] 1. make_grid() 2. join与os.path.join() 1.join()函数 语法:‘sep’.join(seq) 参数说明: sep:分隔符。可以为空 seq:要连接的元素序列、字符串、元组、字典等 上面的语法即:以sep作为分隔符,将seq所有的元素合并成一个新的 阅读全文
posted @ 2018-12-06 23:55 向前奔跑的少年 阅读(4887) 评论(0) 推荐(0)
摘要:文章来源: https://zhuanlan.zhihu.com/p/35675109 https://www.aiuai.cn/aifarm646.html 之前用pytorch是手动记录数据做图,总是觉得有点麻烦。学习了一下tensorboardX,感觉网上资料有点杂,记录一下重点。由于大多数情 阅读全文
posted @ 2018-12-06 16:17 向前奔跑的少年 阅读(11242) 评论(1) 推荐(0)
摘要:转自: "知乎" 目录:保存模型与加载模型冻结一部分参数,训练另一部分参数采用不同的学习率进行训练1.保存模型与加载简单的保存与加载方法: 保存整个网络 torch.save(net, PATH) 保存网络中的参数, 速度快,占空间少 torch.save(net.state_dict(),PATH 阅读全文
posted @ 2018-12-05 23:27 向前奔跑的少年 阅读(7826) 评论(1) 推荐(0)
摘要:转自:https://www.cnblogs.com/cenyu/p/5713686.html hasattr(object, name)判断一个对象里面是否有name属性或者name方法,返回BOOL值,有name特性返回True, 否则返回False。需要注意的是name要用括号括起来 1 &g 阅读全文
posted @ 2018-12-05 20:39 向前奔跑的少年 阅读(1034) 评论(0) 推荐(0)
摘要:[TOC] 1. 前言   最近在学习pytorch,先照着官方的“60分钟教程”学习了一下,然后再github上找了两个star比较多的项目,自己写了一下,学习一下别人的写法。 2. Deep Learning with PyTorch: A 60 Minute Blitz 2 阅读全文
posted @ 2018-11-19 15:58 向前奔跑的少年 阅读(703) 评论(0) 推荐(0)
摘要:自己看读完pytorch封装的源码后,自己又重新写了一边(模仿其书写格式), 一些问题在代码中说明。 阅读全文
posted @ 2018-11-19 15:39 向前奔跑的少年 阅读(8142) 评论(4) 推荐(1)
摘要:<! 欢迎成为极客学院WIKI作者 点击这里成为作者 · 更新于 2018 11 14 21:00:36 <! 内容 argparse argparse 是 Python 内置的一个用于命令项选项与参数解析的模块,通过在程序中定义好我们需要的参数,argparse 将会从 sys.argv 中解析出 阅读全文
posted @ 2018-11-14 21:00 向前奔跑的少年 阅读(445) 评论(0) 推荐(0)
摘要:原文地址:https://blog.csdn.net/u014380165/article/details/79167753 版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/u014380165/article/details/79167753 <! 阅读全文
posted @ 2018-11-12 22:41 向前奔跑的少年 阅读(4844) 评论(0) 推荐(0)
摘要:原文地址:https://blog.csdn.net/u014380165/article/details/79119664 <! flowchart 箭头图标 勿删 PyTorch框架中有一个非常重要且好用的包:torchvision,该包主要由3个子包组成,分别是:torchvision.dat 阅读全文
posted @ 2018-11-12 22:29 向前奔跑的少年 阅读(2831) 评论(0) 推荐(0)