文章分类 - PyTorch转载
摘要:pytorch中与维度/变换相关的几个函数 torch.size ()先说torch.size()函数,因为后面的方法都会用这个方法看到变换后的矩阵的维度通过该方法,可以查看当前Tensor的维度,用法也很简单: >>>import torch >>>a = torch.Tensor([[[1, 2
阅读全文
摘要:pytorch获取张量元素个数numel()的用法 numel就是"number of elements"的简写。numel()可以直接返回int类型的元素个数 import torch a = torch.randn(1, 2, 3, 4) b = a.numel() print(type(b))
阅读全文
摘要:pytorch manual_seed() 训练 神经网络的训练主要包含以下语句: if cuda: model.cuda() model.train()#把模型的状态设置为训练状态,主要针对Dropout层 optimizer = torch.optim.SGD((model.parameters
阅读全文
摘要:Pytorch学习 (二十一) 自定义C++/ATen扩展 总说 没办法, 出来混总是要还的, 不会写点底层代码没法混啊. 废话不多说, 简单来说, 有时候我们需要写一些自定义的操作, 这些操作如果用python写会很慢, 我们需要用CUDA写, 然后这些操作与python绑定, 以供python端
阅读全文
摘要:pytorch定义自己的新层(非官方example) 一、解析层的结构 首先我们通过分析官方的源码了解一下什么是层,它包含哪些结构,成员是啥等。 class Linear(nn.Module): def __init__(self, input_features, output_features,
阅读全文
摘要:pytorch学习笔记(六):自定义Datasets 版权声明:本文为博主原创文章,转载请注明出处。 https://blog.csdn.net/u012436149/article/details/69061711什么是Datasets: 在输入流水线中,我们看到准备数据的代码是这么写的data
阅读全文
摘要:PyTorch(五)——PyTorch源码修改之增加ConvLSTM层 目录连接(1) 数据处理(2) 搭建和自定义网络(3) 使用训练好的模型测试自己图片(4) 视频数据的处理(5) PyTorch源码修改之增加ConvLSTM层(6) 梯度反向传递(BackPropogate)的理解(7) 模型
阅读全文
摘要:PyTorch 1.0 保存和加载模型 PyTorch 1.0 保存和加载模型 什么是`state_dict`在推理阶段保存和加载模型Save/Load 整个模型为推理或恢复训练,保存和加载一个通用的Checkpoint在一个文件中保存多个模型使用不同模型的模型权重热启动网络模型交叉设备保存和加载模
阅读全文
摘要:转载请注明出处: http://www.cnblogs.com/darkknightzh/p/6836568.html PyTorch默认使用从0开始的GPU,如果GPU0正在运行程序,需要指定其他GPU。 有如下两种方法来指定需要使用的GPU。 1. 类似tensorflow指定GPU的方式,使用
阅读全文
摘要:Pytorch-张量相加的四种方法 / .item()用法 相关基本操作:http://pytorch.org/docs/torch. 这里举例说明: x = torch.rand(5, 3) y = torch.rand(5, 3) #第一种 print(x + y) #第二种 print(tor
阅读全文
摘要:torch.max torch.max(input) → Tensor 返回输入tensor中所有元素的最大值 a = torch.randn(1, 3)>>0.4729 -0.2266 -0.2085 torch.max(a)>>0.4729 torch.max(input, dim, keepd
阅读全文
摘要:Pytorch的net.train 和 net.eval的使用 在训练模型时会在前面加上: model.train()在测试模型时在前面使用: model.eval()同时发现,如果不写这两个程序也可以运行,这是因为这两个方法是针对在网络训练和测试时采用不同方式的情况,比如Batch Normali
阅读全文
摘要:pytorch实现CondenseNet github地址:https://github.com/ShichenLiu/CondenseNet本文提出了学习组卷积(learned group convolution),大大减少了对冗余特征的利用。首先看提出的模块: 中间是训练阶段的condense块
阅读全文
摘要:Pytorch神经网络初始化kaiming分布 函数的增益值 torch.nn.init.calculate_gain(nonlinearity, param=None)提供了对非线性函数增益值的计算。 增益值gain是一个比例值,来调控输入数量级和输出数量级之间的关系。 fan_in和fan_ou
阅读全文
摘要:[pytorch] 自定义激活函数swish(三) 在神经网络模型中,激活函数多种多样。大体都是,小于0的部分,进行抑制(即,激活函数输出为非常小的数),大于0的部分,进行放大(即,激活函数输出为较大的数)。 主流的激活函数一般都满足, 1. 非线性。信号处理里,信号通过非线性系统后,能产生新频率的
阅读全文
摘要:pytorch系列6 -- activation_function 激活函数 relu, leakly_relu, tanh, sigmoid及其优缺点 主要包括: 为什么需要非线性激活函数?常见的激活函数有哪些?python代码可视化激活函数在线性回归中的变现pytorch激活函数的源码为什么需要
阅读全文
摘要:LeNet和CIFAR10数据集为例解析Pytorch常用操作 参考地址:https://github.com/kuangliu/pytorch-cifar 一.搭建神经网络 创建lenet.py: import torch.nn as nnimport torch.nn.functional as
阅读全文
摘要:resnet18 50网络结构以及pytorch实现代码 1 resnet简介 关于resnet,网上有大量的文章讲解其原理和思路,简单来说,resnet巧妙地利用了shortcut连接,解决了深度网络中模型退化的问题。 2 论文中的结构如下 网络结构.png 2.1 参考pytorch中的实现,自
阅读全文
摘要:【pytorch torchvision源码解读系列—4】ResNet pytorch框架中有一个非常重要且好用的包:torchvision,顾名思义这个包主要是关于计算机视觉cv的。这个包主要由3个子包组成,分别是:torchvision.datasets、torchvision.models、t
阅读全文

浙公网安备 33010602011771号