随笔分类 -  pytorch

摘要:https://towardsdatascience.com/reading-between-the-layers-lstm-network-7956ad192e58 构建深度神经网络最关键的部分之一是——当数据流经不同的层时,要对其有一个清晰的视图,这些层经历了维度的变化、形状的改变、扁平化和重新 阅读全文
posted @ 2021-05-28 17:54 hi_mxd 阅读(5762) 评论(0) 推荐(0)
摘要:SEQUENCE MODELS AND LONG SHORT-TERM MEMORY NETWORKS FROM https://pytorch.org/tutorials/beginner/nlp/sequence_models_tutorial.html#lstms-in-pytorch Pyt 阅读全文
posted @ 2021-05-28 15:16 hi_mxd 阅读(472) 评论(0) 推荐(0)
摘要:在Pytorch中,我们会继承nn.Module来构建我们自己的类; 在这里,需要实现forward()方法,用于进行网络的前向传播,之后,你可以运行网络的前向传播如下所示: 1 #Define model 2 model = LSTM(...) 3 4 # Forward pass 5 y_pre 阅读全文
posted @ 2021-05-27 18:06 hi_mxd 阅读(501) 评论(0) 推荐(0)
摘要:原文链接: https://stackabuse.com/time-series-prediction-using-lstm-with-pytorch-in-python/ 时间序列数据,顾名思义是一种随时间变化的数据类型。例如,24小时时间段内的温度,一个月内各种产品的价格,一个特定公司一年的股票 阅读全文
posted @ 2021-05-27 17:35 hi_mxd 阅读(10384) 评论(0) 推荐(0)
摘要:原始链接: https://towardsdatascience.com/extreme-event-forecasting-with-lstm-autoencoders-297492485037 处理极端事件预测对每个数据科学家来说是个噩梦。环顾四周,我发现了处理这个问题的非常有趣的资源。就我个人 阅读全文
posted @ 2021-05-27 15:48 hi_mxd 阅读(818) 评论(0) 推荐(0)
摘要:一、简介 PyTorch Geometric Temporal是PyTorch Geometric的一个时间图神经网络扩展库。它建立在开源深度学习和图形处理库之上。PyTorch Geometric Temporal由最先进的深度学习和参数学习方法组成,用于处理时空信号。它是第一个用于几何结构的时间 阅读全文
posted @ 2021-05-26 21:57 hi_mxd 阅读(3274) 评论(0) 推荐(0)
摘要:目的: 基于pytorch利用GAN生成手写体图像; 系列内容: 一、学习GAN基本架构; 二、生成器和判别器的训练; 三、GAN中生成器和判别器的损失函数; 四、各种应用GAN的架构; 训练判别器: 1)得到真实数据和真实标签(真实标签标记为1);真实标签的长度应该等于batch size的长度; 阅读全文
posted @ 2021-05-22 18:59 hi_mxd 阅读(659) 评论(0) 推荐(0)
摘要:本文内容: 一、什么是GAN——简介 二、基本概念 三、生成器 四、判别器 五、GAN的训练和损失函数 六、GAN训练的难点 七、不同的GAN及其应用 一、什么是GAN——简介 GAN属于深度学习中的生成模型中的一员,属于非监督学习; GAN可以生成相当真实的图片,如下图: 二、基本概念 GAN包含 阅读全文
posted @ 2021-05-22 17:10 hi_mxd 阅读(858) 评论(0) 推荐(0)
摘要:本博文内容: Caltech101数据集; 神经网络(模型、工具、目录) 编写代码 一、Caltech101数据集; 下载链接 这个数据集包含了101类的图像,每类大约有40~800张图像,大部分是50张/类,在2003年由lifeifei收集,每张图像的大小大约是300x200. 图像的类别分布: 阅读全文
posted @ 2021-05-22 14:35 hi_mxd 阅读(4457) 评论(1) 推荐(1)
摘要:深度神经网络在诸如图像识别、目标检测、语义分割以及语音和自然语言处理上都表现的很好; 但是也存在一个问题——他们不能很好的处理真实世界数据集上的噪音; 当网络模型处理含有噪音的数据时,他们的泛化性能就会下降; 为此,我们在本文中将介绍一种提升泛化性能的方法。 文章内容主要包括: 1)为什么噪音对神经 阅读全文
posted @ 2021-05-22 11:11 hi_mxd 阅读(4586) 评论(0) 推荐(0)
摘要:本项目的主要内容是对下面包含文本的图像背景进行去燥处理: 主要的步骤: 从kaggle中获取数据 建立项目目录 准备数据——准备自定义数据集、获取可迭代的数据Loaders 建立自编码网络 训练数据 测试数据 一、从kaggle中获取数据 数据链接 二、建立项目目录 1 ├───input 2 │ 阅读全文
posted @ 2021-05-22 10:33 hi_mxd 阅读(147) 评论(0) 推荐(0)
摘要:数据集的准备: 训练集 测试集 训练集中包含60000个样本;测试集中包含10000个样本; Dataset类 三个重要的属性: __init__(): 初始化 __len__(): 返回数据集的长度; __getitem__(): 根据提供的索引,返回数据集中的样本 应用一:使用Dataset类的 阅读全文
posted @ 2021-05-21 22:58 hi_mxd 阅读(228) 评论(0) 推荐(0)
摘要:在进行深度学习的时候,有时候使用迁移学习可以得到更好的结果; 什么是迁移学习? 迁移学习使用在大型数据集上预训练的网络; 使用迁移学习的好处是神经网络已经从大型数据集中学到了很多重要特征 当我们使用我们自己的数据集后,我们只需要进行微调就可以得到很好的结果; 在本博文中,我们将使用VGG16,该模型 阅读全文
posted @ 2021-05-21 22:31 hi_mxd 阅读(340) 评论(0) 推荐(0)
摘要:在前面的博文中,我们已经实现了基于Pytorch的VGG11的搭建以及训练; 在本文中,我们将: 1)进一步理解VGG11 13 16和19 2)实现这些不同的架构; 一、VGG网络中的不同架构 ABDE较为常用;我们称之为VGG11 13 16和19 每个架构在某一特定的卷积层后都有最大池化操作; 阅读全文
posted @ 2021-05-21 15:39 hi_mxd 阅读(386) 评论(0) 推荐(1)
摘要:在前面的博客中我们提到如何用pytorch搭建一个VGG11网络框架; 详见使用Pytorch搭建VGG网络——以VGG11为例 在本博客中,我们将使用之前搭建的VGG11网络,同时对其进行手动训练,使我们可以更好的理解模型建立和训练的过程; 主要内容: 数据集和目录结构——使用数字手写辨识来训练V 阅读全文
posted @ 2021-05-21 15:18 hi_mxd 阅读(1054) 评论(0) 推荐(1)
摘要:在深度学习中,我们可以使用预训练的模型来进行微调或者迁移学习; 有时候在没有预训练模型的情况下,我们也使用pytorch或者tf中预定义的模型; 但是手动实现理解深度学习模型也是非常重要的; 这也就是我们为什么要在这里实现CGG16的深度学习模型; 在本教程中,我们将学习到: 一、VGG11网络 1 阅读全文
posted @ 2021-05-21 12:04 hi_mxd 阅读(8457) 评论(0) 推荐(1)
摘要:本文内容: 以MNIST手写体分类数据集开始; 构建一个简单的神经网络,并且追踪训练时的损失(loss); 在Fashion MNIST上使用Lenet架构进行分类; 计算Fashion MNIST上的训练及测试环节的精度与损失; 对结果使用图进行可视化 一、以MNIST手写体分类数据集开始; 1) 阅读全文
posted @ 2021-05-19 22:27 hi_mxd 阅读(569) 评论(0) 推荐(0)
摘要:本文将介绍: torch.nn包 定义一个简单的nn架构 定义优化器、损失函数 梯度的反向传播 将使用LeNet-5架构进行说明 一、torch.nn包 torch.nn包来构建网络; torch.nn.Module类作为自定义类的基类; nn.Module,包含了所有神经网络层,比如卷积层或者是线 阅读全文
posted @ 2021-05-19 20:47 hi_mxd 阅读(1530) 评论(0) 推荐(1)
摘要:本文主要讲解pytorch上的一些重要操作: 创建、查看形状、创建指定形式的张量、操作方法(加减乘除)以及操作设备(cpu/gpu) 1)torch.tesor([])创建张量 2)torch.view()对张量进行降维 3)torch.size()查看张量的形状 4)torch.ones() to 阅读全文
posted @ 2021-05-19 19:32 hi_mxd 阅读(249) 评论(0) 推荐(0)
摘要:原文链接:https://debuggercafe.com/machine-learning-hands-on-convolutional-autoencoders/ 本文将包含两个方面研究内容: 1) 使用Pytorch进行卷积自编码的实现; 2) 在网络学习过程中可视化和对比原始图像及重构图像 阅读全文
posted @ 2021-05-19 19:17 hi_mxd 阅读(3822) 评论(0) 推荐(0)