随笔分类 -  Pytorch

Sigmoid函数的替代：overflow encountered in exp in computing the logistic function
摘要：RuntimeWarning: overflow encountered in exp in computing the logistic function 以下是sigmoid函数的标准写法，但是如果x很大或导致函数exp(-x)溢出 安全的替代写法如下： 阅读全文
posted @ 2019-05-25 14:33 HOU_JUN 阅读(5036) 评论(0) 推荐(0)
Pytorch多进程最佳实践
摘要：预备知识 模型并行（ model parallelism ）：即把模型拆分放到不同的设备进行训练，分布式系统中的不同机器（GPU/CPU等）负责网络模型的不同部分 —— 例如，神经网络模型的不同网络层被分配到不同的机器，或者同一层内部的不同参数被分配到不同机器，如AlexNet的训练。 数据并行（ 阅读全文
posted @ 2019-02-20 16:24 HOU_JUN
torchvision简介
摘要：安装pytorch时，torchvision独立于torch。torchvision包由流行的数据集（torchvision.datasets）、模型架构(torchvision.models)和用于计算机视觉的常见图像转换组成t(torchvision.transforms)。 1）数据库 MNI 阅读全文
posted @ 2019-02-20 14:57 HOU_JUN 阅读(10726) 评论(0) 推荐(1)
Pytorch数据变换（Transform）
摘要：实例化数据库的时候，有一个可选的参数可以对数据进行转换，满足大多神经网络的要求输入固定尺寸的图片，因此要对原图进行Rescale或者Crop操作，然后返回的数据需要转换成Tensor如： 数据转换（Transfrom）发生在数据库中的__getitem__操作中。以上代码中，transforms.C 阅读全文
posted @ 2019-02-20 14:35 HOU_JUN 阅读(13644) 评论(0) 推荐(0)
Pytorch自定义数据库
摘要：1）前言 虽然torchvision.datasets中已经封装了好多通用的数据集，但是我们在使用Pytorch做深度学习任务的时候，会面临着自定义数据库来满足自己的任务需要。如我们要训练一个人脸关键点检测算法，提供的训练数据标注如下形式，存在CSV文件中： 在本次教程中，我们需要用到两个额外的包： 阅读全文
posted @ 2019-02-20 11:21 HOU_JUN 阅读(1881) 评论(0) 推荐(0)
Pytorch数据读取框架
摘要：训练一个模型需要有一个数据库，一个网络，一个优化函数。数据读取是训练的第一步，以下是pytorch数据输入框架。 1）实例化一个数据库 假设我们已经定义了一个FaceLandmarksDataset数据库，此数据库将在以下建立。 或者使用torchvision.datasets里封装的数据集（MNI 阅读全文
posted @ 2019-01-03 14:29 HOU_JUN 阅读(1581) 评论(0) 推荐(0)