随笔分类 - 深度学习
摘要:一、背景 最早图像领域,后面应用到NLP领域 人类视觉注意力机制,扫描全局图像,获得重点关注区域,投入更多经历,抑制其它无用信息,提高视觉信息处理的效率与准确性。 在深度神经网络的结构设计中,attention所要分配的资源基本上就是权重了。 视觉注意力分为几种,核心思想是基于原有的数据找到其之间的
阅读全文
摘要:构建数据流程是实践过程中核心环节。熟悉pipeline的的构建过程,有助于理解不同代码的结构,也是实现自主创建网络的第一步。 使用Pytorch实现神经网络模型的一般流程包括:1,准备数据 2,定义模型 3,训练模型 4,评估模型 5,使用模型 6,保存模型。 1- 数据加载 在Pytorch中构建
阅读全文
摘要:from __future__ import print_function, division import torch import torch.nn as nn import torch.optim as optim from torch.optim import lr_scheduler im
阅读全文
摘要:##训练分类器 import torch import torchvision import torchvision.transforms as transforms import torch.nn as nn import torch.nn.functional as F #1- 加载和预处理数据
阅读全文
摘要:from __future__ import print_function import torch ##1 基本操作 #构建tensor x = torch.empty(5, 3) x = torch.rand(5, 3) x = torch.zero(5, 3, dtype=torch.long
阅读全文
摘要:一、模型保存/加载 1.1 所有模型参数 训练过程中,有时候会由于各种原因停止训练,这时候我们训练过程中就需要注意将每一轮epoch的模型保存(一般保存最好模型与当前轮模型)。一般使用pytorch里面推荐的保存方法。该方法保存的是模型的参数。 对应的加载模型方法为(这种方法需要先反序列化模型获取参
阅读全文
摘要:在学习和使用深度学习框架时,复现现有项目代码是必经之路,也能加深对理论知识的理解,提高动手能力。本文参照相关博客整理项目常用组织方式,以及每部分功能,帮助更好的理解复现项目流程,文末提供分类示例项目。 1 项目组织 在做深度学习实验或项目时,为了得到最优的模型结果,中间往往需要很多次的尝试和修改。一
阅读全文
摘要:导言 随着深度学习和计算机视觉的快读发展,相关技术已经在诸多领域广泛应用。目标检测(Object Detection)作为图像理解中的重要一环,其任务是找出图像中所有感兴趣的目标(物体),确定它们的位置和大小,是机器视觉领域的核心问题之一。 1 什么是目标检测 目标检测的任务是找出图像中所有感兴趣的
阅读全文
摘要:一、背景 1.1 深度神经网络 深度神经网络是连接主义系统,通过它通过学习例子来完成任务,而不需要事先了解这些任务。它们可以很容易地扩展到数百万个数据点,并且可以通过随机梯度下降进行优化。 CNN是DNN的变体,能够适应各种非线性数据点。起始层学习更简单的特征,如边和角,后续层学习复杂的特征,如颜色
阅读全文

浙公网安备 33010602011771号