bokeAR

摘要： 1、optim的使用步骤： （1）构造优化器 （2）调用step方法 利用得到的梯度来对参数进行更新 loss_cross=CrossEntropyLoss() #损失cifar=CIFAR10_modle() #创建神经网络'''1、创建优化器'''optim=torch.optim.SGD(ci 阅读全文

摘要： 1、损失函数 （1）计算实际输出和目标之间的差距； （2）为更新输出提供一定的依据（反向传播）； Loss Function： nn.L1Loss: 输入值是x，输出值是y，那么L1Loss是采用 |yi-xi|/x的个数，就是每一个对应的y-x的绝对差值加起来再求平均 要关注输入数据尺寸大小 '' 阅读全文

摘要： 1、CIFAR10神经网络模型 卷积操作一般会使图像尺寸变小的，因为第一层卷积，卷积操作之后图像大小仍然是32，所以有可能用了padding进行填充。 根据公式算一算： 经过计算可以知道padding=2，stride=1 没有使用Sequential的写法： 使用Sequential的写法，更简洁 阅读全文

摘要： 1、正则化层 Normalization Layers 对 输入 采用正则化的话，可以加快神经网络的训练速度 也就是通道数的大小 2、Recurrent Layers****（特定网络使用） 一般用于文字识别当中 3、Transform Layers*****（特定网络使用） 4、Linear La 阅读全文

摘要： 1、常用的relu和sigmoid relu： relu函数对图像的作用不是很明显 sigmoid： 非线性激活就是能够保留图像中那些曲线特征 '''非线性激活'''import torchimport torchvisionfrom torch import nnfrom torch.nn imp 阅读全文

摘要： 1、打开官网 torch.nn Pooling Layers 最大池化，平均池化，自适应池化 最常用的是MaxPool2d 2、池化操作::: 默认情况下 ceil_mode 是False 3、为什么要进行最大池化？最大池化的作用？ 保留输入图像的特征 ,同时减少数据量，加速训练。 阅读全文

摘要： 1、去pytorch官网 doc官方文档 pytorch torch.nn Convolution.Layers dilation：卷积核中每一个对应位的距离 groups：通常是1，如果是别的数字代表 分组卷积 很少用 bias：偏执，通常设置为 True，代表是否对卷积后的结果再 加/减 一个常 阅读全文

摘要： 1、卷积层 Convolution Layers 输入图像上的数字代表该像素点上的颜色显示。 卷积操作： 就是输入图像的二维矩阵和卷积核矩阵做乘法运算；对应位相乘然后加在一起。 Stride：可以是一个整数，代表上下也就是高和宽每次都是移动一样的； 如果是一个元组的话，说明H，W高和宽移动的距离不一 阅读全文

摘要： 1、打开pytorch的官网 官方文档doc里的pytorch 关于神经网络的一些工具主要在torch.nn里面（nn是neural network的缩写） 2、torch.nn分为不同的类别 containers: 主要是给神经网络定义了一个骨架结构 module模块是最常用的（是所有神经网络的基 阅读全文

摘要： dataloader数据加载器：将数据加载到神经网络中。定义每次取多少数据，怎么取 1、打开pytorch官网 Doc中找pytorch官方文档 搜索dataloader 出现在torch.utils,.data.DataLoader工具包中， 常用参数设置： dataset：数据集的位置 batc 阅读全文