巫山巫峡

摘要： CNN中的池化层 首先，池化（pooling）层的提出是为了缓解卷积层对位置的过度敏感性。 什么意思？ 比如在图像边缘检测问题中，实际图像里，我们的目标物体不会总出现在固定位置，即使我们连续拍摄同一个物体也极有可能出现像素位置上的偏移。这会导致同一个边缘对应的输出可能出现在卷积输出的边缘的不同位置， 阅读全文

摘要： pytorch实现自定义网络层，并自设定前向传播路径-学习笔记 1. 不包含模型参数的自定义网络层 首先我们自定义一个网络层， 定义一个网络层，使其不包含模型参数，并在forward()函数中进行运算： import torch from torch import nn class non_para 阅读全文

摘要： 模型参数的初始化与访问操作 学习 如何初始化以及访问模型参数，以及如何在多层之间共享模型参数 首先定义一个含有单个隐藏层的多层感知机，使用默认方式初始化该模型的参数，并且进行一次前向计算： import torch from torch import nn from torch.nn import 阅读全文

摘要： pytorch构造深度学习模型 1. 通过继承module类的方式来构造模型 Module类是nn模块里提供的一个模型构造类，是所有神经网络模块的基类。 可以继承基类并重构 __init()__函数和$forward()$函数的方式来构造模型。 以下是一个构造一个模型的例子： import torc 阅读全文

摘要： 实现kaggle房价预测 导入所需模块： %matplotlib inline import torch import torch.nn as nn import numpy as np import pandas as pd print(torch.__version__) torch.set_d 阅读全文

摘要： pytorch避免过拟合-dropout丢弃法的实现 对于一个单隐藏层的多层感知机，其中输入个数为4，隐藏单元个数为5，且隐藏单元$h_i$（\(i=1, \ldots, 5\)）的计算表达式为： \(h_i = \phi\left(x_1 w_{1i} + x_2 w_{2i} + x_3 w_{ 阅读全文

摘要： 正向传播与反向传播 1. 正向传播 正向传播是指对神经网络沿着从输入层到输出层的顺序，依次计算并存储模型的中间变量（包括输出）。 假设输入是一个特征为$\boldsymbol \in \mathbb^d$的样本，且不考虑偏差项，那么中间变量 \(\boldsymbol{z} = \boldsymbo 阅读全文

摘要： pytorch避免过拟合-权重衰减的实现 首先学习基本的概念背景 L0范数是指向量中非0的元素的个数；(L0范数难优化求解) L1范数是指向量中各个元素绝对值之和； L2范数是指向量各元素的平方和然后求平方根。 权重衰减等价于 L2范数正则化（regularization）。正则化通过为模型损失函数 阅读全文

摘要： pytorch实现多层感知机（自动定义模型）对Fashion-MNIST数据集进行分类 导入模块： import torch from torch import nn from torch.nn import init import numpy as np 定义数据集： class FlattenL 阅读全文

摘要： pytorch实现对Fashion-MNIST数据集进行图像分类 导入所需模块： import torch import torchvision import torchvision.transforms as transforms import matplotlib.pyplot as plt i 阅读全文