21 线性层及其他层介绍

一、正则化层

加快神经网络的训练速度

BATCHNORM2D

C:代表channel 需要输入

二、Recurrent层

用于文字识别

三、Transformer层

四、线性层

使用比较多

举例：
代码

点击查看代码

import torchvision
from torch import nn
from torch.nn import Linear
from torch.utils.data import DataLoader
import torch
# 测试集

test_data=torchvision.datasets.CIFAR10(root="./CIFAR10_dataset",transform=torchvision.transforms.ToTensor(),train=False,download=True)
test_loader=DataLoader(dataset=test_data,batch_size=64)

#模型定义
class Tudui(nn.Module):
    def  __init__(self):
        super(Tudui, self).__init__()
        self.linear1=Linear(196608,10)

    def forward(self,input):
        output=self.linear1(input)
        return output

#声明模型
tudui=Tudui()

for data in test_loader:
    imgs,targets=data
    print(imgs.shape) #torch.Size([64, 3, 32, 32])

    # output=torch.reshape(imgs,(1,1,1,-1))#-1表示宽随大小自由设定
    # print(output.shape) #torch.Size([1, 1, 1, 196608])

    #展平输入向量
    output=torch.flatten(imgs)
    print(output.shape) #torch.Size([196608])
    #调用模型
    output=tudui(output)
    print(output.shape) #torch.Size([10])