1、nn.Sequential类-使用Sequential类来自定义顺序连接模型

　　前言：torch.nn.Sequential是一个Sequential容器，模块将按照构造函数中传递的顺序添加到模块中。通俗的话说，就是根据自己的需求，把不同的函数组合成一个（小的）模块使用或者把组合的模块添加到自己的网络中。主要有三种使用方法（见二）。也就是说我们可以使用torch.nn.Sequential类来实现简单的顺序连接模型。这个模式也是继承自Module类的。

　　作用：Sequential除了本身可以用来定义模型之外，它还可以包装层，把几个层包装起来像一个块一样。

一、关于Sequential类的简介

　　注意：torch的核心是Module类，Module类在下面这个模块中：E:\Anaconda3\envs\EncDec\Lib\site-packages\torch\nn\modules\module.py

　　Sequential继承自Module，在下面这个模块中：E:\Anaconda3\envs\EncDec\Lib\site-packages\torch\nn\modules\container.py

　　这样看来，Sequential似乎是一个容器，的确，它是可以作为一个容器包装各层。这里先简单的看一下它的定义：

class Sequential(Module): # 继承Module
    def __init__(self, *args):  # 重写了构造函数
    def _get_item_by_idx(self, iterator, idx):
    def __getitem__(self, idx):
    def __setitem__(self, idx, module):
    def __delitem__(self, idx):
    def __len__(self):
    def __dir__(self):
    def forward(self, input):  # 重写关键方法forward

　　再看一下container.py里面还有那些“容器”存在：

class Container(Module):
class Sequential(Module)：
class ModuleList(Module)：
class ModuleDict(Module):
class ParameterList(Module):
class ParameterDict(Module):

二、Sequential类的三种实现

2.1、最简单的序贯模型

import torch.nn as nn
model = nn.Sequential(
                  nn.Conv2d(1,20,5),
                  nn.ReLU(),
                  nn.Conv2d(20,64,5),
                  nn.ReLU()
                )
 
print(model)
print(model[2]) # 通过索引获取第几个层
'''运行结果为：
Sequential(
  (0): Conv2d(1, 20, kernel_size=(5, 5), stride=(1, 1))
  (1): ReLU()
  (2): Conv2d(20, 64, kernel_size=(5, 5), stride=(1, 1))
  (3): ReLU()
)
Conv2d(20, 64, kernel_size=(5, 5), stride=(1, 1))
'''

注意：这种实现方法有一个问题，那就是每一层是没有名称的，默认的是以0、1、2、3来命名。

2.2、给每一层添加名称　

import torch.nn as nn
from collections import OrderedDict

model = nn.Sequential(OrderedDict([
    ('conv1', nn.Conv2d(1, 20, 5)),
    ('relu1', nn.ReLU()),
    ('conv2', nn.Conv2d(20, 64, 5)),
    ('relu2', nn.ReLU())
]))

print(model)
print(model[2])  # 通过索引获取第几个层
print(model.conv1)
'''运行结果为：
Sequential(
  (conv1): Conv2d(1, 20, kernel_size=(5, 5), stride=(1, 1))
  (relu1): ReLU()
  (conv2): Conv2d(20, 64, kernel_size=(5, 5), stride=(1, 1))
  (relu2): ReLU()
)
Conv2d(20, 64, kernel_size=(5, 5), stride=(1, 1))
Conv2d(1, 20, kernel_size=(5, 5), stride=(1, 1))
'''

注意：从上面的结果中可以看出，这个时候每一个层都有了自己的名称，但是此时需要注意，并不能通过名称直接获取层，

依然只能通过索引index，即model[2]，不能通过model["conv2"]来获取。这其实是由它的定义实现的，看上面的Sequential

定义可知，支持inddex访问。但可以通过model.covn2获取。

2.3、Sequential的第三种实现

import torch.nn as nn
from collections import OrderedDict

model = nn.Sequential()
model.add_module("conv1", nn.Conv2d(1, 20, 5))
model.add_module('relu1', nn.ReLU())
model.add_module('conv2', nn.Conv2d(20, 64, 5))
model.add_module('relu2', nn.ReLU())

print(model)
print(model[2])  # 通过索引获取第几个层
print(model.conv1)
"""运行结果为：
Sequential(
  (conv1): Conv2d(1, 20, kernel_size=(5, 5), stride=(1, 1))
  (relu1): ReLU()
  (conv2): Conv2d(20, 64, kernel_size=(5, 5), stride=(1, 1))
  (relu2): ReLU()
)
Conv2d(20, 64, kernel_size=(5, 5), stride=(1, 1))
Conv2d(1, 20, kernel_size=(5, 5), stride=(1, 1))
"""

注意：Sequential里面并没有定义add_module()方法，实际上，这个方法是定义在它的父类Module里面的，Sequential继承了而已，它的定义如下：

def add_module(self, name, module):

---

 参考：

1、pytorch教程之nn.Sequential类详解——使用Sequential类来自定义顺序连接模型

原文：https://blog.csdn.net/qq_27825451/article/details/90551513

---