PyTorch打印网络结构详解

一、PyTorch打印网络结构图

在深度学习中，网络结构对于我们理解模型、调试网络、优化结构等方面非常重要。PyTorch提供了多种方法来输出网络结构图。

我们首先使用PyTorch官方提供的可视化工具PyTorchViz，它能够方便地展示神经网络中层与层之间的数据传递流程，它基于GraphViz开发。

import torch
from torchviz import make_dot
import torch.nn as nn


class Net(nn.Module):
    def __init__(self):
        super().__init__()
        self.conv1 = nn.Conv2d(3, 6, 5)
        self.pool = nn.MaxPool2d(2, 2)
        self.conv2 = nn.Conv2d(6, 16, 5)
        self.fc1 = nn.Linear(16 * 5 * 5, 120)
        self.fc2 = nn.Linear(120, 84)
        self.fc3 = nn.Linear(84, 10)

    def forward(self, x):
        x = self.pool(nn.functional.relu(self.conv1(x)))
        x = self.pool(nn.functional.relu(self.conv2(x)))
        x = x.view(-1, 16 * 5 * 5)
        x = nn.functional.relu(self.fc1(x))
        x = nn.functional.relu(self.fc2(x))
        x = self.fc3(x)
        return x


# 创建模型并可视化网络结构图
net = Net()
x = torch.randn(1, 3, 32, 32)
y = net(x)
make_dot(y, params=dict(net.named_parameters()))

该代码将会输出一个网络结构图，其中每个方框代表一层神经节点，箭头表示数据流向。在每个方框上方，都有该层的名称、输入形状和输出形状等信息。可以使用以下命令保存图像：

make_dot(y, params=dict(net.named_parameters())).render("net")

二、PyTorch怎么打印网络结构

对于一些小型的网络，上面的方法可能有点繁琐。PyTorch提供了一个简单的方法来输出神经网络的结构。我们只需要在创建模型时，在最后增加一个print语句即可：

import torch
import torch.nn as nn


class Net(nn.Module):
    def __init__(self):
        super().__init__()
        self.fc1 = nn.Linear(10, 20)
        self.fc2 = nn.Linear(20, 30)
        self.fc3 = nn.Linear(30, 1)

    def forward(self, x):
        x = nn.functional.relu(self.fc1(x))
        x = nn.functional.relu(self.fc2(x))
        x = self.fc3(x)
        return x


# 创建模型并打印网络结构
net = Net()
print(net)

执行代码后，会在控制台输出一张网格图，它展示了神经网络的完整结构，包含网络层、对应的输入和输出形状等信息。

三、PyTorch网络结构

在PyTorch中，可以通过继承nn.Module来创建自定义的神经网络结构。在初始化函数中，我们可以定义网络中包含哪些层并保留它们的引用，然后在forward()函数中定义它们之间的关系。

下面是一个简单的例子，展示了如何创建一个包含三个线性层的神经网络：

import torch.nn as nn


class Net(nn.Module):
    def __init__(self):
        super().__init__()
        self.fc1 = nn.Linear(10, 20)
        self.fc2 = nn.Linear(20, 30)
        self.fc3 = nn.Linear(30, 1)

    def forward(self, x):
        x = nn.functional.relu(self.fc1(x))
        x = nn.functional.relu(self.fc2(x))
        x = self.fc3(x)
        return x


# 创建模型
net = Net()
print(net)

这段代码创建了一个包含三个线性层的神经网络模型，第一层有10个输入节点，第二层有20个节点，第三层有1个输出节点。

四、PyTorch打印模型结构

使用PyTorch，我们可以很容易地输出网络模型的结构信息，包括各层神经元的个数、各层之间连接的方式等。我们只需要在建立模型后运行以下代码即可输出模型结构：

import torch
import torch.nn as nn


class Net(nn.Module):
    def __init__(self):
        super().__init__()
        self.fc1 = nn.Linear(10, 20)
        self.fc2 = nn.Linear(20, 30)
        self.fc3 = nn.Linear(30, 1)

    def forward(self, x):
        x = nn.functional.relu(self.fc1(x))
        x = nn.functional.relu(self.fc2(x))
        x = self.fc3(x)
        return x


# 创建模型
net = Net()
print(net)

执行该代码后，会打印出该神经网络的结构信息，包括每一层的名称、类型、输出形状和参数个数等。

五、PyTorch打印网络参数

我们可以使用state_dict()函数输出PyTorch神经网络的所有参数。其中，state_dict()返回一个字典，它包含了网络所有层的参数以及对应的权重数组。

import torch.nn as nn


class Net(nn.Module):
    def __init__(self):
        super().__init__()
        self.fc1 = nn.Linear(10, 20)
        self.fc2 = nn.Linear(20, 30)
        self.fc3 = nn.Linear(30, 1)

    def forward(self, x):
        x = nn.functional.relu(self.fc1(x))
        x = nn.functional.relu(self.fc2(x))
        x = self.fc3(x)
        return x


# 创建模型
net = Net()

# 输出网络参数
for name, param in net.state_dict().items():
    print(name, param.shape)

执行该代码，可以看到输出了每一层神经元的名称及对应的权重数组形状。

六、PyTorch输出网络结构

PyTorch提供了多种方法来输出神经网络结构，有些方法是输出文本格式描述，有些方法则输出网络结构图像。我们可以根据任务需要采取不同的输出方式。

在大多数情况下，打印模型结构和参数以及输出网络结构图像能够方便地帮助我们调试和修改神经网络结构。

七、PyTorch查看网络结构

我们可以使用PyTorch提供的方法，一次性输出整个神经网络结构，这可以帮助我们更清楚地了解神经元之间的联系。

import torchvison.models as models


# 创建预训练模型resnet18
model = models.resnet18(pretrained=True)

# 输出网络结构
print(model)

执行代码后，会输出该预训练模型的完整神经网络结构。上述代码假设我们已经安装了torchvision包且预先训练了一个resnet18模型。

八、PyTorch修改网络结构

当我们需要修改神经网络结构时，PyTorch提供了几种方法。对于一些简单的修改，我们可以采用以下两个方法：

首先，我们可以直接对PyTorch神经网络模型中的参数进行修改，例如添加、删除或替换层等。例如，对于下面这个简单的线性网络，我们可以通过如下方式增加一层：

import torch
import torch.nn as nn


class Net(nn.Module):
    def __init__(self):
        super().__init__()
        self.fc1 = nn.Linear(10, 20)
        self.fc2 = nn.Linear(20, 1)

    def forward(self, x):
        x = nn.functional.relu(self.fc1(x))
        x = self.fc2(x)
        return x


# 创建模型
net = Net()

# 添加新层
net.fc3 = nn.Linear(1, 1)
print(net)

上述代码在模型中添加了一个输出形状为（1,1）的线性层，下面是完整的模型结构：

Net(
  (fc1): Linear(in_features=10, out_features=20, bias=True)
  (fc2): Linear(in_features=20, out_features=1, bias=True)
  (fc3): Linear(in_features=1, out_features=1, bias=True)
)

第二种方法是使用PyTorch提供的nn.Sequential()函数，该函数可以帮助我们按照给定的顺序创建神经网络层。

import torch
import torch.nn as nn


class Net(nn.Module):
    def __init__(self):
        super().__init__()
        self.net1 = nn.Sequential(
            nn.Linear(10, 20),
            nn.ReLU()
        )
        self.net2 = nn.Sequential(
            nn.Linear(20, 30),
            nn.ReLU()
        )
        self.fc = nn.Linear(30, 1)

    def forward(self, x):
        x = self.net1(x)
        x = self.net2(x)
        x = self.fc(x)
        return x


# 创建模型
net = Net()
print(net)

以上代码展示了如何使用nn.Sequential()函数对线性网络增加一个ReLU层。在实际应用中，我们可以使用这个方法对神经网络进行各种修改操作。