深度学习Pytorch入门：神经网络模型的参数初始化操作

本文重点

其实如果我们使用 pytorch 封装好的网络层的时候,我们并不需要对模型的参数初始化,因为这些都是 pytorch 帮助我们完成的,但是如果我们自己搭建模型(不使用 pytorch 中的封装好的网络层)或者对 pytorch 中封装好的模型初始化参数不满意,那么此时我们对模型进行参数初始化。

用 pytorch 已经封装好的层来搭建网络模型

import torch
import numpy as np
from torch import nn

class Simple_net(nn.Module):
	def __init__(self):
		super(Simple_net,self).__init__()
		self.layer1=nn.Linear(4,3)
		
	def forward(self,x):
		return self.layer1(x)
		
net=Simple_net()
print(net)
print(net.layer1.weight.shape)    # torch.Size([3, 4])
data=torch.randn(5,4)
out=net(data)
print(out.shape)    # torch.Size([5, 3])

输出为：

Simple_net(
  (layer1): Linear(in_features=4, out_features=3, bias=True)
)
torch.Size([3, 4])
torch.Size([5, 3])

这里我们是使用pytorch已经封装好的nn.Linear层，这里我们需要注意一点，全连接层的输入维度为4，输出维度为3，那么它的参数shape=[3,4]，所以这是需要注意的一点，如果我们要是不使用pytorch中的Linear，而是自己定义全连接层，那么我们就要这个设置参数，也就是说如果我们想要让输入层的维度为4，输出层的维度为3，那么我们就要设置自定义的全连接层的参