在PyTorch中,我们可以通过直接创建具有适当形状和类型的张量来自定义初始化LSTM的隐藏状态和细胞状态。这些张量的形状应该是(num_layers * num_directions, batch_size, hidden_size),其中num_layers是LSTM层数,num_directions是LSTM的方向数(对于双向LSTM为2,对于单向LSTM为1),batch_size是批量中的样本数,hidden_size是隐藏层的大小。
以下展示了一张图片
如何自定义初始化隐藏状态和细胞状态 到RNN,LSTM,GRU 网络:
…导入必备库…《
import torch.nn as nn
import torch
from PIL import Image
from torchvision import transforms
…RNN网络…
img = Image.open(‘00000.jpg’).convert(‘L’) #本地图片一张
tt = transforms.ToTensor()
pic = tt(img)
print(pic.size())
rnn = nn.RNN(input_size=100, hidden_size=256, num_layers=1,batch_first=True)
h0 = torch.randn(1, 1, 256) #[num_layers * num_directions, batch_size, hidden_size]。
out, hn= rnn(pic,h0)
print(out)
print(out.shape)
print(hn)
print(hn.shape)
…LSTM网络…
img = Image.open(‘00000.jp