pytorch（十）循环神经网络

卷积神经网络与循环神经网络的区别

卷积神经网络：在卷积神经网络中，全连接层的参数占比是最多的。

卷积神经网络主要用语处理图像、语音等空间数据，它的特点是局部连接和权值共享，减少了参数的数量。CNN通常包括卷积层、池化层和全连接层，卷积层用于提取输入数据的特诊，池化层用语降维和压缩特征，全连接层将特征映射到更加高维度的空间中。

卷积神经网络在处理空间数据的时候，其输入通常是一个二维或者三维的张量，每一个元素对应一个输出。CNN通过卷积操作获取特征，这些特征往往是局部相关的，即每个特征都与输入数据的一个局部区域相关联（相邻的特征往往具有相似性）。

循环神经网络

循环神经网络主要用于处理序列数据，比如自然语言处理、语音识别和时间序列预测（具有时间依赖的数据），它的特点是具有时间轴，能够保留和处理序列中的历史信息。RNN包括循环层，能够接收前一层的信息并且与当前的输入结合，生成当前的输出序列。

循环神经网络处理的数据往往是序列数据，即输入的数据是一个序列，每一个时间步都有一个对应的输出，RNN通过循环层保留和传递历史信息，从而建立时间上的依赖关系。

循环神经网络也使用到了权值共享的想法，RNN在不同的时间位置共享参数（CNN在不同的空间位置共享参数）

RNN cell结构

RNN cell的结构在本质上类似于传统的神经网络模型（输入层、隐藏层、输出层），但是RNN于传统的NN最大的区别在于：隐藏层的输入不仅包括输入层的输出，还包括上一时刻隐藏层的输出，其结构如下：

之所以叫做循环神经网络，是因为以上的cell都是同一个cell，参数也只有cell里的一份而已，在训练中，cell层使用的是循环结构，使用不同的输入数据进行训练。

构造RNN

第一种方法 RNNCell

cell=torch.nn.RNNCell(input_size=input_size,hidden_size=hidden_size)
hidden=cell(input,hidden)
# input of shape(batch,input_size)
# hidden of shape(batch,hidden_size)
# output of shape(batch,hidden_size)
# dataset.shape(seqLen,batchSize,inputSize)

import torch

batch_size=1 # N=1
seq_len=3 # x=[x1,x2,x3]
input_size=4 # [4*3]
hidden_size=2 # [2*3]
# 两种构造方式——1
cell=torch.nn.RNNCell(input_size=input_size,hidden_size=hidden_size)

#(seq,batch=n,features) 序列的长度 * 批量 * 维度
dataset=torch.randn(seq_len,batch_size,input_size)
# 批量 * 维度
hidden=torch.zeros(batch_size,hidden_size)

print('dataset:',dataset)
print('hidden:',hidden)

# 构造循环
for idx,input in enumerate(dataset):
    print('=' *20,idx,'='*20)
    print(input)
    print('Input size:',input.shape)
    
    hidden=cell(input,hidden)
    
    print(hidden)
    print('Outputs size:',hidden.shape)
    print(hidden)

第二种方法

cell=torch.nn.RNN(input_size=input_size,hidden_size<