29、循环神经网络与受限玻尔兹曼机的应用与原理

循环神经网络与受限玻尔兹曼机的应用与原理

1. 循环神经网络（RNN）的应用

1.1 时间序列预测

时间序列预测任务旨在通过分析过去和当前值来预测未来值。在应用于时间序列预测的 RNN 架构中，每个隐藏节点与自身的输入度量和前一个隐藏节点相连，每个输出节点与自身的隐藏节点相连。隐藏值由自身输入值和前一个隐藏值计算得出，输出值由自身隐藏值计算得出，且该架构中只有一个输出节点。其流程如下：

graph LR
    A[输入过去和当前值] --> B[计算隐藏值]
    B --> C[计算输出值]
    C --> D[输出预测的未来值]

1.2 情感分析

情感分析的任务是将文本或句子分类为负面、中性或正面。每个单词对应一个数值（词码）作为输入值，输入节点与隐藏节点一一连接，输出节点仅与最后一个隐藏节点相连。
- 架构特点 ：原始输入是一个由多个单词组成的句子，每个单词被编码为数值，输入节点对应词码，每个隐藏节点连接自身输入节点和前一个隐藏节点，输出节点是表示正、中、负的三个离散值之一，与最后一个隐藏节点相连。与时间序列预测的 RNN 不同之处在于，此处输出节点为离散值。
- 分析过程 ：
1. 输入句子并映射为时间词序列。
2. 每个单词编码为数值。
3. 计算每个隐藏值，其由前一个隐藏值和对应输入值得出。
4. 计算单个输出值。
5. 根据连续输出值确定三个类别之一，需将连续输出值离散