DRL-CO 笔记

Combinatorial Optimization Methods Based on Deep Reinforcement Learning

本人学习笔记

参考：

• https://zhuanlan.zhihu.com/p/32085405
• https://zhuanlan.zhihu.com/p/135970560

Transformer Self-Attention 资源记录

• 英文详解，有图文：http://jalammar.github.io/illustrated-transformer/
• 原始论文：Attention Is All You Need

LSTM

Base: RNN

(台大李宏毅教授)

符号意义：
$x$ 为当前状态下数据的输入， $h$ (hidden state) 表示接收到的上一个节点的输入。
$y$ 为当前节点状态下的输出，而 $h^{\prime }$ 为传递到下一个节点的输出。

$y$ 则常常使用 $h^{\prime }$ 映射到一个线性层, 具体怎么映射看模型。

模型总览：注意这里的 $f$ 都是相同的

LSTM

长短期记忆（Long short-term memory) 网络

解决长序列训练过程中的梯度消失和梯度爆炸问题, 相比普通的RNN，LSTM能够在更长的序列中有更好的表现。

整体结构

与RNN对比：

可以看到LSTM 比 RNN 多了一个 $c$