本文介绍了使用强化学习解决旅行商问题（TSP）的思路，涉及ATTENTION, LEARN TO SOLVE ROUTING PROBLEMS! 文章中的Transformer架构和greedy rollout baseline。同时，深入探讨了seq2seq模型，特别是Dzmitry Bahdanau的注意力机制，用于解决长语句输入问题。此外，还提到了Oriol Vinyals的Pointer Networks，它解决了输出序列长度固定的限制。下篇将介绍强化学习的基础知识。"
8991125,1378954,循环链表详解：特点与环判断,"['C++', '链表', '数据结构', '指针']
实习的时候，接触到了使用强化学习去解决tsp的问题，开始先读了ATTENTION, LEARN TO SOLVE ROUTING PROBLEMS! 这篇文章，文章里更改了Transformer Architecture，并搭载了强化学习中的greedy rollout baseline去解决tsp的问题。无奈背景知识太少，也没有接触过强化学习相关的知识，读起来很费劲。经过请教公司的前辈，制定了下面的学习策略。
-
前期准备工作
-
Dzmitry Bahdanau的NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE
- 这一篇文献介绍了传统的seq2seq的问题无法解决长语句输入的问题，作者提出了一个叫“align and translate jointly”的解决方案，其实就是一个注意力机制，简单来说就是在预测一个目标词汇的时候，可以查到源语言序列中的哪一部分与它相对应，在后续查找生词中可以直接复制相对应的源语言。
- 这篇csdn博文把注意力机制的作用解释的很清楚https://blog.youkuaiyun.com/weixin_40240670/article/details/86483896。借用文章中的原句解释，“Attention Mechanism的作用就是将encoder的隐状态按照一定权重加和之后拼接（或者直接加和）到decoder的隐状态上，以此作为额外信息，起到所谓“软对齐”的作用，并且提高了整个模型的预测准确度。简单举个例子，在机器翻译中一直存在对齐的问题，也就是说源语言的某个单词应该和目标语言的哪个单词对应，如“Who
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
