参考jessie_weiqing博客:https://blog.youkuaiyun.com/cindy_1102/article/details/87907470
李宏毅深度强化学习课程 https://www.bilibili.com/video/av24724071
李宏毅深度强化学习笔记(五)Q-learning(Continuous Action)
连续行动下的 Q-Learning
连续行动:
在某些情况下,action是一个连续向量(比如驾驶类游戏,需要决定一个连续的角度)
在这种情况下,Q learning 并不是一个用来寻找最佳action的好方法
- 解决方式一:
采样一系列行动,看哪个行动会返回最大的Q值 - 解决方式二:
使用梯度上升来解决这个优化问题(具有较高的计算成本) - 解决方式三:
设计一个网络来使得这个优化过程更简单
这里 ∑ 和 μ 是高斯分布的方差和均值,因此,该矩阵 ∑一定是正定的。要让Q值较高,意味着要使得 ( a − μ ) 2 (a-\mu)^2 (a−μ)2的值更小,也就是说 a=μ \muμ.