在上一篇文章中,我们深入了解了强化学习的核心概念,并实现了Q - 学习算法来解决迷宫问题。本篇文章将在此基础上进一步探索,介绍另一种基于值迭代的强化学习算法——SARSA算法,以及结合深度学习的深度Q网络(DQN),带领大家迈向强化学习更深入的领域。
SARSA算法
SARSA算法原理
SARSA(State - Action - Reward - State’ - Action’)算法与Q - 学习算法类似,也是一种基于值迭代的强化学习算法,但它遵循的是在线策略(on - policy)学习。与Q - 学习的离线策略(off - policy)不同,SARSA在更新Q值时,使用的是实际执行的动作,而不是像Q - 学习那样使用最优动作。
SARSA算法的更新公式如下:
Q ( s