布谷AI的专栏

目录本能想解决什么问题？global/local Attentionadditive Attentionself AttentionMulti-Head Attention应用案例本能在认知神经学中，注意力是一种人类不可或缺的复杂认知功能，指人可以在关注一些信息的同时忽略另一些信息的选择能力。在日常生活中，我们通过视觉、听觉、触觉等方式接收大量的感觉输入。但是我们的人脑可以在这些外界的信息轰炸中还能有条不紊地工作，是因为人脑可以有意或无意地从这些大量输入信息中选择小部分的

Logistic Regression：二分类线性分类器。

SEED RL：Scalable,EfficientDeep-RL，每秒处理数百万张图片的分布式强化学习框架。

GA3C：GPU-basedAsynchronousAdvantageActor-Critic是A3C的GPU实现，混合CPU/GPU，提高学习效率。

AsynchronousAdvantageActor-Critic是一种异步的基于优势函数的Actor-Critic并行学习算法。Actor指需要学习的policy π，Critic指需要学习的Value Function。

优势函数表达在状态s下，某动作a相对于平均而言的优势。从数量关系来看，就是随机变量相对均值的偏差。使用优势函数是深度强化学习极其重要的一种策略，尤其对于基于policy的学习。

TD3是一种面向连续动作空间基于Actor-Critic架构的深度强化学习算法，在DDPG​​​​​​​算法基础上，同时对policy网络和value网络进行改进，优化了Q-Value的过高估计问题。

Dueling DQN: Q=V+A.在特征层和输出层之间的全连接层，分成了两部分，一部分用于近似state-value V(s)，另一部分近似Advantage-Function A(s, a)，求和(combine)得到最终的Q(s, a).

DQN是Q-learning的深度神经网络实现，针对离散动作空间的model free、off policy深度强化学习算法。