qq_42824207的博客

2014年12月， Kingma和Lei Ba两位学者提出了Adam优化器，结合AdaGrad和RMSProp两种优化算法的优点。对梯度的一阶矩估计（First Moment Estimation，即梯度的均值）和二阶矩估计（Second Moment Estimation，即梯度的未中心化的方差）进行综合考虑，计算出更新步长。综合Adam在很多情况下算作默认工作性能比较优秀的优化器。

2）、预测道路的拥堵情况受当前道路附近道路拥堵的情况，受这几个道路过去几分钟道路拥堵的情况。如果模型针对一条本来数据“畅通”分类的数据预测错了，那么预测结果错的情况下就不是只有“拥堵”这个情况，有可能是其他三类的一种，也有一定的概率预测分类为“比较畅通”，那么就相当于提高了模型的抗干扰能力。每条道路的拥堵情况不仅和当前道路前一个时间点拥堵情况有关系，还和与这条道路临近的其他道路的拥堵情况有关。速度是直观的反映拥堵状况的指标之一，速度的衰减意味着行程时间的增加，出行效率的降低。加拿大也带来了北美地区的说法。

动量参数（Momentum）：这是用于加速梯度下降的参数，可以增加梯度的方向性，从而帮助模型更快地收敛。参数的学习是模型训练的过程，目标是找到最佳的参数配置，使得模型能够对新的未见过的数据进行准确的预测。模型参数是通过训练过程从数据中学习得到的，例如线性回归中的斜率和截距，或者神经网络中的权重和偏置。而超参数则是手动设置的参数，用于控制模型的行为和性能，超参数的选择和优化对模型性能有重要影响。参数是模型中可被学习和调整的参数，通常是通过训练数据来自动学习的，以最小化损失函数或优化目标。

(5)MTGNN，一种能够通过图学习层学习多尺度时空特征的模型，无需事先了解图结构;(3)Graph WaveNet，一个利用自适应依赖矩阵并融合一维因果卷积和图卷积来捕获时空依赖性的时空网络;(9)DAGN，一种域对抗图神经网络，可捕获节点对相邻关系，以实现时空信息的动态聚合。(8) DSTET，一种通过解耦空间和时间嵌入来增强时空特征特征的变压器网络;(2)STGCN ，一个堆叠一维门控卷积块和图卷积块的时空网络;4. KST-GCN：用于流量预测的知识驱动的时空图卷积网络。5. 曲率图神经网络。

这是一个让人又爱又恨的算法。其中最著名的例子是Google的BERT模型，它在多项NLP任务中都取得了很好的效果，包括情感分析、问答系统等。例如，可以使用VAE生成符合特定主题的图片，如特定风格的图片、特定主题的图片等，妥妥的生成式插画家。在 TRPO 中引入了信赖域来缓解学习不稳定的问题，但是计算开销太大，于是他又将其简化成了 PPO，显然他觉得这种改进工作贡献不大，甚至都没投论文，就挂在Arxiv上。没想到的是 PPO 太好用了，简单稳定高效，搞应用的人手一个，甚至 ChatGPT 也用的 PPO。

4) 研究方法：【材料与方法：试验材料、试验步骤、分析方法】、[研究达成怎样的效果]针对现有研究的不足以及缺陷，描述自己研究的亮点及创新点（与后文讨论部分一一对应）。研究背景从大方向进行简要概述，逐渐进入本文核心解决问题，提出研究的意义和价值。简要归纳本研究主要研究方案和计划，强调本研究的意义，升华文章主题。阅读目的：入门了解前沿、发掘可研究点、获取写作素材、学习研究方法。：绪论、过往研究、理论框架基础、提出问题、研究意义、解决问题的步骤。整体研究背景概述，由大到小，直击重点，提出问题。