- 博客(27)
- 资源 (1)
- 收藏
- 关注
原创 2026-1-30 LingBot-VA解读
然后把K和V拼接到Kcache和Vcache中去,维度一样来到[B,[1,t],N,C],用Kcache和Vcache和Q做因果attention。用旧的obs + 动作历史 ,以视觉模型推测当前obs,再用旧的obs,动作历史,当前obs的推测值,推测新的动作。而KVcache的目的在于不用计算t步之前的K和V,即:[B,[1,t-1],N,C]部分不用再计算。重新计算第t步的K和V:[B,[1,t],N,C]: 视觉模型输出的加噪图像,动作模型输出的动作。重新计算第t步的K和V:[B,1,N,C]
2026-02-01 21:06:49
969
原创 2025顶刊DreamerV4,离线世界模型
在训练过程中会存在patch dropout,以一个p=0.1左右的概率随机丢掉patch,用随机值顶替,并且这个随机值是网络参数,会受到反向的影响。先对tokenizer的输出进行shortcut,然后与动作a拼接,在空间上采样成稀疏attention需要的交错序列。先训练tokenizer,再训练世界主框架因果块,接着用reward等微调主框架,最后带入策略模型训练。输出是干净没有噪音的z,损失函数使用shortcut模型的损失,其本身就是一个shortcut模型。
2026-01-29 11:22:52
915
原创 2021顶刊DreamerV2,在V1上的改进
V2 将 Prior 的 cross entropy 和 Posterior entropy 的比例分开调整,有助于先验学习更准确的 dynamics。正向的过程与ppo一样,但是reward,discount来自环境训练时的网络,actor和critic的输入是中间状态z。在V2中,它们的输出不再是连续的分布,而是离散的值:categorical x classes。原本的V1中,Prior和Posterior的输出是BxTx2(正太分布的参数)在Atari的游戏上进行了测试几种模型的结果。
2026-01-22 10:09:34
560
原创 2020顶刊:DreamerV1,通过幻想完成rollout的环境
DreamerV1 是一个高样本效率的 latent space model-based RL 框架,把 RL 问题搬到可微分的 world model 中训练策略,但依赖 world model 精度。是标准的ppo模型,其中rollout时的环境被替换为GRU+Prior网络(MLP)产生的“幻想”,Reward函数被替换为Reward网络(MLP)分别模拟真实Obs环境和Reward环境,是两个MLP,用于矫正Posterior网络。其中,Posterior和Prior将GRU的输出投射至低维空间。
2026-01-21 10:30:56
500
原创 2025年UDE,快速读懂
如果嵌入维度数m>2d,d是系统吸引子的分形维度,那么延迟嵌入空间与原系统状态空间在拓扑意义下是等价的。最后将这个Hankel矩阵划分为UxV个2D的patch进入UDE模型。这种结构有效捕获了时间序列的延迟交叉关系,是重构动力学轨迹的基准表示。将每个patch看作一个token,作为transformer的输入。结构上来说只有patch这部分的改动,在解释性上作出了改进。(延迟嵌入后的向量也是一个保持动力学系统结构的坐标变换)用 动力系统理论解释 patch 的合理性。然后通过MLP预测头去预测未来。
2026-01-19 13:50:54
310
原创 为什么Attention在时序任务上能成功?理论支持是什么?2024-2025的热点之一
对一个确定性动力系统,只要用足够长的时间延迟向量,即便只能观测一个标量时间序列,也可以在高维空间中无失真地重构原系统的状态空间几何结构。深度学习模型做时序任务,想要模型建模出任务的具体细节,可以只用单维度,也可以用多维度,但是模型的输入序列长度必须超过自由活动参数的2倍。用单一传感器的历史观测值,构造一个高维向量,用它“代替”真实系统状态。为系统在某一时刻的真实状态,属于高维但不可观测的状态空间。为观测函数,将真实状态映射为可观测的标量(如传感器读数)m为嵌入维数,即延迟向量的长度(B,T,N)中的T。
2026-01-16 17:14:14
603
原创 World Models 世界模型开山之作
时序依赖只能靠 policy / value 网络隐式记忆。强化学习与世界模型方向的奠基性工作之一。agent 每一步都必须真实与环境交互。环境昂贵 / 不可微 / 不可复用。C 决定系统在“想象中如何被利用”M 决定系统能不能被“想象”
2026-01-13 19:23:22
81
原创 2025顶会TimeDRT快速解读
主要思想是将时间点分成Patch,再进行Patch级别的独立加噪。原本的embedding对T上每个点进行embedding。Patch 长度 P 的选择敏感,可以考虑增加尺度的思想。是累计噪声保留率,S是总扩散步数,s是逐步扩散步数,然后进行一次Embedding(Linear)对于每个patch进行多次加噪。每隔P分割一次,得到序列z。
2026-01-12 17:23:11
591
原创 SA-TDGFormer快速读懂+锐评(2025)
self-attention很容易遗忘远距离但是重要的token,其本身在学习长距离特征时是存在局限的。思想是很不错的,GCN擅长局部拓扑,Transformer擅长全局关联,两者互补。两个分支之间的信息只在最后部分共享,这意味着共享之后,没有结构处理长期依赖。E=QxK,Q和K是输入X的映射(Linear/1x1Conv)A是固定的邻接矩阵,L是全学习(随机初始化)的矩阵,先对每个时间步做一次self-attention,标准的self-attention,原文的符号有问题,我们令。
2026-01-11 11:17:02
832
原创 快速读懂DiffSTG
用扩散模型,对噪声和不确定性更鲁棒,模型可以生成多样化且平滑的未来序列。对硬件要求高,训练慢,而且使用的是静态图,动态图就更慢了。真实未来序列(训练阶段),推理阶段使用随机噪声。对每个扩散步 t 生成一个one-hot向量。是 第 s 步扩散保留原始信号的比例。对每个扩散步 t 生成一个固定长度向量。输出B,T,N,dt。输出B,T,N,dt。
2026-01-09 16:57:35
387
原创 STGODE快速读懂
神经 ODE 类型方法的数值稳定性、求解误差与求解器选择(步长、方法)息息相关,需要特别设计和调参,否则可能造成训练不稳定或效率低下。大多数 STGNN 与 STGODE 类模型都假定图的结构(邻接矩阵)是已知或可预定义的,实际应用中这种先验信息往往不可得或不稳定。STGODE 的 ODE 结构可视为更深层次连续系统,可以更有效捕获远距离空间相关性。对时间维度(T)通常是单独处理的,而不是把整个时间序列作为连续整体来建模。并不存在不同时间节点之间的关联,对于T=t,独立进行计算。TCN的输出是k=0。
2026-01-05 18:21:55
592
原创 快速读懂DGCRN
动态图 + 混合图 + GraphGRU 能同时捕捉空间和时间依赖。计算复杂度高:动态图矩阵乘法和 GraphGRU 对大规模图不友好。自回归误差累积:多步预测时前一步预测误差会传递。图卷积嵌入到 GRU 内部。每个时间步动态生成图。
2026-01-03 23:01:08
252
原创 快速读懂AGCRN
DAGG 生成的 A_hat 一般是静态的(共享整个序列),如果节点关系随时间动态变化,AGCRN 不能直接捕捉。时间维度处理仍依赖 RNN(对长序列可能会比 Transformer/Attention 慢或梯度更难优化)虽然比全局 attention 轻量,但 AGCN 仍需 NxN 矩阵操作,节点很多时可能内存消耗大。第一步是在BxN维度上右乘NxN的邻接矩阵,第二步是BxNxF右乘FxD。node_emb 是随机初始化的,需要训练充分,否则容易收敛慢。
2026-01-02 17:01:59
914
原创 快速读懂STFGNN
把时序关系也当成图来学 的空间-时间预测模型,思想很新,但工程性和泛化性都一般,更像一次结构探索而不是终极解法。首先对于Fusion Graph,原文只给出了概念:时间图中的节点代表时间片,边的权重由交通模式的相似度决定。在时间维 T 上做 GRU / Attention(NxF,B上直接复制),得到新的节点特征表示。时间片之间的距离(DTW)(第 i 个时间片的整张图状态和第 j 个时间片的整张图状态像不像?注意:原文不是这样的,但是之后的工作大部分都这样做。总输出是B,T,N,N。
2026-01-02 00:02:36
861
原创 高速读懂GMAN
注意这里STE会生成两个STE_hist和STE_future,hist进入encoder,future直接去Cross attention。然后是TE,逐t进行计算,W是Nx(Td+7),TE最终是TxN的,在D维度上复制成TxNxD。SE是一个NxD的可学习参数矩阵,然后在T维度上复制成TxNxD。然后加一个STE参数矩阵,由SE和TE构成。然后这个STE在B维度上复制,最后与H相加。先线性映射到dim维度上。
2025-12-31 21:54:57
359
原创 快速看完MTGNN
因为 空间关系随时间尺度变化,TC 通过 dilation 把不同尺度分离。MTGNN为什么要 TC + GC 交替?该网络学的是不同时间尺度下的不同图。
2025-12-30 23:35:35
207
原创 快速读懂GraphWaveNet
GraphWaveNet是一种新型时空图神经网络,其核心创新在于让邻接矩阵A参与训练。模型通过堆叠多个Graph WaveNet Block处理输入数据,每个Block包含三个关键组件:1)扩张因果时间卷积(Dilated Causal TCN),仅使用历史信息进行预测;2)门控TCN结构(tanh⊙sigmoid);3)多图卷积层(前向、后向和自适应图)。特别地,自适应邻接矩阵Aadp通过可训练的节点嵌入(E1,E2)生成,softmax(ReLU(E1E2^T))动态学习空间关系。模型还整合了残差连接和
2025-12-29 18:04:26
686
原创 快速读懂DCRNN
DCRNN(Diffusion Convolutional Recurrent Neural Network)通过将扩散图卷积嵌入GRU门控机制,实现了对有向空间依赖和长期时序动态的联合建模。模型采用Encoder-Decoder框架,其中Encoder和Decoder均采用DCGRU单元,利用扩散卷积处理图结构数据。扩散卷积通过多步随机游走模拟信息传播过程,支持双向信息流动,能有效捕获节点及其多跳邻居的特征。相比同期STGCN采用的图卷积+时序卷积方案,DCRNN选择了图卷积+RNN的技术路线,特别适用于
2025-12-27 22:14:41
559
原创 STGCN高效阅读
对 (B) 施加 Sigmoid 函数,将其压缩到 ((0, 1)) 区间,作为门控信号;将输入 (x) 通过线性层(如全连接层或卷积层)进行投影,并将通道数扩展为原来的两倍。hop代表一次跳跃,K-hop:从中心节点出发,经过最多K条边能到达的所有节点的集合。将线性变换后的结果沿通道维度均匀分割为两部分,分别记为 (A) 和 (B)分别对应STGCN两种变体,区别在于空间块的图卷积方式。然后将 (A) 与该门控信号逐元素相乘,得到最终输出。例如:从 (C) 维映射到 (2C) 维。最后是切比雪夫GCN。
2025-12-26 12:26:48
503
原创 YOLOv2目标检测
YOLOv2使用Darknet19的网络结构,但是Darknet19主要用于图像分类,与YOLOv2存在不同。YOLOv2网络结构YOLOv2 网络结构YOLOv2网络结构YOLOv2卷积层结构:先验框(Anchor Box)借鉴了Faster RCNN,也使用先验框(Anchor Box),YOLOv2一般每个grid设置9个先验框,每张图像13x13个grid。如何初始化先验框的大小?根据数据中目标的宽w和高h,用聚类算法生成(如K-means)需要确定的anchor boxes的参数:
2024-10-31 13:47:27
1396
原创 Python通过解释器自动安装所需的包
移植python环境麻烦?服务器没有所需的包频频报错?用两组python代码帮你解决!读取 packages.txt文件并安装其中的包。读取当前环境内的包名并储存。手动设置包名,一键安装。
2024-10-31 09:23:09
411
原创 YOLOv1目标检测
在YOLOv1(2016)提出之前,R-CNN系列算法在目标检测领域独占鳌头。R-CNN系列检测精度高,但是由于其网络结构是双阶段(two-stage)的特点,使得它的检测速度不能满足实时性双阶段区域提议(Region Proposal):在第一阶段,模型会生成一系列可能包含目标的区域。这些区域被称为“候选框”或“区域提议”。常用的算法有Selective Search等。
2024-10-22 10:37:01
1659
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅