一、扩散策略基础介绍
1.1 扩散模型概述
1.1.1 扩散模型的建模
扩散模型(Diffusion Model)通过逐步添加噪声到数据并学习逆向去噪过程实现生成任务。其核心数学框架基于随机微分方程(SDE)或分数匹配(Score Matching),通过迭代优化噪声预测网络,最终从纯噪声中恢复目标数据分布。公式表示为:
xt−1=1αt(xt−βt1−αˉtϵθ(xt,t))+σtzxt−1=αt1(xt−1−αˉtβtϵθ(xt,t))+σtz
其中,ϵθϵθ为噪声预测网络,zz为随机噪声。
1.1.2 嵌入型扩散模型正向和关键过程
嵌入型扩散模型(Embedded Diffusion)通过将状态或动作序列编码为隐空间向量,结合时序信息建模轨迹生成。正向过程逐步添加噪声破坏轨迹,逆向过程则基于策略网络重建最优轨迹。
1.1.3 扩散模型在生成任务中的应用概览
扩散模型已广泛用于图像生成、视频预测和机器人动作规划。其优势在于生成样本的多样性和对复杂分布的建模能力,尤其在长时程任务中表现优于传统强化学习方法。