- 博客(12)
- 问答 (1)
- 收藏
- 关注
原创 diffusion原理和代码延伸笔记1——扩散桥,GOUB,UniDB
本文介绍了扩散桥(Diffusion Bridge)及其在点对点任务中的应用,重点讨论了GOUB模型和更通用的UniDB框架。扩散桥通过SDE连接两个已知端点,基于Doob's h-transform修改漂移项,使随机过程能通过指定终点。GOUB模型结合GOU过程和h-transform,建立了从高质量图像到低质量图像的直接映射,避免了逆向过程的信息损失。推导了前向和反向过程的概率分布公式,展示了如何利用贝叶斯规则计算中间状态的条件概率分布。该方法为图像修复、分子设计等需精确匹配的任务提供了理论基础。
2025-07-31 23:44:02
1137
原创 应用随机过程代码篇 diffusion原理和代码 ode和sde 实验一
本文介绍了随机过程在生成模型中的应用,重点阐述了扩散模型(diffusion models)和流匹配(flow matching)的基本原理。作者从数据模态(如图像、视频、分子结构)出发,指出生成模型的核心任务是从高维向量空间中找到目标数据的概率分布。文章详细讲解了如何通过常微分方程(ODE)和随机微分方程(SDE)实现从简单初始分布到复杂数据分布的转换,并介绍了数值求解ODE的Euler方法和Heun方法。最后,作者提出利用神经网络参数化的向量场构建生成模型,将生成任务转化为概率分布的转换问题。
2025-07-25 22:10:46
1080
原创 应用随机过程速通笔记1——条件期望,泊松过程,离散马尔可夫链
本文介绍了应用随机过程的基础知识,重点讲解了条件期望和离散马尔可夫链的概念。条件期望被定义为满足特定条件的随机变量,具有线性性质和全期望公式等特征。离散马尔可夫链则强调状态转移的"无记忆性",即未来状态仅取决于当前状态。文中还简要提及了泊松过程的定义、数字特征及其与指数分布的关系,为理工科读者提供了随机过程的入门速通指南。
2025-06-14 18:36:36
553
原创 今年浦江AI学术年会个人感想与少部分知识的见解
周伯文主席上台也是抛出了很多的问题呀,下面主流问题也是后面平行会议的内容主题。1.自回归大模型在Scaling Law之外有其他选择吗?2.具备Scale up潜力的模型架构演进方向在何方?3.探索通往AGI的道路,评测能做什么?4.我们需要什么样的AI4S基座模型?5.公开高质量数据即将用尽了吗?如何未雨绸缪?6.不同具身技术路线的能力边界在何处?7.AI能力的提升是带来还是解决AI安全问题?
2024-12-16 23:01:11
763
原创 统计学习方法之EM算法作业9.4,朴素贝叶斯法的无监督学习
最近对EM算法用于无监督学习的朴素贝叶斯分类决策器很感兴趣,但奈何找了不少资料我也没彻底看懂。那么我们知道EM算法的Q步是针对完全数据(包含观测数据序列和隐变量数据序列)。由于PDZ∣θ设计隐变量Z,我们通过Q函数对其求关于Z随机变量的期望迭代近似。接下来进入正题:假设有一个未标注的数据集Dx1x2xN,其中每个数据点xi∈xi1xi2xiM。每个数据点对应一个隐藏的类别标签yi,取值范围为yi∈1。
2024-12-05 17:02:59
997
原创 Deepxde学习笔记——DeepONet求解偏微分方程相关理论与代码实战
DeepONet在求解偏微分方程的理论与关于Deepxde中DeepONet的代码编写的个人小小心得。DeepONet真正的强大之处在于:其可以学习各种显式算子,如积分和分数拉普拉斯算子,以及表示确定性和随机微分方程的隐式算子。
2024-11-13 12:51:48
4338
1
原创 常微分方程复习——连续动力系统极限环备忘
常微分方程极限环相关知识:极限环及其稳定性的概念,PB定理,Bendixson判据和Dulac判据。内容涵盖首次积分,matlab绘图分辨极限环等。
2024-09-01 11:25:11
3951
原创 Datawhale X 李宏毅苹果书AI夏令营——Task2自适应学习率,分类与回归
多元分类问题:类别数大于二(至少是三)的分类,A、B、C……,多分类世界中,某个物品可能是A、可能是B,也可能是C。此时,不能再简单地输出一个概率值来判断类别(因为类别一多,在截断误差后很可能出现概率相同的情况),而是需要通过得到每个类别的概率(这样可以体现概率的相对性,比如A相对B更多,B相对C更少),以此进行分类,在模型训练初期,使用预热来防止学习率过大导致的梯度爆炸,一定程度(不知道什么程度)后,逐渐减小学习率,确保能够稳定收敛?自适应学习率方法根据梯度大小自动调整学习率,解决固定学习率的问题。
2024-08-31 22:38:05
1042
1
原创 Datawhale X 李宏毅苹果书AI夏令营——简单的笔记与心得总结
我们所关注的梯度为零的点:局部最小值,局部最大值,鞍点而:局部极小值:一段邻域内是让因变量值最小的自变量选取点鞍点:一段邻域内仍有可继续优化的点可选择。
2024-08-27 23:34:17
602
原创 Datawhale:2024.8.3 Transformer建模SMILES进行反应产率预测个人笔记——对Transformer的迷思
Transformer建模SMILES进行反应产率个人笔记
2024-08-03 22:53:33
1019
1
个人整理高数常微分方程笔记
2024-09-01
中缀表达式转后缀表达式并求值栈方法
2023-10-16
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅