自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(91)
  • 收藏
  • 关注

原创 Frame

摘要: 蛋白质结构预测的核心挑战在于处理复杂的空间约束。OpenFold和AF2采用$SE(3)$刚体建模,将残基抽象为局部坐标系(Local Frame),通过变换矩阵$T_i=(R_i,\mathbf{t}_i)$描述位置和方向。构建正交基时,利用Gram-Schmidt过程从骨架原子坐标推导标准正交矩阵$R_i$,确保几何合理性。坐标系的局部化与全局化转换是动力学计算的基础。模型训练初期采用“残基气体”策略,所有残基重叠于原点,通过迭代更新逐步推演结构。$SE(3)$流形上的更新通过李代数增量实现,避

2026-05-02 18:03:48 399

原创 SE(3) 不变性与等变性

《蛋白质动力学的几何基础:对称性与AI建模的核心挑战》 摘要:蛋白质建模的核心挑战在于理解其三维结构的几何特性,特别是对称性原理。文章系统阐述了不变性与等变性在蛋白质分析中的关键作用:平移与旋转不应改变蛋白质的物理属性(不变性),而方向性输出需随输入同步变换(等变性)。通过SE(3)特殊欧几里得群的数学框架,作者论证了蛋白质手性对镜像变换的敏感性。文章批判了直接回归坐标的传统MLP方法,指出其违反几何原理的本质缺陷,强调必须构建具备SE(3)等变性的网络算子才能准确模拟蛋白质动力学。最后以原子受力预测为例,

2026-05-02 18:02:51 431

原创 【VAE】——带采样的 AE

摘要:本文深入解析了VAE(变分自编码器)与普通AE(自编码器)的核心区别,揭示了VAE在隐空间连续性和语义一致性方面的优势。普通AE通过编码-解码最小化重建误差,导致隐空间呈现孤岛化,相邻点无语义关联。VAE通过重参数化技巧和KL散度约束,将隐空间映射为标准正态分布,强制后验分布平滑过渡,避免模型退化。KL散度不仅防止方差趋零,还形成"引力场"使隐空间连续可微,为扩散模型提供必要梯度场。训练时VAE通过ELBO损失(重建损失+KL损失)联合优化,使隐空间具备生成能力,这是主流扩散模型选

2026-04-12 17:00:17 387

原创 Rectified Flow

本文探讨了Flow Matching(FM)框架中路径交叉问题的解决方案。通过引入最优传输(OT)理论,FM实现了噪声到图像的直线路径匹配,大幅提升了生成效率。文章进一步介绍了Rectified Flow技术,其核心Reflow过程通过迭代优化解决了向量场中的路径交叉顽疾:首阶段随机配对训练模型,第二阶段用模型生成确定性样本对重新训练,使向量场变得平行且平滑。这种方法显著提升了图像生成质量,减少了ODE求解步数,如Stable Diffusion 3仅需几步即可出图。研究揭示了直线路径在降低离散误差和加速收

2026-04-01 19:59:18 479

原创 Flow Matching

本文介绍了Flow Matching(FM)技术,通过数学建模描述从高斯噪声到目标数据的生成过程。核心思想是利用流映射和向量场控制粒子运动,使概率密度从噪声分布演化为数据分布。FM通过条件概率路径简化问题,将全局路径分解为单个样本的条件路径叠加。关键突破是提出无需模拟ODE的训练方案,通过拟合条件向量场间接学习全局速度场。CFM损失函数使模型自动学习期望速度,极大提升了训练效率。该方法巧妙结合概率路径设计和向量场回归,为生成模型提供了高效连续的解决方案。

2026-04-01 19:56:34 532

原创 SDE & ODE

摘要:本文探讨了扩散模型中的Probability Flow ODE(PF-ODE)理论。通过Fokker-Planck方程推导,证明了任何扩散SDE都存在一个具有相同边缘概率分布的ODE,其形式为dx/dt=f(x,t)-1/2g(t)²∇ₓlogpₜ(x)。研究指出,当DDIM的随机性参数σ=0时,其实质是在用欧拉法求解PF-ODE。文中对比了SDE和ODE两种视角:SDE通过注入噪声帮助跳出局部最优,而ODE则沿着分数函数平滑迁移。虽然SDE生成结果具有随机性,但统计特征与ODE生成结果在理论上无法区

2026-03-31 22:23:56 347

原创 Score-based Models

本文深入探讨了基于 Langevin 动力学的生成模型理论框架。首先介绍了过阻尼朗之万方程,通过随机微分方程将图像生成问题转化为从简单先验分布向目标分布的转换过程。重点分析了两种关键方法:显式分数匹配(ESM)由于计算复杂度高难以实用,而去噪分数匹配(DSM)通过引入可控噪声巧妙规避了这一问题,其损失函数最终形式与DDPM模型完全一致。文章进一步从随机微分方程(SDE)视角统一了各类扩散模型,将离散过程推广到连续时间域,揭示了VP-SDE与DDPM的数学等价性。这一理论框架不仅解释了现有生成模型的运作机制,

2026-03-31 22:19:39 525

原创 【CFG】——条件生成

扩散模型从无条件生成(DDPM)发展到条件生成,主要方法包括分类器引导(Classifier Guidance)和无分类器引导(Classifier-Free Guidance, CFG)。CFG是目前主流方法,通过训练时随机丢弃条件,使模型同时学习有条件和无条件生成。推理时通过计算两者差值实现精准控制,被Stable Diffusion等广泛采用。交叉注意力机制则用于复杂文本条件控制。CFG避免了额外分类器训练,提升了生成质量和效率。

2026-03-30 23:26:41 577

原创 【DDIM】——更加深刻的视角

DDIM通过构造非马尔可夫反向过程,在保持边缘分布一致性的前提下,将扩散模型采样速度提升数十倍。其核心在于设定方差参数σ_t=0,使随机过程退化为确定性ODE,实现跳步采样与轨迹可逆。这种"逆向工程"不仅保留了生成质量,还支持图像编辑等新功能,为扩散模型开辟了新方向。

2026-03-26 12:48:45 654

原创 【DDPM】——扩散模型启程

本文简要回顾了扩散概率模型(DDPM)的核心原理与实现。前向过程通过逐步添加高斯噪声将数据破坏为纯噪声,利用重参数化技巧实现任意步的直接采样。模型训练采用U-Net预测噪声,通过最小化预测噪声与真实噪声的MSE损失进行优化。逆向过程则从纯噪声出发,利用训练好的模型逐步去噪还原数据,通过数学公式和随机噪声迭代生成最终结果。代码示例展示了关键步骤的实现,包括噪声采样、损失计算和反向采样过程。

2026-03-25 23:24:02 489

原创 Docker 入门教程(十):镜像构建、提交、打标签与上传

本文介绍了Docker镜像的构建、提交、打标签与上传方法。主要内容包括:1)镜像的两种构建方式对比(docker commit和docker build);2)使用docker commit将容器保存为镜像的步骤;3)推荐使用Dockerfile构建镜像的方法;4)镜像上传流程,包括登录、打标签和推送;5)镜像拉取操作。文章还详细说明了镜像命名格式规范,并提供了完整的实践流程。通过本教程,用户可以掌握Docker镜像全生命周期管理的核心操作。

2025-06-30 10:56:10 752

原创 Docker 入门教程(九):容器网络与通信机制

摘要:Docker网络与通信机制详解 Docker提供四种网络模式:默认bridge(NAT隔离)、host(共享主机网络)、none(完全隔离)和自定义bridge(推荐)。关键区别在于: 默认bridge网络需用IP通信,自定义网络支持DNS容器名解析 host模式性能高但安全性低 none模式适合极端隔离场景 核心操作: 创建自定义网络:docker network create mynet 查看网络详情:docker network inspect 容器连接网络:docker network con

2025-06-30 10:55:16 1207

原创 Docker 入门教程(八):Dockerfile

Dockerfile入门指南:核心指令解析 Dockerfile是构建Docker镜像的脚本文件,包含FROM、RUN、COPY等关键指令。本文详解主要指令:FROM指定基础镜像;RUN执行命令安装依赖;COPY/ADD复制文件;WORKDIR设置工作目录;CMD/ENTRYPOINT定义启动命令(后者优先级更高);ENV设置环境变量;EXPOSE声明端口。特别区分了RUN(构建时执行)、CMD(默认启动命令,可覆盖)和ENTRYPOINT(主程序入口)的差异。多阶段构建和ARG参数等进阶用法也有涉及,为容

2025-06-29 10:28:43 3224

原创 Docker 入门教程(七):容器数据卷

Docker容器数据卷教程摘要:本文介绍Docker数据卷的三种挂载方式及其应用场景。匿名卷(-v /data)自动创建但不易复用;具名卷(-v name:/data)持久化管理;绑定挂载(-v /host:/container)适合开发调试。重点讲解MySQL数据持久化方法,通过具名卷保存数据库文件,避免容器删除导致数据丢失。同时提及旧式数据卷容器技术(--volumes-from),但推荐使用具名卷和Compose替代。数据卷机制有效解决了容器数据不持久、不可共享的核心问题。

2025-06-29 10:27:03 701

原创 Docker 入门教程(六):联合文件系统(UnionFS)

Docker 通过联合文件系统(UnionFS)实现镜像分层和容器隔离。镜像由多个只读层叠加组成,每层记录文件系统的差异;容器运行时在最上方添加可写层,所有修改操作都通过写时复制(Copy-on-Write)机制实现。这种设计带来高效复用、缓存加速和版本一致性等优势。文章详细介绍了镜像层级结构、写层工作原理、存储驱动类型以及从镜像到容器的完整生命周期,揭示了Docker轻量化、高效化的底层机制。理解UnionFS是掌握Docker镜像管理、容器运行和持续集成的关键基础。

2025-06-28 10:20:10 991

原创 Docker 入门教程(五):Docker 命令思维导图

《Docker命令思维导图教程》通过可视化方式梳理了Docker的核心操作流程。主要内容包括:镜像生命周期管理(build/pull/push/tag/rmi)、容器操作(run/exec/logs/stop/rm)、主机与容器文件交互(cp)、镜像构建与打包(build/save/export),以及仓库管理(login/pull/push)等。文章采用Mermaid流程图和结构图清晰展现了Dockerfile→镜像→容器的完整链路,并分类列出40余个常用命令及其功能,如docker inspect查看元

2025-06-28 10:18:47 1136

原创 Docker 入门教程(四):容器命令

本文介绍了Docker容器管理的核心命令。主要内容包括:使用docker run创建并运行容器(支持交互模式、后台运行、端口映射等参数);查看容器列表的docker ps命令;容器生命周期管理(停止、启动、重启和删除);进入容器的exec和attach方法;查看容器日志和详情的命令;监控容器资源使用的方法;以及常用容器命令速查表。这些命令涵盖了从容器创建到销毁的全流程操作,是使用Docker的基础知识。

2025-06-27 10:41:35 540

原创 Docker 入门教程(三):镜像操作命令

本文介绍了Docker镜像操作的常用命令与技巧。主要内容包括:通过docker pull获取镜像并指定版本;使用docker images查看镜像列表并过滤结果;通过docker rmi删除镜像;docker search搜索公共镜像;docker tag为镜像打标签;以及查看镜像详情、历史、导出导入镜像等操作。文章还提供了清理无用镜像的方法和常用命令速查表,帮助开发者高效管理Docker镜像,适用于日常开发与维护工作。

2025-06-27 10:39:59 1088

原创 Docker 入门教程(二):Docker 的基本原理

Docker基本原理与架构解析 Docker采用C/S架构,由三大核心组件构成:客户端命令行工具、dockerd守护进程和镜像仓库。客户端通过HTTP API与dockerd交互,后者负责实际执行镜像管理、容器创建等操作,并维护镜像和容器两大核心资源。镜像仓库(如Docker Hub)是镜像集中分发平台。镜像与容器的关系可类比为"类与实例"或"安装包与运行程序"——镜像作为静态模板,容器是其动态实例化结果。执行docker run时,Docker会依次完成镜像检查/下

2025-06-26 22:37:44 1013

原创 Docker 入门教程(一):从概念到第一个容器

Docker入门教程:从概念到第一个容器 本文介绍了Docker的基础知识,包括其作为开源容器化平台的特性,以及与虚拟机的对比。文章详细讲解了Docker的核心概念:镜像(Image)、容器(Container)、Dockerfile和仓库(Registry)。同时提供了Windows/macOS和Linux(Ubuntu)系统的Docker安装指南,并展示了如何通过"docker run hello-world"命令运行第一个测试容器。最后列举了常用的Docker命令,如查看容器/镜像

2025-06-26 22:34:27 1770

原创 【AI模型学习】上/下采样

基于Transformer架构的图像分割模型(如SegFormer、Swin-Unet)中,上采样和下采样结构是标准配置。下采样主要用于提取高层语义特征和减少计算成本,通过降低分辨率和聚焦于更宽范围的上下文信息。

2025-05-22 17:10:44 1676 1

原创 【差异分析】FDR

FDR 校正是一种用于多重假设检验的统计方法,旨在控制假发现率(False Discovery Rate),即在所有阳性结果中假阳性的比例。

2025-05-22 12:41:16 2288

原创 【AI模型学习】Gumbel-Softmax —— “软硬皆吃”的函数

Gumbel-Softmax 是一种可微分的替代方案,用于在神经网络中对离散类别变量进行建模与采样。其核心优势在于能够在反向传播中保留梯度信息的同时,实现对离散变量的“近似采样”。

2025-05-22 12:39:39 7581

原创 【差异分析】t-test

独立样本 t 检验(two-sample t-test)是一种用于比较两组样本均值差异的统计方法,广泛应用于基因表达差异分析中。其核心目标是通过构造 t 统计量,检验实验组和对照组的平均表达值是否存在显著差异。

2025-05-21 16:43:48 1364

原创 【AI模型学习】ESM2

ESM-2是一个基于Transformer架构的蛋白质语言模型,提供多个版本选择,包括从8M到15B参数的不同规模模型,适用于不同计算需求的任务。

2025-05-21 16:38:57 8353

原创 【聚类】层次聚类

层次聚类

2025-05-19 08:53:31 1538

原创 【聚类】K-means++

K-means++ 是 David Arthur 和 Sergei Vassilvitskii 于2007年提出的改进 k-means 初始化方法,旨在通过更合理地选择初始簇心,减少 k-means 对随机初始化的敏感性,加快收敛并降低陷入次优解的风险

2025-05-19 08:52:29 2295

原创 【聚类】 K-means

K-means 是一种经典的原型聚类算法,旨在将数据点划分为 K 个簇,最大化簇内相似度并最小化簇间差异。其核心步骤包括初始化簇心、迭代优化(分配样本到最近簇心、更新簇心)和收敛判定。

2025-05-18 10:45:03 965 1

原创 【降维】LLE

局部线性嵌入(LLE)是一种基于流形学习的非线性降维方法,由 Roweis 和 Saul 于2000年提出。其主要目标是在低维空间中保留高维数据在局部邻域内的线性重构关系,从而揭示数据的内在低维流形结构。

2025-05-18 10:43:54 1248

原创 【降维】t-SNE

t-SNE(t-distributed Stochastic Neighbor Embedding)是一种非线性降维技术,由Laurens van der Maaten和Geoffrey Hinton于2008年提出,主要用于高维数据的可视化和聚类分析。

2025-05-17 09:32:27 2128

原创 【降维】PCA

主成分分析(PCA)是一种无监督的线性降维方法,最早由Karl Pearson在1901年提出。其核心目标是在保留数据总方差的前提下,将高维数据投影到低维空间。PCA的应用场景包括降维与可视化、去噪、特征压缩和数据预处理。

2025-05-17 09:31:29 1289

原创 【匹配】Hirschberg

Hirschberg 算法是 Dan Hirschberg 于1975年提出的一种用于序列全局比对的优化算法。

2025-05-16 17:45:34 924

原创 【匹配】Gotoh

Gotoh 算法是 Needleman-Wunsch 全局比对算法的改进版本,由 O. Gotoh 于1982年提出,主要用于支持仿射缺口惩罚的序列比对。

2025-05-16 17:44:24 1373

原创 【匹配】Smith-Waterman

Smith-Waterman算法是一种用于生物序列局部比对的经典动态规划方法,由Temple F. Smith和Michael S. Waterman于1981年提出。该算法旨在找到两条序列中得分最高的局部片段比对,允许插入、缺失和错配。

2025-05-15 22:41:46 1255

原创 【匹配】Needleman–Wunsch

Needleman-Wunsch算法是一种用于生物序列全局比对的经典动态规划方法,由Saul B. Needleman和Christian D. Wunsch于1970年提出。该算法通过构建积分得分矩阵,利用动态规划递推计算最优比对得分,并通过回溯还原最佳全局比对路径。

2025-05-15 22:40:35 1307

原创 【AI模型学习】GPT——从v1到v3

与GPT-2使用的WebText数据集不同,GPT-3的训练数据集规模更大,包含了各种公开的互联网文本资源,如书籍、文章、网站等。Zero-shot学习的能力使得GPT-2在处理不同任务时不需要大量的标注数据,它依靠之前的无监督预训练,已经学到了丰富的语言模式。例如,给定一段简单的描述:“根据下面的文本判断它是积极的还是消极的”,GPT-3可以直接根据文本生成情感分析的结果,完全不需要微调。上的能力也得到了极大的提升。这两个组件使用 mask 的方式有非常重要的差异,直接影响了模型的能力和任务的适用性。

2025-04-27 11:38:31 1204

原创 【AI模型学习】双流网络——更强大的网络设计

Two-Stream Convolutional Networks for Action Recognition in Videos作者:Karen Simonyan & Andrew Zisserman(牛津 VGG)

2025-04-24 12:28:35 1847

原创 【AI模型学习】CLIP——迁移模型的新高度

详解CLIP模型,包学会

2025-04-23 12:57:19 2346

原创 【AI模型学习】Swin Transformer——优雅的模型

最优雅的模型之一

2025-04-22 20:16:52 960

原创 【Python标准库】数学相关的9个标准库

本文档系统化地扩展了 Python 中数字与数学计算标准库的使用方法,适用于数据分析、科学计算、函数式编程、教学等领域的开发实践。

2025-04-19 12:49:08 2375 2

tranformer.py

这个实现是基础的 Transformer 层,可以根据需要扩展,例如加入位置编码、掩码机制等。

2025-04-16

用python实现k-means算法,同时进行可视化

K-means算法介绍 K-means是一种流行的聚类算法,用于将数据点划分为K个簇(或组)。它是一种迭代算法,旨在最小化簇内的方差,即试图找到使簇内点尽可能相似的簇中心。算法的基本步骤如下: 初始化:随机选择K个数据点作为初始簇中心。 分配:将每个点分配给最近的簇中心,形成K个簇。 更新:重新计算每个簇的中心,通常为簇内所有点的均值。 迭代:重复步骤2和3,直到簇中心不再显著变化或达到预设的迭代次数。 K-means算法简单、易于实现,并且对于大规模数据集相对高效。然而,它也有一些局限性,比如: 需要预先指定K值,而这个值通常不是显而易见的。 对初始簇中心的选择敏感,可能导致局部最优解。 可能无法很好地处理非球形或大小不一的簇。

2024-06-02

用python代码实现的熵权法

这段代码首先定义了一个entropy_weight_method函数,它接受一个特征矩阵作为输入,然后通过以下步骤计算权重和综合得分: 对特征矩阵进行归一化处理,使得每一列的和为1。 计算每个特征的熵,然后通过归一化处理得到熵值。 根据熵值计算每个特征的权重,权重越大表示该特征的重要性越高。 计算每个样本的综合得分,即特征矩阵与权重向量的点积。 根据综合得分对样本进行排序,得到排名。

2024-06-02

Python文件实现一个使用Ridge回归和普通线性回归来拟合带有噪声的数据集

演示如何使用Ridge回归和普通线性回归来拟合具有高次多项式特征的数据,并比较两者在处理数据噪声时的效果。文件中生成了一组基础数据,向其添加了随机噪声,然后通过多项式特征转换来提高数据的复杂性。接着,文件分别使用普通线性回归和Ridge回归模型来拟合这些数据,并绘制了两种回归模型的预测结果与原始数据的对比图。

2024-06-01

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除