【几何深度学习（Geometric Deep Learning）】高阶群的可微实现

高阶群的可微实现方法
最新推荐文章于 2025-12-02 20:45:02 发布
最新推荐文章于 2025-12-02 20:45:02 发布
阅读量53 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 人工智能技术白皮书 文章标签： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/VectorShift/article/details/151068575

目标：在深度学习框架（PyTorch / TensorFlow）中构造可微、数值稳定且计算高效的分解与参数化方法，以便直接在梯度下降过程中使用这些群元素。

1. 引言

2. 理论基础

2.1 Lie 群与李代数

 

2.2 可微分参数化

为什么要分解：在高阶群中，每个分量可以独立优化；同时，利用张量化操作（batch 维度）即可并行计算。

2.3 对数映射的闭式

了解本专栏 订阅专栏 解锁全文 超级会员免费看
几何深度学习（Geometric Deep Learning）—— 原理与核心算法
VectorShift的博客
09-01 400
主要内容包括：几何深度学习的概念框架、对称性与不变性的数学基础、卷积、注意力及图网络中的群理论实现，以及常见模型（GCN、GAT、SAGE、Graph Transformer、PointNet++ 等）的核心原理。全文以**“从先验到归纳”**的视角展开，帮助读者把握如何将物理对称性或几何约束嵌入网络结构。
微分几何学习进阶：从经典教材到前沿论文
AI天才研究院
07-17 840
微分几何是连接数学、物理、计算机科学的“桥梁学科”——它用微积分研究空间的几何性质，既支撑了广义相对论的时空模型，也推动了计算机视觉的流形学习。对于已经掌握曲线曲面论的学习者而言，如何从“基础”走向“进阶”，再从“教材”切入“前沿”？先通过经典教材巩固黎曼几何、李群等核心框架，再突破霍奇理论、指标定理等进阶主题，最后掌握前沿论文的解读方法。我们会用“尺子”比喻黎曼度量，用“对称操作”类比李群，用代码计算曲率张量，用案例分析几何深度学习的应用，帮你把抽象的微分几何变成可触摸的“工具”。物理。
几何深度学习（Geometric Deep Learning）技术
吴建明wujianming_110117
03-10 1502
几何深度学习（Geometric Deep Learning）技术 几何深度学习综述 从论文Geometric Deep Learning: Grids, Groups, Graphs, Geodesics, and Gauges，了解一下几何深度学习。 https://geometricdeeplearning.com关于这个主题，研究者甚至建了一个网站。 几何深度学习——Geometric Deep Learning 几何深度学习，从对称性和不变性的角度，尝试对一大类机器学习问题进行统一。 因此，几何
Geometric deep learning: going beyond Euclidean data译文
weixin_42037651的博客
09-12 2382
Geometric deep learning: going beyond Euclidean data（几何深度学习：超越欧几里得数据） 摘要： 许多科学领域研究具有非欧几里德空间的底层结构的数据。一些例子包括计算社会科学中的社会网络、通信中的传感器网络、脑成像中的功能网络、遗传学中的调节网络以及计算机图形学中的网状表面。在许多应用中，此类几何数据庞大而复杂（在社交网络中，规模达数十亿），是机器学习技术的自然目标。特别是，我们希望使用深度神经网络，它最近被证明是解决计算机视觉、自然语言处理和音频分析等广泛
《Deep Learning with Python》（中文版）—读书笔记
studyeboy的专栏
11-02 4054
深度学习 人工智能>机器学习>深度学习 人工智能：努力将通常由人类完成的智力任务自动化。（人们输入的是规则（即程序）和需要根据这些规则进行处理的数据，系统输出的是答案） 机器学习：机器学习系统是训练出来的，而不是明确的用程序编写出来的。将与某个任务相关的许多示例输入机器学习系统，它会在这些示例中找到统计结构，从而最终找到规则将任务自动化。(人们输入的是数据和从这些数据中预期得到的答案，系统输出的是规则。这些规则随后可以应用于新的数据，并使计算机自主生成答案。) 机器学习的技术定义：在预先定.
Image Segmentation Using Deep Learning: A Survery
Fantastic
09-23 4080
图像分割综述–论文翻译 论文地址：https://arxiv.org/pdf/2001.05566.pdf 摘要 图像分割是图像处理以及计算机视频的关键内容，其应用场景非常广泛，如场景理解、医学图像分析、机器人感知、视频监控、增强显示和图像压缩等。目前关于图像分割的算法论文数量非常多。最近，由于深度学习模型在计算机视频任务中的出色表现，大量的图像分割研究工作都在开发深度学习模型在图像分割中的应用。在本次调查综述中，我们提供全面的图像分割的文献综述，涵盖了语义分割和实例分割的广泛开创性工作，其中包括全卷机像素
总结 62 种在深度学习中的数据增强方式
热门推荐
小鹏AI
01-16 2万+
此外，它表明传统的数据增强技术使 RL 算法能够在基于像素的控制和基于状态的控制方面胜过复杂的 SOTA 任务。从上图可以明显的看出，基于 SA 的数据增强方式可以将形状保留下来，但样式（包括颜色、纹理和对比度）是随机的。基于特征空间的数据增强首先将图像转换为嵌入或表示，然后对图像的嵌入执行数据增强，最后再向大家介绍下这部分内容。这是第一个非常详细地分别处理图像的内容和样式特征的工作，并且它在流行的基准数据集上显示出令人印象深刻的性能。
深度学习如何入门？
GarfieldEr007的专栏
05-25 1万+
beanfrog ，computer vision 161 人赞同 先了解个大概 A Deep Learning Tutorial: From Perceptrons to Algorithms 神经网络肯定是要学习的，主要是BP算法，可以看看PRML3、4、5三章，可先忽略其中的贝叶斯视角的解释。一些主要的算法理解要看具体的论文了，有个Matlab的程序不错，有基本算法的实
Deep Learning（深度学习）之（十）神经网络在机器学习分类任务中的应用
qwj的博客
06-21 1万+
关键词：神经网络，正向计算，反向传播，神经元，最大化间隔损失，梯度检验， 参数的哈维初始化， 学习速率， ADAGRAD（自适应梯度法） 这是斯坦福CS224d深度学习与自然语言处理的第3课，这节课先会介绍单层和多层神经网络和它们在机器学习分类任务中的应用， 接着介绍如何利用反向传播算法来训练这些神经网络模型（在这个方法中，我们将利用偏导数的链式法则来层层更新神经元参数）。在给出神经网络以及
该存储库包含用于连续采样的扩散 MRI 信号重建的几何深度学习 (DISCUS) 项目的代码.zip
04-23
几何深度学习（Geometric Deep Learning）是近年来发展起来的一个研究领域，其目标是利用深度学习模型处理非欧几里得数据结构，如图、网格和流形。在DISCUS项目中，这种技术被应用到扩散MRI信号的重建，通过学习数据...
【人工智能】【深度学习】④ Stable Diffusion核心算法解析：从DDPM到文本生成图像的飞跃
最新发布
xiezhiyi007的专栏
12-02 743
Stable Diffusion是AI绘画领域的革命性技术，其核心基于扩散模型：通过"拆快递"式的噪声添加（前向扩散）和"拼乐高"式的逐步去噪（逆向过程），实现从噪声到图像的构建。本文用快递分拣、乐高拼装等生活化类比，解析CLIP文本编码器（翻译文字指令）、VAE（图像压缩）和U-Net（智能拼图）三大核心组件。相比传统GAN模型，它避免模式崩溃，提升语义理解能力，成为文本生成图像的黄金标准。通过代码与架构图解析，帮助开发者快速掌握这项技术的核心逻辑。
【卷积神经网络】卷积层、池化层、全连接层
一杯水果茶！足矣~
11-29 1721
卷积神经网络通过三维输入数据（h×w×c）直接提取特征，相比传统神经网络能更好地保留空间信息。其核心架构包含卷积层、池化层和全连接层，其中只有带权重参数的层（如卷积层和全连接层）计入网络深度。卷积层通过滑动窗口、步长调节、边缘填充和多核设计实现多层次特征提取，小卷积核堆叠既能扩大感受野又能减少参数量。感受野随网络深度递推增长，计算公式为RF_new = RF_prev + (k-1)×S_prev，这种层级结构使浅层提取局部特征，深层捕获全局特征。
基于LSTM-GARCH混合模型：降息预期驱动金价攀升，白银刷新历史峰值的蒙特卡洛模拟验证
12-01 568
本文通过构建宏观经济变量与贵金属价格联动的AI量化模型，结合市场情绪分析算法与历史数据回溯，分析美联储降息预期、美元指数波动及关键经济数据对黄金、白银价格走势的量化影响机制。
深度学习理论推导--多元线性回归
weixin_43719312的博客
12-02 521
本文介绍了多元线性回归的矩阵表示与求解方法。首先通过矩阵运算展示了如何从一元线性回归扩展到多元情形，推导出预测值的矩阵表达式。然后定义了残差平方和(RSS)的矩阵形式。最后详细阐述了利用链式法则对参数求导的过程，说明如何通过最小化残差平方和来求解最优参数。全文以矩阵运算为核心，展示了多元线性回归的简洁数学表达和求解思路。
深度学习理论推导--梯度下降法
weixin_43719312的博客
12-02 653
本文通过小猪体重增长的例子，生动解释了梯度下降法的原理。首先回顾线性回归的求解方法（最小二乘法和正规方程），指出非线性问题的局限性。然后以二元函数z=1+x+2y为例，通过微分推导证明：在微观尺度下，当增量方向与梯度方向一致时，函数增长最快。文中详细分析了不同方向上的增量变化，并用向量运算说明梯度方向的重要性。最后指出梯度向量∇z=[1,2]^T即为函数增长最快的方向，为后续讲解梯度下降法奠定了基础。
【动物识别系统】Python+TensorFlow+Django+人工智能+深度学习+卷积神经网络算法
子午的博客
12-01 312
动物识别系统，基于TensorFlow搭建Resnet50卷积神经网络算法，通过对4种常见的动物图片数据集（猫、鸡、马、狗）进行训练，最后得到一个识别精度较高的模型，然后搭建Web可视化操作平台。技术栈项目前端使用Html、CSS、BootStrap搭建界面。后端基于Django处理逻辑请求基于Ajax实现前后端数据通信选题背景与意义在人工智能技术蓬勃发展的当下，动物识别作为计算机视觉领域的重要应用方向，有着广泛的实际需求，如动物保护监测、智能安防等场景均需精准高效的动物识别能力。
【光伏功率预测】EMD 分解 + PCA 降维 + LSTM 的联合建模与 Matlab 实现
专注AI大模型,软件混淆,授权
12-01 1165
本文提出一种基于EMD-PCA-LSTM的光伏功率预测方法，通过多尺度分解与深度学习结合解决光伏功率的非线性、非平稳性问题。首先利用EMD将功率序列分解为不同时间尺度的IMF分量，再结合辐照度、温度等外部特征构建特征矩阵，通过PCA降维后输入LSTM网络进行预测。Matlab实现流程包括数据预处理、EMD分解、PCA降维、LSTM建模等步骤，并给出完整的代码框架。实验结果表明该方法能有效提高预测精度，RMSE、MAE等指标表现良好。该方法可扩展加入更多特征和深度学习结构，为光伏功率预测提供有效解决方案。
深度学习实战（基于pytroch）系列（四十）长短期记忆（LSTM）从零开始实现
echo的博客
11-28 1460
LSTM（长短期记忆网络）是一种改进的循环神经网络，通过引入输入门、遗忘门和输出门三个控制单元，以及记忆细胞结构，有效解决了传统RNN的梯度消失问题。其核心计算包括：三个门控单元通过sigmoid函数调节信息流动，候选记忆细胞使用tanh函数生成，最终记忆细胞由遗忘门和输入门共同决定。实验使用周杰伦歌词数据集进行训练，从零实现了LSTM模型的参数初始化和前向传播过程，包括状态初始化、门控计算和隐藏状态更新。该结构能更好地捕捉长距离依赖关系，适用于序列建模任务。
LLM底层原理学习笔记：Adam优化器为何能征服巨型模型成为深度学习的“速度与稳定之王”
这里是数字化与人工智能的 “实验场” 与 “瞭望台”
11-29 1074
摘要：在大规模深度学习时代，Adam优化器凭借融合动量和自适应学习率的双重优势，成为训练数十亿参数模型的首选方案。传统优化器如SGD面临梯度稀疏和学习速度不均、复杂优化空间中的鞍点等挑战。Adam通过一阶动量平滑梯度方向，二阶动量定制化学习率，有效解决这些问题。针对Adam在泛化性上的不足，AdamW通过解耦权重衰减进一步优化性能。案例分析表明，Adam在Transformer架构训练中能稳定控制不同参数的收敛速度，使其成为大模型训练的默认优化器。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值