20230111 Multiscale Simulations of Complex Systems by Learning their Effective Dynamics

最新推荐文章于 2025-07-29 16:44:11 发布
最新推荐文章于 2025-07-29 16:44:11 发布
阅读量238 收藏
点赞数 1
CC 4.0 BY-SA版权
分类专栏： paper 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/WRStop/article/details/128691629
文章提出了一种结合大规模模拟和低阶模型的新方法，称为LED，用于有效模拟复杂系统。通过高维到低维状态的转换，使用RNN跟踪和预测低阶状态，以处理非马尔可夫动态。实验在FitzHugh-Nagumo方程等复杂系统上展示了有效性，表明LED能在保持准确性的同时提供速度提升。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Multiscale Simulations of Complex Systems by Learning their Effective Dynamics

通过学习复杂系统的有效动力学进行多尺度模拟

Motivation

解析所有时空尺度来大规模预测-计算资源要求高

低阶模型-快 但是 效果不那么好

提出将大规模模拟和低阶模型结合起来，以学习各种复杂系统的有效动力学（LED）

Model

高维状态与低维状态，高维：细粒度的系统结构；低维：粗粒度的状态

第一阶段Twarm：高维状态作为输入，同时根据方程来进行系统演变，演变过程中不断把每个时间步的高维状态通过encoder降维输入给RNN

经过一小段时间后，进入第二阶段，记录了历史状态的的RNN开始独立模拟dynamics，之后再将通过解码器恢复系统的高维状态，之后就是不断的交替重复

低阶与高阶信息的转换：AE（Lift & Restrict 降维到latentspace）（Restrict 降维到latent space）

RNN作用有两个：1跟踪低阶状态的历史以对非马尔可夫动态进行建模，2预测在下一个时间步长Zt+∆t处的潜在状态

decoder采用了混合密度网络，混合密度网络通常作为神经网络的最后处理部分。将某种分布（通常是高斯分布）按照一定的权重进行叠加，从而拟合最终的分布。

概念的区分

LED，训练数据来源于高维信息

LatentLED，训练的基础上在低阶状态上进行模拟预测

Multi-交替重复

Results

在不同的复杂系统上做了大量实验，也包括不同的模型组合，比如AE+RNN可以替换为AE+LSTM

FitzHugh-Nagumo方程，FHN方程是有非线性反应项的一类扩散方程,是生物神经中电流传输分析的重要数学模型。

A：不同模型在第一阶段的表现，识别合理的降维latent space维度，评价指标为均方误差MSE；dz＝2之后，MSE趋于稳定，所以选取dz=2的AE（使用到的模型：主成分分析技术，又称主分量分析技术，旨在利用降维的思想，把多指标转化为少数几个综合指标；convolutional autoencoder：AE的全连接层换成卷积）

B：预测第二阶段在latent space动态演变的效果，Tf是预测的总的时间步长，平均归一化绝对差MAND作为评价指标；LSTM-end2end和RC显示出最低的测试误差，而RC的方差更大。所以选取LSTM-end2end。（端到端训练简单的理解就是不要预处理和特征提取，直接把原始数据扔进去得到最终结果，就是给模型更多自我调整的能力）

C：CSPDF与LED比较

ABC都没有使用Multiscale

D、E：Latent-LED与Multiscale-LED在不同的multiscale ratio ρ（两个阶段的时间之比）下error与speed上的比较，Multiscale-LED：the approximation error of LED decreases, at the cost of reduced speed-up，与Latent-LED相比，MNAD从约0.019降低到约0.003。然而，speed-up从60降低到2

F G H I其实都是在证明latentspace的预测效果

GHI：抑制剂密度中的Latent-LED预测与groundtruth进行了比较

3D Representation Methods: A Survey_METHODS
初见月
10-27 1131
3D表示方法综述(方法)
【论文阅读笔记】NeurIPS2020文章列表Part1
热门推荐
zincrain的博客
12-09 2万+
A graph similarity for deep learning An Unsupervised Information-Theoretic Perceptual Quality Metric Self-Supervised MultiModal Versatile Networks Benchmarking Deep Inverse Models over time, and the Neural-Adjoint method Off-Policy Evaluation and Learning.
ICLR 2014 International Conference on Learning Representations深度学习论文papers
weixin_34319640的博客
03-28 1353
ICLR 2014 International Conference on Learning Representations Apr 14 - 16, 2014, Banff, Canada   Workshop Track Submitted Papers Stochastic Gradient Estimate Varia...
CVPR2017论文摘要汇总
super_chicken的博客
04-09 1万+
1. Exclusivity-Consistency Regularized Multi-view Subspace Clustering Abstract: Multi-view subspace clustering aims to partition a set of multi-source data into their underlying groups. To boost the ...
Research URL
凌风探梅的专栏
05-30 4724
http://cg.cs.tsinghua.edu.cn/research_main.htm Research Projects Intelligent processing of internet visual media, Innovative Research Groups, National Natural Science Foundationh, PI: SHi-Mi
CVPR 2011 全部论文标题和摘要
3D Vision
09-21 1万+
CVPR 2011 Tian, Yuandong; Narasimhan, Srinivasa G.; , ■Rectification and 3D reconstruction of curved document images,■ Computer Vision and
历年计算机科学领域中各大顶会的获奖文章 ICCV、AAAI、CVPR...
ghw15221836342的博客
01-12 5056
Original address: https://jeffhuang.com/best_paper_awards.html By Conference:   AAAI   ACL   CHI   CIKM   CVPR   FOCS   FSE   ICCV   ICML   ICSE   IJCAI   INFOCOM   KDD   MOBICOM   NSDI   OSDI   PLDI...
5 Challenges in Nonlinear Analysis of Partial Differential Equations: Exploring Chaos and Singular ...
# 5 Challenges in Nonlinear Analysis of Partial Differential Equations: Exploring Chaos and Singular Behavior Partial differential equations (PDEs) are equations that describe how an unknown function...
循环神经网络 中文情感分析案例
2301_76654710的博客
07-28 796
目录一、数据处理1、读取原始文件2、清洗数据3、分词4、构建词典并保存5、把每条文本编码成数字列表6、固定长度二、设置数据集、数据加载器三、构建模型结构四、配置具体模型参数与训练细节五、开始训练并保存六、模型测试（测试集）七、单条评论测试（可选）又做了一个小案例，刚好来复盘一下，是关于分析酒店评论的好坏，首先原始数据集如下：前面一列是标签，1代表好评，0代表差评，后面的是评论内容，一共有5000多条评论，下面开始：这里我总结了一下大概的步骤：读取原始文件 --> 清洗数据（去除标点符号等） --> 分词 -
基于深度学习的图像分类：使用ShuffleNet实现高效分类
qq_74383080的博客
07-27 917
本文介绍了基于ShuffleNet的轻量级图像分类方法。首先阐述了图像分类的定义和应用场景，包括医疗、自动驾驶等领域。重点分析了ShuffleNet的核心技术：点群卷积和通道混洗操作，这些设计在保证精度的同时显著降低了计算量。文章提供了完整的代码实现方案，包括数据预处理、模型加载、训练和评估流程，使用CIFAR-10数据集进行验证。实验表明，ShuffleNet在保持较高分类精度的同时，具有模型轻量化优势，特别适合移动和嵌入式设备应用。最后建议读者可以尝试扩展应用到其他数据集或改进模型架构。
基于深度学习的医学图像分析：使用YOLOv5实现细胞检测
qq_74383080的博客
07-28 1463
本文介绍了使用YOLOv5实现医学图像中细胞检测的方法。文章首先阐述了医学图像分析和细胞检测的重要性及其在病理诊断、生物医学研究等领域的应用。然后详细讲解了YOLOv5的架构优势，包括高效性、灵活性和可扩展性。接着提供了完整的代码实现方案，包括环境准备、数据集加载、预训练模型迁移、模型训练与评估等步骤。通过实际案例展示了如何将YOLOv5应用于细胞检测任务，并鼓励读者尝试改进模型性能。文章为AI在医疗影像分析领域的实践应用提供了实用指导。
【第四章:大模型（LLM)】01.神经网络中的 NLP-(2)Seq2Seq 原理及代码解析
IT古董
07-28 391
本文介绍了Seq2Seq（序列到序列）模型的基本原理及其在自然语言处理中的应用。Seq2Seq模型由编码器和解码器组成，通过编码器将输入序列转换为上下文向量，再由解码器生成目标序列。文章详细阐述了模型架构、数学公式及训练流程，并针对传统模型的不足引入了注意力机制。通过PyTorch代码示例演示了编码器、解码器和完整Seq2Seq模型的实现方法。该模型在机器翻译、文本摘要、对话系统和语音识别等领域有广泛应用。
AE、VAE与GAN简明指南：三大生成模型对比
最新发布
Galen_xia的博客
07-29 534
AE、VAE与GAN简明对比指南 本文对比了三种主流生成模型的核心特点： AE（自编码器）：通过编码-解码结构压缩还原数据，结构简单但生成能力有限，适合压缩和去噪任务。 VAE（变分自编码器）：在AE基础上加入概率分布，使隐空间连续可插值，能生成新样本，适用于数据增强和可控生成。 GAN（生成对抗网络）：采用生成器与判别器对抗训练，生成质量最佳但训练难度大，适合高质量图像生成任务。 三种模型各具优势：AE简单易用，VAE平衡质量与稳定性，GAN生成效果最优但需精细调参。选择时需权衡复杂度、训练稳定性和生成质
基于深度学习的胸部 X 光图像肺炎分类系统（七）
wh_xia_jun的专栏
07-26 327
评估结果总结=====")print(f"评估样本数只考虑有有效边界框的结果计算关键指标print(f"平均平均重合度中位数中间水平标准差波动程度准确率（模型预测肺炎且实际有肺炎的比例）print(f"模型预测准确率肺炎绘制IoU分布直方图（看大多数样本的表现）label=f'平均值分布直方图')交并比(IoU)')频数')绘制预测概率与IoU的关系（看模型自信度和准确性是否相关）预测概率与IoU的关系')肺炎预测概率')交并比。
深度学习篇---剪裁&缩放
道阻且长，行则将至。
07-25 1005
深度学习图像预处理中，剪裁和缩放是关键操作：剪裁通过截取关键区域去除冗余信息，常用方法包括中心剪裁、随机剪裁和目标区域剪裁；缩放则通过插值算法统一图像尺寸，主要方法有最近邻、双线性和双三次插值。二者协同使用能有效提升模型训练效率和泛化能力，但需注意平衡细节保留与计算成本，避免过度处理导致特征丢失。实际应用中应根据任务需求选择合适的策略组合。
Inception网络架构：深度学习视觉模型的里程碑
2301_80338712的博客
07-25 931
本文深入探讨了谷歌研究团队开发的Inception网络架构，这一架构自2014年提出以来，对计算机视觉领域产生了深远影响。从最初的GoogLeNet（Inception v1）到后续的多个版本迭代，Inception系列网络不仅在ImageNet等图像分类竞赛中取得了卓越成绩，还引入了多个关键创新，如并行多尺度卷积结构、批量归一化技术和残差连接等。本文详细分析了Inception架构的演进历程、核心设计理念以及其在计算机视觉任务中的应用，同时探讨了该架构的优缺点及其对后续深度学习网络设计的启示。
储粮温度预测新方案！FEBL模型用代码实现：LSTM+注意力+岭回归的完整流程
2301_76444133的博客
07-25 408
本文提出了一种特征增强型宽度学习（FEBL）模型用于储粮温度预测。该模型结合LSTM提取时序特征，通过多头自注意力机制增强关键特征，并采用宽度学习系统扩展模型容量。数据处理阶段使用滑动窗口构建时序数据集，并进行归一化处理。模型整合特征增强模块和宽度学习系统，最后采用岭回归计算输出权重以避免过拟合。实验结果表明，该方法能有效预测储粮温度，评价指标包括MAE、RMSE和MAPE。该方案为储粮温度监控提供了新的深度学习解决方案。
基于深度学习的医学图像分析：使用CycleGAN实现图像到图像的转换
qq_74383080的博客
07-29 577
本文介绍了CycleGAN在医学图像转换中的应用。文章首先阐述了医学图像分析的基本概念和图像转换在诊断、研究等方面的价值。随后详细讲解了CycleGAN的核心原理，包括其包含的两个生成器和判别器架构，以及关键的循环一致性损失机制。通过PyTorch代码示例，展示了从数据预处理、模型构建到训练评估的完整实现流程。实验证明，CycleGAN能够在不依赖配对数据的情况下实现高质量的医学图像转换。文章为医学图像处理领域的研究者提供了实用的技术参考，并鼓励读者进一步探索模型优化和应用拓展。
从JPEG到SER：小波+CNN如何横扫CVPR/ICASSP？
Tulingxueshu的博客
07-28 988
分享一个大模型时代很有潜力的研究方向：小波变换+CNN。随着深度学习的发展，小波变换与CNN的结合受到了越来越多的关注。小波变换能够有效地提取信号的多尺度特征，而CNN则擅长处理图像等复杂数据。两者的结合不仅在图像压缩、语音情感识别等领域取得了显著成果，还为解决特征提取和模型优化等问题提供了新的思路。
DPFL-Nets： Deep Pyramid Feature Learning Networks for Multiscale Change Detection-2022-ITTNLS4
12-28
### DPFL-Nets：深层数字金字塔特征学习网络在多尺度变化检测中的应用 DPFL-Nets（Deep Pyramid Feature Learning Networks）旨在解决遥感影像和其他视觉数据中多尺度变化检测的问题。该方法通过构建深层次的特征金字塔，有效捕捉不同尺度的变化信息。 #### 特征金字塔的重要性 特征金字塔是识别系统中检测不同尺度目标的基本组成部分[^2]。传统的方法依赖于图像金字塔来处理多尺度问题，但这会带来巨大的计算开销和内存消耗。相比之下，基于深度卷积神经网络(DCNNs)的方法能够自然地形成一个多尺度的特征表示层次结构，从而减少了对外部图像金字塔的需求[^3]。 #### 架构设计 DPFL-Nets采用了类似于Feature Pyramid Network (FPN)的设计理念，即利用自顶向下的路径以及横向连接来增强低层特征图的空间分辨率并保留高层语义信息。具体来说： - **自底向上通路**：负责提取基础特征； - **自顶向下通路**：融合来自更深层的信息到较浅层； - **横向连接**：将相同大小的感受野内的高低级别特征相结合； 这种方法不仅提高了模型对于细粒度细节的理解力，而且使得整个框架可以更好地适应多种比例尺上的变化情况。 #### 应用实例 为了验证所提出的算法的有效性和优越性，研究人员通常会在公开的数据集上进行实验评估。例如，在COCO这样的标准测试平台上，使用类似Faster R-CNN的基础架构配合DPFL-Nets作为特征抽取模块，可以获得优于其他单一模型的结果，并且保持较高的实时性能(约每秒五帧)。 ```python import torch.nn as nn class DPFLNet(nn.Module): def __init__(self): super().__init__() self.backbone = Backbone() # 自定义骨干网络 self.top_down_pathway = TopDownPathway() self.lateral_connections = LateralConnections() def forward(self, x): bottom_up_features = self.backbone(x) top_down_features = self.top_down_pathway(bottom_up_features[-1]) fused_features = [] for i in range(len(bottom_up_features)): lateral_feature = self.lateral_connections[i](bottom_up_features[i]) if i != 0: upsampled_top_down = F.interpolate(top_down_features[-i], size=lateral_feature.shape[2:], mode='nearest') combined = lateral_feature + upsampled_top_down else: combined = lateral_feature fused_features.append(combined) return fused_features[::-1] ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值