- 博客(9)
- 收藏
- 关注
RSS订阅翻译 AI4PDE 论文阅读(1) 强化学习与物理系统结合
本研究首次提出一种知识引导的修正机制，用于降低建模瞬态偏微分方程（PDE）系统的神经代理模型中的展开误差。我们提出的混合PDE预测器与强化学习方法（HyPER）学习了一种基于强化学习的成本感知控制策略，以经济高效地调用（高成本的）仿真步骤来修正错误的代理模型预测。与现有将仿真器与神经代理模型"环路耦合"的方法不同，HyPER对计算仿真过程不施加任何可微性限制。此外，HyPER具有代理模型无关性和仿真器无关性，适用于任何能够求解瞬态PDE系统的神经代理模型和现成仿真器。
2025-09-23 15:23:23
267
2原创 PINN文章代码合集
简介：考虑数据预处理，如归一化，这篇文章中提到的一些方法可以去借鉴一下已投入大量精力改善_PINNs_的可训练性，例如领域分解、并行计算、尊重因果关系的自适应抽样、混合数值方案、复杂几何的位置信息编码等。简介：LSTM+PINN的合体，有研究意义，同时如何将传统的MLP转化为CNN的格式，甚至于Transformer的格式有启发意义。许多PINN论文是没有代码的，这里只列举了有代码的PINN，其实有些简单的PINN自己可以手动的尝试从0开始构建，还是不难的~简介：可以读一读，少量数据驱动+控制方程。
2025-03-18 19:40:58
2622
翻译 LMFusion: Adapting Pretrained Language Models for Multimodal Generation(部分翻译)
我们提出了 LMFusion，这是一个框架，用于为预训练的纯文本大语言模型 (LLM) 提供多模式生成功能，使它们能够理解和生成任意序列的文本和图像。LMFusion 利用现有 Llama-3 的权重来自回归处理文本，同时引入额外的并行转换器模块来处理扩散图像。在训练期间，来自每种模态的数据被路由到其专用模块：模态特定的前馈层、查询键值投影和标准化层独立处理每种模态，而共享的自注意力层允许跨文本和图像特征进行交互。
2025-01-08 15:38:18
369
原创 RefHCM: A Unified Model for Referring Perceptions in Human-Centric Scenarios
对于包含parsing Token的parsing Map来说，由于其每一个token中是不含有顺序关系的，如果采用自回归的方式进行处理，会降低效率，于是本文作者对于pasring token的处理将原来的因果注意力机制（我的理解为后续token必须要依赖前面的token才可以生成），改为并行的注意力机制以提高效率。对于并行的注意力机制作者引入了可学习的查询块（常见的Vit的操作），为了使得得统一的Encoder，Decoder架构能够更好的衔接上文中提到的VQ-VAE，这些查询块由codebook。
2025-01-05 17:06:11
1938
原创 SUTrack: Towards Simple and Unified Single Object Tracking
(翻译)在本文中，我们提出了一个简单但统一的单目标跟踪（SOT）框架，称为 SUTrack。它将五个 SOT 任务（RGB-based, RGB-Depth, RGB-Thermal,RGB-Event, RGB-Language Tracking）整合到一个统一的模型中。由于数据的不同性质，当前的方法通常设计单独的架构并为每个任务训练单独的模型。这种碎片化导致了冗余的培训过程、重复的技术创新以及有限的跨模式知识共享。
2025-01-04 20:59:29
1053
原创 Spider : A Unified Framework for Context-dependent Concept Segmentation
本文希望通过用一个统一的模型完成多个领域的同类型任务，比如本文中通过一个统一的模型完成了8个领域的CD相关的任务。来说，Encoder采用了预训练模型用于提取图片的特征，实际上Encoder部分获得的是多尺度的特征（E2,E3,E4,E5）,通过一个过度层将不同尺度的特征调整为统一的尺度，在Decoder部分进行特征融合，这里的操作类似于FPN（特征金字塔网络）。推理过程中动态头的生成采用的图片是用K-means算法得到的最靠近聚类中心的图片作为提示流的输入（可能这样的图片更具代表性吧）。
2025-01-04 17:35:24
2041
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人