入选ICLR 2025!剑桥大学提出Celcomen模型,首次在空间转录组学分析中实现因果推断可识别性

因果解耦表征 | (香港理工ICLR24)联合学习个性化因果不变表示以应对异构联邦客户端 本论文提出了一种新的个性化联邦学习方法FedSDR,旨在解决异构联邦客户端中的捷径学习问题。实验主要验证FedSDR在不同数据集上的性能,以及与现有方法的对比。实验场景包括图像分类任务,其中存在捷径特征(如背景颜色或环境),这些特征在训练数据中与标签高度相关,但在测试数据中可能变化。本论文针对个性化联邦学习(PFL)中的捷径陷阱问题,提出了一种联邦捷径发现与消除方法(FedSDR)。通过构建异构客户端的结构因果模型,设计了协作式捷径特征发现和基于个性化因果不变表示的捷径消除方法。 阅读详情

在生物学领域,细胞的基因表达谱同时编码了其内在特性和外在组织微环境的信息。解开这两种效应的因果关系,对全面理解细胞内与细胞间的复杂相互作用十分关键。为此,需要一个稳健的因果解耦 (causal disentanglement) 框架。

因果解耦是一种机器学习方法,旨在通过揭示数据中的因果关系分离出有用的特征和无关的特征,从而减少模型对虚假关联的依赖,提高模型的鲁棒性和泛化能力。在因果解耦等机器学习理论发展的同时,生物学领域的技术进步也推动了空间转录组学的发展,使得研究人员可以在单细胞分辨率下同时测定细胞的基因表达和空间坐标,并能在空间样本中大规模开展基因敲除等扰动实验。

然而,当前处理空间转录组学的计算方法常常忽视了细胞和组织水平的因果扰动建模, 而这一点对于揭示组织疾病状态背后的机制至关重要。例如,虚拟细胞 (Virtual Cells) 模型可以预测微环境和宏观环境 (如供体年龄、细胞所在组织、药物处理、gRNA 介导的基因敲除等) 变化对基因表达的影响,虚拟组织 (Virtual Tissues) 模型不仅能估计环境对单个细胞的影响,还能够推测单个细胞对其周围环境及整体组织的影响。

基于此,来自剑桥大学的研究团队提出了一个名为 Celcomen 的虚拟组织模型,其本质是一种基于数学因果关系的新型图神经网络,用于解开空间转录组学和单细胞数据中的细胞内和细胞间基因调控的秘密。 研究人员验证了 Celcomen 在真实和自模拟的空间转录组学数据中解开并恢复基因-基因相互作用的能力。

相关成果以「Estimation of single-cell and tissue perturbation effect in spatial transcriptomics via Spatial Causal Disentanglement」为题,入选 ICLR 2025。

研究亮点:

  • 研究证明了将虚拟细胞 (Virtual Cells) 模型推广至虚拟组织 (Virtual Tissues) 模型的可行性

  • 研究提出了首个在空间转录组学分析中具有因果推断可识别性 (causally identifiable) 的模型

  • 通过整合解离单细胞数据 (dissociated single-cell data) 和空间单细胞数据 (spatial single-cell data) 进行基因调控推断

在这里插入图片描述

论文地址:
https://openreview.net/forum?id=Tqdsruwyac

开源项目「awesome-ai4s」汇集了 200 余篇 AI4S 论文解读,并提供海量数据集与工具:

https://github.com/hyperai/awesome-ai4s

数据集:首次尝试利用 Perturbmap 数据集

为了展示 Celcomen 在空间背景下正确捕捉扰动效应的有效性,研究人员在体内全转录组数据集上进行了基准测试,该数据集测量了空间转录组学中的基因敲除,名为 Perturbmap。 Perturbmap 数据集包含了一种小鼠模型,用于研究 KP 肺癌,此外,可能存在 Jak2 或 Tgfbr2 基因敲除。该数据集注释了 5 个空间区域作为病变区域,这些区域的部分是 1) KP 野生型癌症,或 2) KP 癌症与 Jak2 敲除,或 3) KP 癌症与 Tgfbr2 敲除,如下图所示:

在这里插入图片描述

图:在空间轴上的散点图,每个 Visium 点的颜色表示肿瘤细胞表型(KO 表示敲除,KP 表示野生型肿瘤)

在评估 Celcomen 能力的过程中,研究人员所使用的胎儿脾脏数据集来自 https://developmental.cellatlas.io/fetalimmune, 以对数标准化形式提供,明确表示进行了对数变换和文库大小标准化;胶质母细胞瘤数据集来自 10x 基因组学, 并进行了相同的文库大小标准化、百万计数 (CPM) 和对数变换,底数为 e;此外,仅保留了在至少 100 个细胞中表达的基因。

模型架构:一种新型因果分析框架 Celcomen

本研究提出的 Celcomen 模型通过结合拉格朗日力学 (Lagrangian mechanics) 和因果推断,实现了因果推断可识别性和更高的模型可解释性。可识别性简单来说,就是给定足够的数据和合理的假设,模型是否能明确地识别出因果关系,而不会因为多个不同的假设或模型设定而得出同样的观察结果——这为空间转录组学研究提供了一种新型的因果分析框架。

Celcomen 是基于 3 个核心假设构建的:①一阶邻居 (1st neighbors) 之间的基因-基因 (gene-gene) 期望相关性必须与观测数据完全匹配;②同一空间点/细胞内的基因-基因期望相关性必须与观测数据完全匹配;③因果充分性 (Causal Sufficiency) 假设:在研究的基因对之间,不存在未测量的共同原因。

如下图所示:Celcomen 分为推理模块 (CCE) 和生成模块 (SCE) 两部分:

在这里插入图片描述

图:Celcomen 推理模块 (CCE) 和生成模块 (SCE)

(a) 推理模块 (CCE) : 可以从空间解析转录组数据 (spatial RNA-seq data) 以及可选的解离单细胞 RNA-seq 数据 (dissociated scRNA-seq data) 中学习基因-基因 (gene-gene) 关系。在空间数据中,高亮的细胞-细胞对 (cell-cell pair),以及在单细胞 RNA-seq 数据中的单个细胞,展示了 CCE 如何区分细胞内 (H′ab)与细胞间 (Hab) 的基因-基因相互作用。

(b) 生成模块 (SCE): 利用 CCE 学习到的基因-基因关系,以在细胞或基因扰动后模拟组织行为的反事实情境(counterfactual tissue behavior)。

  • 反事实情境:这是一种用于研究生物组织在不同假设条件下可能呈现的行为的方法,主要用于因果推断、干预模拟和生物医学建模。它涉及构建一个假设的情境,即如果某个关键因素发生变化(如基因敲除、药物干预、外部环境变化等),生物组织的行为会如何不同于实际观测到的情况。

研究结果:Celcomen 模型在解开因果关系方面具有可识别性

研究人员通过自一致性合成数据和真实世界数据实验验证了 Celcomen 模型在因果结构学习和解开因果关系方面的可识别性。

Celcomen 具有强大的自一致性和可识别性

如下图所示,在合成数据集上,Celcomen 始终展示出其推断的基因-基因相互作用与真实数据之间的强烈一致性,表明 Celcomen 具有强大的自洽性 (self-consistency),因此也具有可识别性。

  • 自洽性:在统计学、优化和机器学习中,自洽性通常意味着模型的假设、推导和优化过程能够收敛到一个稳定的解

  • 可识别性:指的是在因果推断模型中,是否能够基于观察数据唯一确定因果关系的模型参数或因果效应

在这里插入图片描述

图:箱线图 (box plot) x 轴表示用于比较的数据集 y 轴展示了斯皮尔曼相关系数(上方三图)和相关性 p 值(下方三图)

研究人员还通过将 Celcomen 模型应用于多个人类胎脾的空间转录组切片,以确认其在真实人类数据上的可识别性保证,结果观察到这两个基因-基因相互作用矩阵之间的斯皮尔曼相关系数在 0.5-0.6 范围内。此外,捕捉到的基因相互作用在细胞内和细胞间矩阵中是生物学上合理的,因为它们遵循已知的生物学细胞内和细胞间过程。

这证明了 Celcomen 的可识别性,确认了其隐含的稳定性和鲁棒性超越了理论和合成数据,且同样可以在真实人类样本中观察到。

因果解耦能力:Celcomen 能够成功解开内在与外在转录组变异的来源

接着,研究人员又测试了 Celcomen 解开细胞内与细胞间基因调控程序的能力 (解耦能力)。他们在一个真实的人类临床环境中应用 Celcomen,分析人类胶质母细胞瘤(大脑癌症)的单细胞分辨率空间转录组数据集,如下图所示,研究人员发现 Celcomen 能够成功地解开内在与外在转录组变异的来源。

在这里插入图片描述

图:Celcomen 在人类胶质母细胞瘤中再现已知的干扰素敲除生物学,并解析细胞内和细胞间基因-基因相互作用

体内空间反事实验证:与随机基准相比,Celcomen 的表现显著更高

为了进一步展示 Celcomen 的有效性,研究人员在体内全转录组数据集 Perturbmap 上进行了基准测试。结果显示,对于所有病变,预测与体内测量的斯皮尔曼相关性范围为 0.28-0.47。为了评估此性能的显著性,研究人员将模型与随机基准进行比较,其中 Celcomen 在随机打乱的数据上运行。结果发现,与随机基准相比,Celcomen 的表现显著更高,p 值为 0.0079,如下图 (c-f) 所示:

在这里插入图片描述

图:在肺癌模型中体内验证的反事实预测c,e) 每个病变的箱型图d,f) 散点图,每个点表示一个特定肿瘤病变区域

总而言之,研究提出的模型为通过因果推断实现机制可解释性开辟了新的道路。正如在实验中展示的,由于 Celcomen 模型的因果可辨识性,研究人员可以高精度地恢复神经网络的参数值。Celcomen 的进展显著影响生物医学领域,比如通过揭示疾病如何导致组织功能衰竭,促进有关治疗效益的可验证假设。随着技术的进步,Celcomen 的价值将不断增长,推动疾病建模和机制理解的提升。

人工智能充分释放空间转录组学潜力

本研究取得的相关成果是对空间转录组学的又一次发展——空间转录组技术是生物信息学领域近年来的重大突破之一,该技术通过提供详细的、空间定位的分子特征,极大地改变了生物医学研究范式,使生物学研究人员能够以前所未有的分辨率阐明组织结构和功能。

过去几年,空间转录组技术实现快速发展,数据得到不断的积累。在此基础上,2024 年 8 月发布的《Nature Methods 特刊评论:用人工智能之「钥」,开空间组学之「锁」》一文指出,人工智能有可能充分释放空间组学的潜力,促进复杂数据集的整合并发现新的生物医学结论。

具体而言,AI 可以促进空间转录组学与 scRNA-seq 的整合,使得研究人员在单细胞水平上测量转录组范围内的空间基因表达谱。此外,通过整合空间组学与组织学成像数据,AI 可以构建高分辨率、全面的三维空间组织图谱,覆盖广泛的组学模态。随着可用数据集数量的增长,多模态大语言模型 (MM-LLMs) 可以在空间组学、医学成像和临床文本数据上进行训练,用于生物医学研究和精准医学中的任务。

2023 年 10 月,中国科学院数学与系统科学研究院张世华课题组在 Nature Computational Science 上, 发表了题为「Integrating spatial transcriptomics data across different conditions, technologies, and developmental stages」的研究论文。该工作针对来自不同技术、不同发育时间点、不同疾病条件的生物组织多切片空间转录组数据建立了整合分析新工具 STAligner,能帮助研究人员在进行空间转录组学分析时发现新的重要生物学见解。
*论文原文:

https://www.biorxiv.org/content/10.1101/2022.12.26.521888v1.full.pdf

为了解决空间转录组数据分析面临的多方面难题,2024 年 7 月,清华大学生命科学学院/结构生物学高精尖创新中心/清华-北大生命科学联合中心张强锋副教授课题组, 在 Cell Systems 杂志在线发表题为「Tissue module discovery in single-cell resolution spatial transcriptomics data via cell-cell interaction-aware cell embedding」的研究论文。该研究开发了基于图自编码器 (Graph autoencoder) 深度学习框架的人工智能算法 SPACE (spatial transcriptomics data analysis via 「interaction-aware」 cell embedding),能够从单细胞分辨率的空间转录组数据中识别空间细胞类型和发现组织模块,可被用于大规模的空间转录组研究。

点击阅读更多详情:登 Cell 子刊!清华大学张强锋课题组开发 SPACE 算法,组织模块发现能力领先同类工具

展望未来,通过利用 AI 的强大计算能力和深度学习算法,研究人员有望解锁空间转录组学的全新维度,显著提升疾病研究、药物开发和个性化医学的效率,使科学家能够以前所未有的精度探索生物系统的空间异质性,从而带来开创性的科学发现。

参考资料:
1.https://openreview.net/forum?id=Tqdsruwyac

2.https://www.thepaper.cn/newsDetail_forward_28521641
3.https://www.cas.cn/syky/202310/t20231020_4981872.shtml

4.https://mp.weixin.qq.com/s/JnLixH6SBoLb0BIZTuF41w

机器学习×因果推断屠榜!!Celcomen 登顶 ICLR2025,因果可识别性再破天花板! 近年来,的交叉研究在学术界与工业界掀起浪潮。这一技术融合正在重塑多个行业的决策逻辑。在医疗领域,因果推断已能精准定位药物靶点与副作用机制,推动个性化治疗方案的发展;金融风控中,反事实分析技术正重构信用评分模型,提升风险预测的准确性;自动驾驶系统则借助因果推理增强复杂场景下的决策鲁棒性,突破传统感知算法的边界。技术发展呈现高效计算架构、跨模态因果迁移和轻量化推断引擎三大方向。混合架构创新通过图神经网络与因果图模型的深度融合提升推理效率;跨模态技术实现多源数据的因果关系对齐,拓宽应用场景; 阅读详情

相关推荐

顶会新赛道:机器学习+因果推断!最新idea屠榜ICLR25!

这不,剑桥大学便通过这两者结合,一举拿下ICLR25!主要在于:一方面,医疗、金融、交通预测等重要领域对因果性需求强烈。把机器学习和因果推断结合,则能使两者优势互补,从而提升模型的准确性、可解释性,自己用户对模型的信任性。另一方面,该思路改进比较简单,好上手,且能够跨学科合作,创新机会多。比如通过结合结构因果模型与图神经网络,便能是新思路!目前好中稿方向主要有:生成式AI+因果推断;强化学习+动态因果建模;小样本因果推断……为给大家节省时间,提高效率,11篇!论文原文+开源代码需要的同学看文末。

2401_88190197的博客 1407

LAGRANGIAN NEURAL NETWORKS拉格朗日神经网络

HNN只能使用正则化坐标系且长时间无法保证能量守恒,LNN既可以使用任意坐标系也可以保证能量守恒,通过双摆的角度和能量预测、相对论粒子的速度预测,证明了LNN在保证能量守恒的有效性以及不受坐标系的影响,最后将这种方法应用到了坐标不连通的图网络中。

weixin_52134258的博客 1913

lagrangian_nns:拉格朗日神经网络

Miles Cranmer,Sam Greydanus,Stephan Hoyer,Peter Battaglia,David Spergel,Shirley Ho接受了ICLR 2020年关于微分方程的讲习班 概括 在此项目中,我们提出了拉格朗日神经网络(LNN),该网络可以使用神经网络对任意拉格朗日参数进行参数化。 与哈密顿神经网络相反,这些模型不需要规范的坐标,并且在难以计算广义动量的情况下(例如,双摆)表现良好。 这对于在学习型潜在表示中使用特别有吸引力,这是HNN挣扎的情况。 与不同,LNN是完全通用的,并扩展到非完整系统,例如一维波动方程。 神经网络 LNN(这项工作) 学习动态 :check_mark: :check_mark: :check_mark: :check_mark: :check_mark: 学习连续时间动态 :check_mark: :check_mark: :check_mark: :check_mark: 了解确切的保护法 :check_mark: :check_mark: :check_mark:

NeurIPS 2022 | 基于解耦因果子结构学习的去偏差图神经网络

©作者 |范少华单位| 北京邮电大学博士生来源| 北邮GAMMA Lab论文标题:Debiasing Graph Neural Networks via Learning Disentangled Causal Substructure论文链接:http://shichuan.org/doc/140.pdf代码和数据:https://github.com/BUPT-GAMMA/DisC近日,...

Paper weekly 1953

惊呆了!Oracle 11g从入门到放弃的保姆级指南(新手必看)

本文为Oracle 11g数据库新手提供了一份详尽的入门指南。内容涵盖从安装配置、SQL*Plus工具使用、核心的SQL增删改查操作,到事务、索引等进阶概念的解析。文章旨在帮助初学者避开常见陷阱,快速掌握这一经典关系型数据库管理系统的基本操作与核心技能,实现从入门到上手。

ooo22的博客 271

嵌入式Linux Qt/QML开发实战:从Buildroot配置到应用部署

本文详细介绍了嵌入式Linux Qt/QML开发全流程,从Buildroot系统配置、交叉编译工具链搭建到应用部署与调试。以RK3506开发板为例,提供实战指南,帮助开发者高效完成嵌入式应用开发,解决常见环境配置与性能优化问题。

m2n3o4p5的博客 231

顶会新宠!剑桥凭“机器学习+因果推断”杀疯ICLR!2025发论文的黄金赛道来了!

看了这几年各大顶会的投稿趋势,发现相关的论文增长迅猛,研究热情高涨。比如ICLR 2025上剑桥大学提出的Celcomen模型,首次实现空间转录组学因果推断可识别性。不仅如此,机器学习+因果推断在工业界的需求同样旺盛,微软、Uber等企业纷纷入场,医疗、金融、自动驾驶等领域还存在大量未解决的因果建模问题,这些可都是丰富的应用场景和创新切入点。2025年,我们可以从。

学姐带你玩AI的博客 1654

解决ADS1.2报错Cannot obtain license

报错如下 将licenses文件下的license内容进行修改: 修改为如下内容即可。 # # Generated on 2021-dec-1 by licwizard # PACKAGE ads armlmd 1.200 E32F0DE5161D COMPONENTS="armasm compiler bats armulate axd adwu fromelf armlink codewarrior armsd" INCREMENT ads armlmd 1.200 permanent uncounte

qq_46110320的博客 3466

拉格朗日神经网络完整入门指南:从理论到实战应用

拉格朗日神经网络(Lagrangian Neural Networks)是一种革命性的物理启发式深度学习模型,能够自动学习物理系统的拉格朗日量并保持能量守恒。与传统的神经网络相比,LNNs在建模复杂物理系统时展现出显著优势,特别是在需要保持物理约束的动力学预测任务中。 ## 什么是拉格朗日神经网络?🤔 拉格朗日神经网络是一种将经典力学中的拉格朗日框架与深度学习相结合的新型架构。它通过神经网络

gitblog_00200的博客 552

在centos7部署k8s搭建kubernetes集群

Kubernetes是一个开源的,用于管理云平台中多个主机上的容器化的应用,Kubernetes的目标是让部署容器化的应用简单并且高效(powerful),Kubernetes提供了应用部署,规划,更新,维护的一种机制。 Kubernetes一个核心的特点就是能够自主的管理容器来保证云平台中的容器按照用户的期望状态运行着(比如用户想让apache一直运行,用户不需要关心怎么去做,Kubernetes会自动去监控,然后去重启,新建,总之,让apache一直提供服务),管理员可以加载一个微型服务,让规划器来找

山东梅长苏 1万+

硬件-电源-智能保护:eFuse选型与实战设计全攻略

本文深入解析eFuse在硬件电源设计中的关键作用与实战选型技巧。作为智能保护器件,eFuse能提供毫安级精度的过流保护、多重故障防护和智能恢复功能,比传统保险丝快1000倍以上。文章详细介绍了eFuse的工作原理、五大选型维度和PCB布局要点,帮助工程师有效预防电源异常导致的硬件损坏,适用于AI服务器、工业控制等场景。

weixin_30879169的博客 201

关于2024年诺贝尔物理学奖颁发给了机器学习与神经网络领域的研究者的见解

近日,2024年诺贝尔物理学奖颁发给了机器学习与神经网络领域的研究者,这是历史上首次出现这样的情况。这项奖项原本只授予对自然现象和物质的物理学研究作出重大贡献的科学家,如今却将全球范围内对机器学习和神经网络的研究和开发作为了一种能够深刻影响我们生活和未来的突出成果。机器学习和神经网络凭借其高效、准确和实用的特点,已经广泛应用于生产制造、金融、医疗等众多领域。此次诺贝尔物理学奖的颁发,也引起了全球学术和科研圈的广泛关注和热议。对于这一评奖结果,你又有何不同的看法?

2301_76841790的博客 767

C# WPF上位机实战:从零开发空压机监控系统(含实时监控+故障预警+数据追溯)

在工业生产场景中,空压机作为核心动力设备,常面临这些痛点:压力/温度异常导致停机、油耗超标未及时发现、设备故障追溯无数据支撑、人工巡检效率低且易遗漏。而基于C# WPF开发的空压机监控系统,能通过实时采集设备运行参数、智能分析运行状态、联动故障预警,实现“状态监控-异常告警-数据追溯-远程管控”全流程自动化,完美解决传统管理模式的弊端。今天就带大家落地这套空压机监控系统,基于C# + .NET 8 + WPF + Modbus TCP/RTU协议,整合压力、温度、油耗、运行时长等核心参数监控,搭配WPF的数

这里只有干货:从 Modbus 通信到 MES 对接,从 YOLO 训练到工控机部署,带你搞定工业软件开发全流程。 1107

图神经网络论文笔记(一)———基于学习解耦因果子结构的图神经网络去偏

图神经网络大多数图神经网络(GNNs)通过学习输入图和标签之间的相关性来预测不可见图的标签。然而,通过对具有严重偏差的训练图进行图分类调查,我们惊奇地发现,即使因果关系始终存在,GNNs也总是倾向于探索虚假相关来进行决策。这意味着现有的基于这些有偏差数据集训练的GNNs泛化能力较差。从因果关系的角度分析这个问题,我们发现从有偏图中分解和解相关因果变量和偏差潜变量都是消除偏差的关键。在此启发下,我们提出了一个通用的解纠缠GNN框架来分别学习因果子结构和偏差子结构。

myec_lipse的博客 2189

cesium 实时轨迹

运用cesium中model和polyline添加模型和轨迹线,用CallbackProperty方法来实时改变经纬度。

God's asylum的博客 1964

YOLO11改进|注意力机制篇|引入MLCA轻量级注意力机制

YOLO11中添加MLCA轻量级注意力机制

A1983Z的博客 4066

【亲测免费】 Lagrangian Neural Networks 使用教程

Lagrangian Neural Networks (LNNs) 是由 Miles Cranmer 等人开发的一个开源项目,旨在使用神经网络参数化任意拉格朗日函数。与传统的哈密顿神经网络(HNNs)不同,LNNs 不需要使用正则坐标,并且在计算广义动量较为困难的情况下表现良好,例如双摆问题。LNNs 特别适用于学习潜在表示的情况,这是 HNNs 难以处理的场景。此外,LNNs 不仅限于全同系统,...

gitblog_00972的博客 1298

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

干货!神经辛形式:学习一般坐标系上的哈密尔顿方程

点击蓝字关注我们AI TIME欢迎每一位AI爱好者的加入!近年来,人们对学习哈密尔顿方程的方法进行了大量研究。尽管这些方法非常有前途,但常用的哈密尔顿方程的表示方法使用广义动量,而广义动量一般是未知的。因此,训练数据必须用这个未知的坐标系来表示,这给将模型应用于真实数据带来了困难。同时,哈密尔顿方程也有一个无坐标的表达方式,它是通过使用辛-2形式来表达的。在这项研究中,我...

AITIME_HY的博客 1419

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

拉格朗日神经网络完整指南:从物理原理到AI实践 [特殊字符]

拉格朗日神经网络(Lagrangian Neural Networks,简称LNNs)是一种革命性的AI模型,能够通过神经网络参数化任意拉格朗日量。与传统的哈密顿神经网络不同,LNNs不需要正则坐标,在广义动量难以计算的情况下(如双摆系统)表现尤为出色。 ## 什么是拉格朗日神经网络? 🤔 拉格朗日神经网络的核心思想是将物理系统的拉格朗日力学与现代深度学习相结合。通过神经网络学习系统的拉格朗

gitblog_00658的博客 579

Transformer Debugger:OpenAI革命性AI调试工具完全指南

Transformer Debugger(TDB)是OpenAI超级对齐团队开发的开源工具,专为深入理解语言模型内部工作机制而设计。这个强大的AI调试工具让开发者和研究者能够可视化分析Transformer模型的神经元、注意力头和自编码器潜在空间,为AI可解释性研究提供革命性的解决方案。 ## 🚀 什么是Transformer Debugger? Transformer Debugger是一

gitblog_00537的博客 1024

直播 | CVPR 2021论文解读:引入因果结构的解耦表征学习

「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为,单向地输出知识并不是一个最好的方式,而...

Paper weekly 1565

SToFM赋能空间转录组:多尺度AI模型破解生命组织的“拼图难题”

想象一下,你手里有一副超复杂的拼图——每一块碎片都是一个细胞,碎片上的花纹是它的基因表达“密码”,而拼图的最终图案是完整的人体组织。过去,没有工具能同时把这三层信息拼在一起,直到多尺度空间转录组基础模型SToFM(Spatial Transcriptomics Foundation Model)的出现。

罗小罗同学的博客 1042

因果推理与 AI:从关联分析到因果建模的跨越

随着人工智能技术的迅猛发展,尤其是深度学习在感知任务上的突破,当前AI系统在认知和推理能力上的局限性日益凸显。这些局限性根源在于,现有AI模型主要建立在关联分析的基础上,缺乏对因果关系的深入理解和建模能力。本文从工科视角系统探讨了因果推理的基本理论、关键方法及其在人工智能领域的前沿进展。

自律即自由 1194

医学AI领域的新宠儿:单细胞与空间转录组学|顶刊精析·24-10-29

文章讨论了单细胞转录组学(single-cell transcriptomics)和空间转录组学(spatial transcriptomics)技术的最新进展、挑战和前景,特别关注了这些技术在识别和表征细胞状态以及多细胞邻域方面的应用。文章的主要内容包括:单细胞转录组学:讨论了单细胞RNA测序(scRNA-seq)如何改变了我们对细胞多样性和基因表达动态的理解,并讨论了样本处理、数据整合、识别微妙的细胞状态、轨迹建模、去卷积和空间分析等方面的进展。空间转录组学:探讨了空间转录组学如何将单细胞置于多细胞邻域

罗小罗同学的博客 3806

从SVM到神经网络:拉格朗日乘子法在机器学习里的那些‘隐藏’应用

本文深入探讨了拉格朗日乘子法在机器学习中的关键应用,从支持向量机(SVM)到深度神经网络的优化设计。通过分析拉格朗日对偶、正则化约束及现代优化算法,揭示了这一古典方法如何成为AI算法设计的'隐形架构师',特别是在SVM的稀疏性解和神经网络的正则化中发挥核心作用。

weixin_29091837的博客 448
上一篇: LLM医疗推理能力深入剖析:你可以相信DeepSeek医生么?
下一篇: 华科大/上海AI Lab/上海交大科研先锋深度分享:最新成果,顶会投稿经验,跨学科合作挑战……
HyperAI超神经
博客等级 码龄7年 8873粉丝 1753原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值