你还想用KAN发顶刊?那就从这篇文章开始!

在AI研究的蓬勃发展中Kolmogorov-Arnold网络(KAN)正崭露头角。自诞生起,其热度持续攀升,成果斐然。例如U-KAN在医学图像的分割与生成中,实现高准确率与低计算成本的出色平衡。

在学术舞台上,KAN表现夺目。ICASSP 2025会议上诸多创新成果吸睛,Nature子刊、IEEE等也发表了CKANs模型、PIKANs架构等佳作,助力KAN不断进阶。当下,KAN创新聚焦模型优化与跨领域拓展,已成功涉足金融、生物等领域。

为助力大家深入钻研,我们精心整理了【12篇KAN前沿论文】多数附开源代码,从不同角度剖析KAN,为你的研究提供思路。

对资料感兴趣的可以 [丝 xin] 我~~

【论文1】KAN 2.0: Kolmogorov-Arnold Networks Meet Science

Synergizing science and the Kolmogorov-Arnold Network (KAN).

Synergizing science and the Kolmogorov-Arnold Network (KAN).

1.研究方法

KAN compiler (kanpiler) converts symbolic expressions to KANs

KAN compiler (kanpiler) converts symbolic expressions to KANs

该论文提出将 Kolmogorov-Arnold 网络(KANs)与科学相结合的框架,通过引入 MultKAN 增加乘法节点提升网络能力与可解释性;将科学归纳偏差融入 KANs,包括添加重要特征、构建模块化结构、编译符号公式;从 KANs 中提取科学知识,如识别重要特征、模块化结构和符号公式 。

2.论文创新点

 Detecting functional modularity in KANs.

Detecting functional modularity in KANs.

  1. 拓展KAN网络:提出MultKAN,引入乘法节点,使网络能更清晰地揭示数据中的乘法结构,增强了网络的可解释性和表达能力。

  2. 双向协同:实现科学与KAN的双向协同。一方面将科学知识融入KAN,另一方面从KAN中提取科学见解,促进两个领域的融合发展。

  3. 开发新工具:在pykan中开发了MultKAN、kanpiler(KAN编译器)和tree converter(树转换器)等新功能,方便将符号公式转换为KAN以及分析KAN的结构。

  4. 应用于多领域:将KAN应用于多种科学发现任务,如发现守恒量、拉格朗日量、隐藏对称性和本构定律,展示了其在实际科研中的有效性。

【论文2】Physics-informed neural networks with hybrid Kolmogorov-Arnold network and augmented Lagrangian function for solving partial differential equations

1.研究方法

An overview of AL-PKAN architecture

An overview of AL-PKAN architecture

论文提出 AL-PKAN 模型,采用 GRU 和 KAN 模块组成的混合编码器 - 解码器架构。先通过 GRU 模块对输入序列进行编码,将其特征映射到高维潜在空间;再利用 KAN 模块在潜在空间中进行解码,把多元函数分解为一系列可训练的一元激活函数(由 B 样条函数线性组合表示),最后使用增强拉格朗日函数重构损失函数进行优化。

2.论文创新点

 Algorithmic procedure for AL-PKAN.

Algorithmic procedure for AL-PKAN.

  1. 融合KAN提升模型性能:将KAN融入PINNs框架,利用KAN可将多元函数分解为一元激活函数的特性,有效提取适合样条插值的信号分量,提升模型的非线性拟合能力和可解释性。

  2. 改进损失函数优化过程:针对PINNs中二次惩罚函数优化时惩罚因子膨胀的问题,提出用增强拉格朗日函数重构损失函数,将惩罚因子和拉格朗日乘子设为可学习参数,避免惩罚因子无限扩张,提高模型优化稳定性。

  3. 实验验证优势显著:通过多个基准实验对比,AL-PKAN模型在数值解码准确性上表现优异,相比其他基于PINNs的方法,预测精度平均提高一到两个数量级,且能有效平衡不同约束,减少约束违反程度。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值