KAN自提出至今,一直备受顶会青睐,前不久KAN被ICLR25接收为Oral Paper,与之相关的研究越发火热,其中结合小波变换的思路尤盛。
一方面,小波变换的多尺度分析能力可以为KAN提供更丰富的特征表示,从而提高模型的性能。另一方面,KAN的灵活性和表达能力可以让这组合在处理复杂数据集时表现出色。二者可谓相辅相成,在特征提取、故障诊断等方面发挥了重要作用,如今更是成为了信号处理领域的前沿课题。
作为热门前沿方向,KAN+小波变换的多篇高质量的论文已经在多个顶会顶刊上发表,比如一区上的一篇成果,通过结合两者,在乳腺癌诊断各指标上都非常出色。如果有同学想以此发论文,建议多看看这些论文找灵感,我已经整理打包好了一部分新成果,基本都有开源代码,需要的可无偿获取。
全部论文+开源代码需要的同学看文末
Prediction of Infiltrating Ductal Carcinoma using Morlet Wavelet Integrated Kolmogorov Arnold Network
方法:论文提出了一种结合小波变换(Morlet小波)和KAN的模型,用于预测乳腺癌中的浸润性导管癌(IDC)。通过在KAN模型中集成Morlet小波变换,能够有效提取组织病理学图像中的特征,从而提高模型的诊断性能。
创新点:
-
将Morlet小波变换与Kolmogorov Arnold网络集成,用于从组织病理学图像中提取特征。
-
采用了一种数据增强技术,平衡了IDC_regular_ps50_idx5数据集中的组织病理图像。
-
通过结合Morlet小波变换,实现了91.07%的特异性、90.83%的精确度、88.87%的召回率和89.97%的整体准确率。
Wav-KAN: Wavelet Kolmogorov-Arnold Networks
方法:本文提出了一种名为Wav-KAN的新型神经网络架构,通过将小波变换与KAN相结合,显著提升了神经网络的可解释性和性能。Wav-KAN利用小波函数的多分辨率分析能力,能够高效地捕捉输入数据中的高频和低频成分,同时避免过拟合噪声。
创新点:
-
Wav-KAN 通过将小波函数整合到科尔莫戈罗夫-阿诺德网络结构中,有效捕捉输入数据的高频和低频成分。
-
Wav-KAN 利用了离散小波变换(DWT)进行多分辨率分析,避免了在细节提取过程中需要重复计算前一步骤的问题。
-
KAN通过在边缘而非节点上放置可学习的一元函数来替代线性权重,使得每个节点仅对前一层的一元函数进行求和。
CaLMPhosKAN: Prediction of General Phosphorylation Sites in Proteins via Fusion of Codon-Aware Embeddings with Amino Acid-Aware Embeddings and Wavelet-based Kolmogorov–Arnold Network
方法:论文提出了一种名为CaLMPhosKAN的新型蛋白质磷酸化位点预测模型,通过结合基于密码子的嵌入和基于氨基酸的嵌入,并利用卷积双向门控循环单元提取局部窗口内的时空特征。最终,模型通过基于小波变换的Kolmogorov-Arnold网络(Wav-KAN)进行分类预测。
创新点:
-
提出了一种新颖的磷酸化位点预测方法,首次将密码子级别的信息融入其中。
-
引入了一种基于小波的Kolmogorov-Arnold Network(KAN)模型,用于捕捉残基在窗口级别的时空相关性。
-
通过对CaLM和ProtTrans嵌入进行早期融合,研究表明这种方法在多个性能指标上优于单独使用任何一种嵌入。
FC-KAN: FUNCTION COMBINATIONS IN KOLMOGOROV-ARNOLD NETWORKS
方法:本文提出了一种名为FC-KAN的新型神经网络架构,通过在KAN中结合多种数学函数(如B样条、小波和径向基函数)的输出,利用逐元素操作(如加法、乘法等)来增强模型对低维数据的特征捕捉能力。
创新点:
-
通过引入KANs(神经网络框架),展示了它在不同领域的有效性,如量子计算和时间序列预测。
-
FasterKAN通过引入反射开关激活函数(RSWAF),实现了比FastKAN更快的前后处理速度。
-
通过在每个网络层中结合EfficientKAN的B-样条和FastKAN的Gaussian RBFs,BSRBF-KAN实现了比其他KANs更快速的收敛速度。
关注下方《学姐带你玩AI》🚀🚀🚀
回复“小波KAN”获取全部方案+开源代码
码字不易,欢迎大家点赞评论收藏