一、本文介绍
本文给大家带来的改进机制是2024最新的,Kolmogorov-Arnold 网络(Convolutional KANs),这种架构旨在将 Kolmogorov-Arnold 网络(KANs)的非线性激活函数整合到卷积层中,从而替代传统卷积神经网络(CNNs)的线性变换。与标准的卷积神经网络(CNN)相比,KANConv 层引入了更多的参数,因为每个卷积核元素都需要额外的可学习函数。这使得它能够更好地捕捉数据中的空间关系。在实验中,KANConv 层在图像识别等任务中常常表现出比传统卷积层更高的精度,特别是当网络架构经过精心优化时。同时博主帮大家整理了多大九种的不同类型激活函数KANConv2d,总有一种适合你的数据集,包含:
- KANConv2d:原始基于 B 样条的 KAN 的卷积版本。
- FastKANConv2d:使用径向基函数 (RBF) 作为激活函数,这是 .
KANConv2D
- FasterKANConv2d:采用反射开关激活函数 (RSWAF)。
- ChebyKANConv2d:使用 Chebyshev 多项式作为激活函数。
- GRAMKANConv2d:实现 Gram 多项式作为激活函数。
- WavKANConv2d:使用 Wavelet 变换作为激活函数。
- JacobiKANConv2d:使用 Jacobi 多项式作为激活函数。
- ReLUKANConv2d:将 ReLU 的修改版本合并为激活函数。
- RBFKANConv2d:另一种使用径向基函数 (RBF) 作为激活函数的实现。
目录