超级会员免费看
本文介绍了两种不常见的激活函数：ARiA和modified arcsinh。ARiA激活函数具有非单调性，通过参数控制可适应不同场景，但参数调整复杂。modified arcsinh函数在SVM和MLP中表现出色，但实际应用有限。这两函数为深度学习提供了新的可能。
激活函数总结（三十六）：激活函数补充
1 引言
在前面的文章中已经介绍了介绍了一系列激活函数 (Sigmoid、Tanh、ReLU、Leaky ReLU、PReLU、Swish、ELU、SELU、GELU、Softmax、Softplus、Mish、Maxout、HardSigmoid、HardTanh、Hardswish、HardShrink、SoftShrink、TanhShrink、RReLU、CELU、ReLU6、GLU、SwiGLU、GTU、Bilinear、ReGLU、GEGLU、Softmin、Softmax2d、Logsoftmax、Identi
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
