超级会员免费看
本文介绍了两种不常见的激活函数——ScaledSoftSign和NormLinComb，它们是SoftSign和线性组合激活函数的变体，包含可训练参数，用于图像分类。尽管尚未经过广泛验证，但这些函数提供了模型复杂性和优化的潜在优势。
激活函数总结（四十三）：激活函数补充
1 引言
在前面的文章中已经介绍了介绍了一系列激活函数 (Sigmoid、Tanh、ReLU、Leaky ReLU、PReLU、Swish、ELU、SELU、GELU、Softmax、Softplus、Mish、Maxout、HardSigmoid、HardTanh、Hardswish、HardShrink、SoftShrink、TanhShrink、RReLU、CELU、ReLU6、GLU、SwiGLU、GTU、Bilinear、ReGLU、GEGLU、Softmin、Softmax2d、Logsoftmax、Identi
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
