双曲函数网络在模式分类中的应用
模式分类是一个重要的研究领域,涵盖了众多具有重大应用意义的信息处理问题,如人类身份识别、语音识别、多媒体数据检索等。传统的多层前馈神经网络虽被证明是通用逼近器,但训练过程往往依赖试错,难以保证在有限迭代内收敛到全局最优解。为解决这一问题,研究人员提出了双曲函数网络,旨在通过线性参数组合双曲基函数,实现模式分类的近似和分类特性。
1. 双曲函数及其性质
- 动机 :在神经网络结构中,Sigmoid、双曲和高斯函数常被用作非线性判别或激活函数。线性组合感知器基函数理论上能逼近任何感兴趣的函数,但非线性学习参数的迭代训练过程繁琐,且不能保证收敛到最优解。因此,研究人员探索了双曲函数的线性组合,以近似感知器基函数中的非线性参数,用于模式分类。
- 双曲函数的幂和积性质 :从双曲函数(\sinh(x))、(\cosh(x))和(\tanh(x))的基本性质可以看出,低信号宽度或周期的函数可以表示为高信号宽度函数的幂和积的和。由于(\cosh^2(x) - \sinh^2(x) = 1),这些双曲函数都可以用它们自己的原始基函数表示。对于非整数倍信号宽度的情况,可以使用相应的公式进行信号的伸缩。这些观察结果表明,非线性激活函数中的相位和宽度参数可以通过幂和积项的线性组合来近似。
- (\sinh(2x) = 2\sinh(x)\cosh(x))
- (\cosh(2x) = 2\cosh^2(x) - 1)
- (\tanh(2x) = \frac{2\tanh(x)}{1 + \tanh^2(x)}
超级会员免费看
订阅专栏 解锁全文
8

被折叠的 条评论
为什么被折叠?



