极限学习机(ELM)是一种简单的单层前馈神经网络(SLFN)学习算法。理论上,极限学习机算法(ELM)往往以极快的学习速度提供良好的性能(属于机器学习算法),由Huang等人提出。ELM的主要特点是它的学习速度非常快,相比传统的梯度下降方法(如BP神经网络),ELM不需要迭代过程。其基本原理是随机选择隐藏层的权重和偏置,然后通过最小化输出层的误差来学习输出权重。
img
ELM算法的主要步骤
-
随机初始化输入到隐藏层的权重和偏置:
-
隐藏层的权重和偏置是随机生成的,并且在训练过程中保持不变。
-
-
计算隐藏层的输出矩阵(即激活函数的输出):
-
使用激活函数(如sigmoid、ReLU等)计算隐藏层的输出。
-
-
计算输出权重: