简单易学的机器学习算法——极限学习机（ELM）

acai83888

于 2017-05-29 22:53:00 发布

阅读量499

点赞数

文章标签： python 人工智能

原文链接：http://www.cnblogs.com/dreamafar/p/6919256.html

版权

本文介绍了极限学习机(ELM)这一快速学习算法的基本概念。ELM针对单隐层神经网络，通过随机初始化输入权重和偏置，实现对输出权重的计算，以达到最小化输出误差的目标。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

极限学习机的概念

ELM是一种新型的快速学习算法，对于单隐层神经网络，ELM可以随机初始化输入权重和偏置并得到相应的输出权重。

对于一个单隐层神经网络，假设有N个任意的样本 $\left ( X_i,t_i \right )$ ，其中 $X_i=\left [ x_{i1},x_{i2},\cdots,x_{in} \right ]^T\in R^n$ ， $t_i=\left [ t_{i1},t_{i2},\cdots,t_{im} \right ]^T\in R^m$

。对于一个有 $L$ 个隐层节点的单隐层神经网络可以表示为

其中， $g\left ( x \right )$ 为激活函数， $W_i=\left [ w_{i,1},w_{i,2},\cdots,w_{i,n} \right ]^T$ 为输入权重， $\beta _i$ 为输出权重， $b _i$ 是第 $i$ 个隐层单元的偏置。

单隐层神经网络的学习目标是使得输出的误差最小，可以表示为

$\sum_{j=1}^{N}\left \| o_j-t_j \right \|=0$

即存在 $\beta _i$ ， $W _i$ 和 $b _i$ ，使得

可以矩阵表述为
$H\beta =T$ 。

其中， $H$ 是隐层节点的输出， $\beta$ 为输出权重， $T$ 为期望输出。

$\beta =\begin{bmatrix} \beta^{T} _1\\ \vdots \\ \beta^{T} _L \end{bmatrix}_{L\times m}$ ， $T =\begin{bmatrix} T^{T} _1\\ \vdots \\ T^{T} _N \end{bmatrix}_{N\times m}$

转载于:https://www.cnblogs.com/dreamafar/p/6919256.html

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。