【机器学习】多层感知机的理解

本文介绍了多层感知机在解决异或问题上的优势,指出单层感知机无法解决线性不可分问题,而多层感知机通过非线性转换能解决此类问题。文章通过示例解释了反向传播算法的原理,并对比了浅层模型(如SVM、Boosting、LR)与多层感知机在表达能力上的差异,强调了深层网络的表达优势。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

上篇说到感知机模型实现了逻辑或问题,在另一个问题上感知机确存在巨大漏洞!

异或问题

1957年,罗森布拉特提出了感知机模型。随后,他的好朋友明斯基发现了一个问题——感知机不能解决异或问题。

我们尝试使用MATLAB求解感知机关于异或问题的解:

               

从左到右依次是初始状态,迭代500次的状态,残差曲线。由图可以看出模型是没有收敛的,陷入了无限迭代。

从原理上分析,异或问题本身是线性不可分的问题,所以用线性的感知机模型无法解决。

我们发现异或问题有这样的解:

                                                                  

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值