一、感知机
输入x(向量),权重w(向量),偏移b(标量)
(感知机的实质是一个二分类的问题,0或1)

2、训练感知机

3、收敛定理

4、感知机存在的问题
(1)不能拟合xor问题,只能产生线性的分割面

二、多层感知机
1、学习xor
两个分类器的组合


2、sigmoid激活函数
将输入投影到(0,1)的空间中去

3、Tanh激活函数
将输入投影到(-1, 1)


4、ReLU激活函数
![]()

5、总结
多层感知机使用隐藏层和激活函数来得到非线性模型
常用的激活函数Sigmoid,Tanh,ReLU
使用Softmax来处理多类分类
超参数为隐藏层数,和各个隐藏层大小
本文介绍了感知机的基本原理,它作为二分类模型,仅能处理线性可分问题。感知机无法解决XOR问题,而多层感知机通过引入隐藏层和激活函数解决了这一局限,能够建立非线性模型。Sigmoid、Tanh和ReLU等激活函数在多层感知机中扮演关键角色,使得模型能够拟合更复杂的函数。此外,多层感知机常使用Softmax进行多类分类,并通过调整隐藏层数量和大小来优化模型性能。
1262

被折叠的 条评论
为什么被折叠?



