感知机与多层感知机+激活函数

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

停止条件:对所有的样本分类正确
在这里插入图片描述
在这里插入图片描述
感知机存在的问题:
一条线无法分割以下四个点:
在这里插入图片描述
😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁
再1969年,因为发现了这个问题,机器学习陷入了一个寒冬
😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁😁
在这里插入图片描述


在这里插入图片描述

对1,2,3,4进行分类,分别使用蓝色和黄色进行分类,得到的结果“相乘”(乘法定义为,相同为+,相异为-)

观察:终于有一个多层次的网络了,虽然只有两层
在这里插入图片描述
为什么叫隐藏层呢? 因为输入输出是不能改变的,能控制的只有中间的一层
在这里插入图片描述

“激活”函数:非线性

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
Sigmoid是一个soft版本

在这里插入图片描述
Tanh是-1到1
在这里插入图片描述
在这里插入图片描述
早期经常做的就是给一堆已存在的东西重命名😂😂😂😂😂😂😂😂😂😂😂😂😂😂😂😂😂😂😂😂😂

在这里插入图片描述

就是再Softmax 中加入了一层,然后起了一个新的名字
在这里插入图片描述
在这里插入图片描述

激活函数是为了防止层数的塌陷

一般的。如果单层使用128能较好的拟合,多层的模型(比如3层)可能就不需要每层都128个,比如64-》32-》10,或者可以先expend 256->64->32

在这里插入图片描述

----------------------------------在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值