多层感知机multiLayerPercetrons

本文介绍了多层感知机的基本概念,包括感知机的工作原理、常用的非线性激活函数及其作用,探讨了多隐藏层的优势与挑战,并通过实现一个具有单隐藏层的多层感知机模型进行实践。

目录

1. 感知机:

2. 常用非线性的激活函数

​3. 多层感知机——多隐藏层

4. 代码实践


1. 感知机:

感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别。

线性模型在处理一些问题时好用,但是在处理XOR问题时就出现了问题。

因为线性模型无法将①④和②③同时分类,但是通过增加隐藏层来逐步分类,如上图黄线和蓝线,两个步骤就能分出来。所用感知机为单分类单隐藏层感知机。

 隐藏层需要非线性的激活函数,不然本质的运算还是线性模型。

2. 常用非线性的激活函数

激活函数通过计算加权和并加上偏置来确定神经元是否应该被激活。它们是将输入信号转换为输出的可微运算。大多数激活函数都是非线性的。

2.1 Sigmoid激活函数

将输入投影到(0,1),\sigma (x)= \begin{cases}1&x>0\\0&otherwise \end{case}   

 sigmoid(x) = \frac{1}{1+e^{-x}}

 

 2.2 Tanh激活函数

将输入投影到(-1,1),

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值