1.感知机
感知机通常由一个或多个输入,一个输出和一个或多个权重组成。每个输入都有一个与之对应的权重,此外还有一个偏置项。
上图感知机接受x1,x2两个输入,对应w1,w2两个权重
1.感知机的加权求和
将每个输入乘以其对应的权重 ,然后将所有乘积相加,再加上偏置 b,n是输入的数量
2.感知机中的激活函数
在感知机中,激活函数是一个数学函数,它决定了一个神经元是否应该被激活,即是否应该向下一个层传递信号。
将感知机的加权求和结果传递给激活函数,以产生输出。
一个简单的感知机,常用的激活函数是阶跃函数,它将输出限制为两个值之一,0或1
阶跃函数:阶跃函数的输出只有两种可能,0或1。当输入的加权和超过某个阈值(通常是0)时,激活函数输出1,表示神经元被激活;否则输出0。
2.逻辑回归Logistic
逻辑回归主要用于二分类的情况,即结果只有两种可能的概率,是或否。
给定一个x,输出一个该样本属于该样本属于1对应类别的预测概率y^=P(Y=1∣X)\widehat{y}=P(Y=1∣X)y
=P(