逻辑回归(Logistic Regression, LR),逻辑回归虽然带有‘回归’二字,但是逻辑回归却属于分类算法。逻辑回归可以进行多分类操作,但由逻辑回归算法本身性质决定其更常用于二分类。
关于逻辑回归,可以用一句话来总结:逻辑回归假设数据服从伯努利分布,通过极大似然函数的方法,运用梯度下降或牛顿法来求解参数,来达到将数据二分类的目的。(后续的博文会陆续介绍里面所蕴含的玄机)
首先我们了解一个函数:sigmoid,逻辑回归就是基于这个函数构建的模型。sigmod函数公式如下:
对应的函数图像如下:
这个函数有如下特点:
在中间范围内的函数斜率最大;
无论X取何值,Y轴都在0,到之