机器学习--Logistic回归

一、Logistic回归概述

        逻辑斯谛回归（logistic regression）是统计学习中的经典分类方法，属于对数线性模型，所以也被称为对数几率回归。这里要注意，虽然带有回归的字眼，但是该模型是一种分类算法，逻辑斯谛回归是一种线性分类器，针对的是线性可分问题。

做法：logistic训练分类器时的做法就是寻找最佳拟合参数，使用的是最优化方法。

分类与回归的区别：

        分类：预测样本属于哪个或者哪些预定义的类别，其输出值是离散值。

        回归：用于预测输入变量(自变量)和输出变量(因变量)之间的关系，特别是当输入变量的值发生变化时，输出变量的值也随之发生变化，其输出值是连续值。

1、Sigmoid函数

        考虑二分类任务，其输出标记y的取值为0和1，而线性回归模型产生的预测值是实值，于是需将实值z转换为0/1值。通过Sigmoid函数引入非线性因素，可以实现实值z转换为0/1值，处理二分类问题。

1、1 Sigmoid函数（逻辑函数）