逻辑回归精解

机器学习经典算法----逻辑回归

本博客以代码算法为依据重在分析逻辑回归算法的实用性，数据预处理部分视为前期工作。

概述

逻辑回归（也称“对数几率回归”）（英语：Logistic regression 或logit regression），即逻辑模型（英语：Logit model，也译作“评定模型”、“分类评定模型”）是离散选择法模型之一，属于多重变量分析范畴，是社会学、生物统计学、临床、数量心理学、计量经济学、市场营销等统计实证分析的常用方法。

• 1、代价函数

• 

• 可以综合起来为： 其中：

• 为什么不用线性回归的代价函数表示，因为线性回归的代价函数可能是非凸的，对于分类问题，使用梯度下降很难得到最小值，上面的