逻辑回归

逻辑回归算法是目前最流行使用最广泛的一种学习算法。

从二元的分类问题开始讨论。 我们将因变量(dependent variable)可能属于的两个类分别称为负向类（negative class）和正向类（positive class），则因变量 1，其中 0 表示负向类，1 表示正向类。 但如果是线性回归的话，那他的假设值就可能小于0或者大于1，为了使它的输出值永远这0-1之间，我们需要采用逻辑回归算法。

我们引入一个新的模型，逻辑回归，该模型的输出变量范围始终在 0 和 1 之间。 逻辑回归模型的假设是： ℎ𝜃(𝑥) = 𝑔(𝜃𝑇𝑋) 其中： 𝑋 代表特征向量。逻辑函数是一个常用的逻辑函数为 S 形函数（Sigmoid function），公式为：