基于 TensorFlow 的逻辑回归详解

Logistic ( 逻辑回归 )

一、基本概念简介以及理论讲解

1.1、回归

• 回归一般用于解决那些连续变量的问题，如：线性回归，它是通过最小化误差函数，来不断拟合一条直线，以计算出权重 w 和 偏差 b 的过程，它的目标是基于一个连续方程去预测一个值。
  
  
• 这里要讲解的 Logistic 回归，却常用于分类问题，也就是将观测值贴上某个标签，或者是分入某个预先定义的类别之中。回归应该是寻找一个连续值，而分类是寻找一个离散值。故理解常用于分类问题的 Logistic 回归的关键在于，我们是将先寻找到的该样本属于某个类可能性的连续值映射到了某一个类(我们一般将某一个类的 label 建模成离散值)。这就是 Logistic 常用于分类却叫做回归的原因 。

1.2、Logistic 函数的逆函数 –> Logit 函数

• 在了解 Logistic 函数之前，我们先来了解一下它的逆函数 Logit 函数，即对数几率函数。正如我们所了解的一样逆函数之间关于 y = x 直线对称，自变量 x 和因变量 y 互为对偶位置，因此，Logit 函数和 Logistic 函数有很多性质都有关联。
  
  
• Logit 函数的变量需要一个概率值 p 作为自变量，如果是二分类问题，确切一点是伯努利分布(即二项分布)，如果是多分类问题，则是多项分布。

<