tensorflow——逻辑回归

一、逻辑回归介绍 

回归一般用于解决那些连续变量的问题，如：线性回归，它是通过最小化误差函数，来不断拟合一条直线，以计算出权重w和偏差 b的过程，它的目标是基于一个连续方程去预测一个值。 逻辑回归（Logistic Regression）是机器学习中的一种分类模型。

1、Logistic 函数的逆函数 –> Logit 函数
在了解 Logistic 函数之前，我们先来了解一下它的逆函数 Logit 函数，即对数几率函数。正如我们所了解的一样逆函数之间关于 y = x 直线对称，自变量 x 和因变量 y 互为对偶位置，因此，Logit 函数和 Logistic 函数有很多性质都有关联。 

Logit 函数的变量需要一个概率值 p 作为自变量，如果是二分类问题，确切一点是伯努利分布(即二项分布)，如果是多分类问题，则是多项分布。
2、伯努利分布
它又称为二项分布，也就是说它只能表示成功和失败两种情况。当是二分类问题时，都可用该分布 
取 1，表示成功，以概率 p 表示
取 0，即失败，以概率 q = 1-p 表示 

伯努利分布的概率函数可以表示为： Pr(X=1) = 1 - Pr(X=0) = 1-q = p 

此外，Logistic 函数也是属于广义线性模型(GLM)的一种,在建立广义线性模型之前，我们还需要从线性函数开始，从独立的连续变量映射到一个概率分布。 

而如果是针对二分类的 Logistic 回归，由于是二分类属于二值选项问题，我们一般会将上面的概率分布建模成一个伯努利分布(即二项分布),而将上述的独立的连续变量建模成线性方程回归后的 y 值，最后再通过连接函数，这里采用对数几率函数 Ligit ,将连续的 y = wx +b 的线性连续变量映射到二项分布。 

只是，我们先将 Logit 函数，它的映射是从自变量 p(即二项分布发生的几率) 到 函数值(即y=wx+b，也就是连接函数y即 logit(p)) 的映射，故逆函数 Logistic 函数即上一段所讲，便可以将连续值映射到二项分布，从而用做分类问题。
3、logits函数
Logit 函数又称对数几率函数，其中 p 是二项分布中事件发生的概率，用发生的概率 p 除以不发生的概率 1-p, 即(p /1-p)称为事件的发生率，对其取对数，就成了对数几率函数(Logit 函数) 。